生成式AI資料品質堪憂!WHO發布最新AI倫理指南

撰文記者 彭梓涵
日期2024-01-23
(圖片來源:網路)
近(18)日,世界衛生組織(WHO)發布最新人工智慧倫理指南,該指南概述40多項建議,供政府、科技公司和醫療保健者參考,以確保多模態大模型(LMMs)的生成式人工智慧在衛生保健領域獲得適當應用。

LMMs是由一種或多種類型的資料輸入,包括文字、視訊和影像,並產生不限於輸入資料類型多種輸出的模型,LMMs的獨特之處,其會模仿人類溝通方式,並且能夠完成未被明確定義的任務,自去年以來,大家熟知的ChatGPT和Bard等平台都是基於這種技術。

WHO在新指導文件中列舉LMMs在健康領域的五種廣泛應用方式,包括診斷和臨床保健、患者諮詢症狀和治療指導、電子病歷的文書管理和行政任務、醫療和護理教育、科學研究和新藥開發。

該指南文件還詳細說明了衛生系統將面臨的風險,例如,性能最佳的多模態大模型其可能產生的可及性和可負擔性問題,以及可能會產生虛假、不準確或不完整的陳述,這可能會對健康決策者造成傷害。

此外文件還提及,LMMs的資料品質堪憂,在種族、族裔、血統、性別、性別認同或年齡等方面都存在偏見,可能會產生更多的誤判。

WHO強調,為創造安全有效的多模態大模型,各國政府、科技公司、醫療機構和人員、病患以及民間社團等各利益相關者,都應參與此類技術的開發和部署各階段工作,包括參與監督和監管工作。

資料來源:https://news.un.org/zh/story/2024/01/1125912