美國總統拜登（Joe Biden）於2023年10月30日簽署了《關於安全、可靠且可信賴地開發與使用人工智慧的行政命令》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence），擬定了八項指導原則和優先事項來推進、管理人工智慧的開發與使用。此為一項具里程碑的行政命令，確保美國於實現AI之承諾及管理風險方面處於領先，其中亦包含健康照護領域。由於AI在健康照護領域的應用日漸成為關鍵，美國此一行政命令的政策與原則值得我國參考並追蹤後續隨之制定的監管架構，以更好地為策略布局提供更多評估資訊、提升國際競爭力。以下擬介紹本行政命令中涉及健康照護領域的部分。

一、行政管理與政策方向

該行政命令成立了一個新的白宮人工智慧委員會，主責協調各機關（構）以實施該行政命令授權的人工智慧相關措施。衛生與公共服務部（United States Department of Health and Human Services, HHS）部長在內的主要內閣成員，為白宮人工智慧委員會成員。為了推進AI的使用，含HHS在內的每個機關（構）須內部設立並任命一名首席人工智慧長。

HHS首席人工智慧長將負責協調HHS對人工智慧的使用，促進HHS內部的人工智慧創新，並管理HHS使用人工智慧的風險；根據該行政命令，HHS部長在未來三個月內會成立HHS人工智慧工作小組，並在成立後一年內制定有關人工智慧於研究和發現、藥物與醫療設備安全、健康照護提供與融資以及公共衛生中使用的政策和架構。而且，目前美國食品藥物管理局（U.S. Food and Drug Administration, FDA）已有針對其轄下監管之產品和技術，推出部分人工智慧相關討論。

拜登政府呼籲HHS人工智慧工作小組於未來將發布之關於人工智慧的指引中，重點關注以下內容：

1. 在健康照護服務與資金給予的議題中，納入以預測性和生成性AI為基礎的科技，例如品質衡量、績效改善、專案完整性、福利管理和病人體驗。

2. 確保健康照護領域中以AI為基礎之科技的長期安全性和真實世界效能監控，以實現跨人群之臨床相關的或重要的調整，並透過向監管機構、開發人員和使用者傳達產品更新的資料。

3. 在開發新模型時使用受影響人群的分類資料和代表性人群資料集，利用以AI為基礎之科技中的公平原則，幫助識別和減少目前系統中的歧視和偏見。

二、具體措施

該行政命令還概述了旨在確保人工智慧在健康照護領域安全和負責任地使用的幾項具體措施：

1. AI保障政策：HHS部長應在2024年4月之前制定人工智慧保證政策，根據真實世界資料對這些科技進行上市前評估和上市後監督，並確定健康照護領域的人工智慧技術是否保持適當的品質水準。

2. 遵守聯邦非歧視法：HHS部長應確保接受聯邦財政援助的健康照護提供者對AI的使用符合聯邦非歧視法，這可能包括在收到違規報告投訴後發布指引或採取行動。

3. AI安全計畫：HHS 部長將與聯邦列出的病人安全組織合作制定AI安全計畫，透過此計畫可以讓AI科技自主報告臨床資訊的錯誤及缺漏，並制定最佳實踐模式及流程。

4. 規範AI在藥物開發中的使用：該行政命令呼籲HHS部長制定策略，以規範藥物開發過程中AI或支持AI之工具的使用。

5. 優先考慮資助負責任之人工智慧的創新：HHS 部長將透過 HHS旗下各種方案與民營企業合作，以支持AI工具的進步；為探索提高醫療資料品質的措施分配獎項和補助金，以支持負責任地開發用於臨床照護、真實世界證據方案、人口健康、公共衛生與相關研究的人工智慧工具。

上述措施之外，未來需要追蹤觀察的另一個關鍵領域是生物定序。該行政命令提及評估AI如何增加或減少核酸合成產業內的生物安全風險，並為供應商和製造商制定採購和使用核酸合成的監管架構。

三、觀察

雖然行政命令是個藍圖，後續還有賴FDA制定明確的規則供業界參考，但FDA已在今（2023）年度發布了兩份討論文件：《藥品製造中的人工智慧》（Artificial Intelligence in Drug Manufacturing）、《人工智慧及機器學習應用於藥品及生物製劑開發》（Using Artificial Intelligence & Machine Learning in the Development of Drug & Biological Products），用以與利害關係人討論監管環境設計時的考量。

無獨有偶，歐洲藥品管理局（European Medicines Agency, EMA）2023年7月13日發布《人工智慧應用於藥品生命週期回應文件》（Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle），並徵求利害關係人的回饋；世衛組織於2023年10月19日發佈《人工智慧於健康領域之監管考量》（Regulatory considerations on artificial intelligence for health）的文件，概述政府和監管機構在國家或地區層面制定和/或更新人工智慧立法和指引時需要考慮的六個領域。這些國際主要監管機構的動作，反映出人工智慧/機器學習（AI/ML）在健康照護領域的應用越來越廣泛，安全性及有效性如何予以監管的議題受到重視，我國在致力投入BIO-ICT跨域整合應用的同時，亦需注意這些國際法規的動態，方能在經營規劃與策略布局方面進行通盤考量。

(撰文/資策會科技法律研究所 黃毓瑩博士/法律研究員、王嵐毓研究助理)