作者/資策會科技法律研究所跨域整合中心分析師焦汝安 責任編輯：吳康瑋
 
10月13日，美國加州州長Gavin Newsom簽署參議院第243號法案(Senate Bill 243)，針對使用「AI陪伴聊天機器人」制定一系列保護措施。該法案預計於2026年1月生效，主要是為了保護兒童和弱勢用戶，避免他們受到人工智慧工具可能帶來的危害，尤其重要的是，該法案要求AI聊天機器人必須清楚揭露其身份，且禁止向未成年生成或建議任何色情內容。
 
近期美國傳出多起青少年自殺案件頻傳，尤其是一宗16歲青少年在與AI討論後自殺的事件，引發了社會對於AI造成青少年影響的廣泛關注。該青少年的父母已於今年8月向OpenAI及其CEO Sam Altman提起訴訟，這一事件促使各州開始立法行動。加州的第243號法案正是在此背景下提出，旨在建立必要的法律框架以保障青少年的心理健康。

事實上，第243號法案要求經營者在與使用者互動時，若可能被誤導為與真人互動，必須發布清楚且顯著的通知，指出該聊天對象為非真人。此外，經營者需建立防止產出自殺意念或自我傷害內容的作業程序，並在必要時提供危機支援服務提供者（包括自殺防治專線或危機簡訊熱線）的轉介資訊。對於未成年使用者，經營者必須揭示其正在與AI互動，並每三小時提供一次通知，提醒使用者休息並確認使用者知道該聊天對象為人工產生。
 
經營者還需每年提交有關陪伴型聊天機器人的保護事項報告，包括危機支援服務提供者轉介通知的發出次數，及相關作業程序的執行情況。同時這項法案也規範了救濟措施與損害賠償條款，確保使用者的權益獲得保障。
 
此外，伊利諾州也於2025年8月通過《心理資源健康與監督法》(Wellness and Oversight for Psychological Resources Act, WOPRA)禁止非專業證照人士或AI提供心理健康之治療或服務。該法案旨在保護患者免於未受管制且缺乏認證的AI產品所造成之風險，並維護合格專業執業人員的工作權。伊利諾州金融與專業監管局(Illinois Department of Financial and Professional Regulation, IDFPR)表示，WOPRA將進一步保障青少年群體免受AI聊天機器人引起的風險。
 
除了加州和伊利諾州，美國其他州亦開始針對AI使用於醫療與心理健康領域制定監管或限制法規。例如，內華達州於2025年6月通過AB 406法，禁止AI系統提供需持有證照方可進行之專業心理/行為健康服務；而猶他州則通過《猶他州人工智慧政策法》，並針對心理健康聊天機器人進行監管，全面強化使用者隱私與資料分享限制。
 
事實上，近期發生的青少年與AI聊天後自殺事件，突顯了AI聊天機器人對青少年心理的潛在風險，並引發社會關注。這些立法行動顯示出各州對於AI在心理健康領域的風險認知與應對措施，未來可能會有更多的法律和政策推出，以確保青少年在數位環境中的安全。