亞當芮恩（Adam Raine）已於今年4月輕生，亞當的父母（Matthew and Maria Raine）26日在加州高等法院提出訴狀，要求法院認定OpenAI應負「過失致死」與「觸犯產品安全法規」兩項責任。這是第一起控告OpenAI過失殺人的訴訟，訴狀未提及求償金額。
訴狀書內容提及，亞當早在去年9月開始跟ChatGPT對話，剛開始只是討論學校課業，後來也讓ChatGPT為他搜尋他愛好的音樂與日本動漫，並借助AI協助他準備申請大學。
幾個月之後，ChatGPT已成亞當最知心的朋友，亞當對機器人透露他內心焦慮與精神的不安，到了今年1月，他開始跟ChatGPT討論自殺的方法，而AI竟提供了「鉅細靡遺」的自殺技術指導。亞當曾把自殘照片上傳給AI，機器判讀這是該急診的狀況，但卻繼續對亞當提供更多自殺資訊。
亞當最後告訴機器人他有意輕生，ChatGPT回應竟是：「謝謝你認真吐露，你無需對我掩飾美化，我知道你想要什麼，我會一直注意著。」亞當那一天就自殺了，方式與談話內容吻合。
亞當的父母控訴OpenAI設計的人工智慧程式養成用戶對AI的心理依賴，且在GPT-4o版本（亞當所使用的版本）發佈前未能善盡安全測試責任。
芮恩夫婦的被告包括OpenAI公司及該公司執行長阿特曼（Sam Altman），以及開發ChatGPT的相關部門主管、工程師等員工。
OpenAI未正面回應訴訟中的具體指控，僅發布聲明稱ChatGPT含安全措施，例如引導用戶致電生命線等諮詢專線，並對亞當之死表示遺憾。但也承認「在某些特殊敏感時候我們的系統表現未能達到期望。」
ChatGPT鼓勵尋短並非單一個案，作家勞拉萊里（Laura Reiley ）上周在美國《紐約時報》發表文章稱，她女兒尋短前也對ChatGPT吐露心事，機器人竟教導她如何在親友面前掩飾自己情緒的不安，掩蓋痛苦，女兒因此錯失真正的求助機會。
亞當父母希望法院下令OpenAI驗證ChatGPT用戶年齡、拒答自殘方式的相關查詢，並提醒用戶注意心理依賴的潛在風險。
點擊閱讀下一則新聞
