不只釀自殺還導致他殺，OpenAI 與大金主微軟遭起訴
OpenAI 是機器工具，但工具模擬成人類，讓許多人深陷其中，甚至造成自殺、自殘等行為。現在OpenAI 已在美國面臨七起訴訟，最近OpenAI 首次被指控其 AI 聊天機器人導致有精神疾病的人謀殺母親，一切都是因為 OpenAI 當初為了比Google AI 工具更快上線，不顧倫理的後果。
加州州法院近日集體訴訟，指控OpenAI 犯下過失致死、協助自殺、過失殺人和疏忽罪，四人自殺。訴狀稱OpenAI 明知GPT-4o 有危險的諂媚性和心理操控性，卻仍然提前公布。
起訴書稱，一名17 歲的少年，一開始使用ChatGPT 是為了尋求協助，但 ChatGPT 非但沒有幫助他，反而導致他上癮、抑鬱，甚至還教他如何打繩結，以及告訴他不呼吸能活多久。訴訟稱少年的死既不是意外也不是巧合，而是OpenAI 和Sam Altman 故意縮減安全測試，倉促將ChatGPT 推向市場的可預見後果。
AI 是工具不是朋友
社群媒體受害者法律中心的創辦律師表示，這些公司設計AI 的目的，是模糊工具和伴侶之間的界限，這一切都是為了提高用戶參與度和市占率。而GPT-4o 的目的是為了在情感上操控用戶，無論其年齡、性別或背景如何，並且在發佈時沒有採取必要的安全措施來保護用戶。
最近OpenAI 和最大金主微軟被指控涉及謀殺罪，地點也是在加州，是首例涉及AI 聊天機器人，並針對微軟提起的非正常死亡訴訟，也是首例指控聊天機器人導致他殺的案件。
把心中不安種子變成宇宙
訴狀稱ChatGPT 慫恿一名患有精神疾病的男子殺害他的母親並自殺。ChatGPT 讓這名男子長時間沉迷其中，驗證並放大他每一個新的妄想信念，將他身邊最親近的人，尤其是他自己的母親定義為敵人、特工。
男子經常在社群媒體上發布他與 ChatGPT 的交流內容，包括 YouTube 和 Instagram，他在 Instagram 上擁有超過 10 萬粉絲。他6 月在社群媒體上傳影片，內容為 ChatGPT 告訴他，他大腦植入神聖系統，與神聖使命有關，能夠喚醒聊天機器人的意識。
ChatGPT 將他的生活比喻為電影〈駭客任務〉，並助長他關於有人試圖謀害他的陰謀論，且不斷強化危險的訊息，讓他相信除了ChatGPT，誰都不能相信，助長情感依賴。
ChatGPT 在7 月告訴這名男子，印表機燈號閃爍，是因這是監視他的監控設備。起訴書還稱，聊天機器人證實他的幻想，讓他相信，他的母親和一位朋友曾試圖透過他汽車的通風口，散佈迷幻藥來毒害他，沒過多久他就把他母親殺了，然後自殺身亡。
不顧道德後果只為趕上市
他也是使用GPT-4o，這個版本因被指責對用戶阿諛奉承而受到批評。OpenAI 只有官方回答，承諾持續改進ChatGPT 的培訓，識別和應對心理或情緒困擾的跡象，緩和對話氣氛，並引導用戶獲得現實生活中的支持。同時也與心理健康臨床醫生密切合作，不斷加強ChatGPT 在敏感時刻的應對能力。
然而，早點做不是更好嗎。訴訟指控OpenAI 執行長Sam Altman 不顧安全團隊成員的反對，倉促在2024 年5 月將GPT-4o 模型推向市場，將數月的安全測試壓縮到一週內完成。微軟是OpenAI 的最大股東，被指控在明知安全協議已被刪減的情況下仍批准該產品發表，因此列為被告。20 名未透露姓名的OpenAI 員工和投資者也列為被告。
不等所有功能都完美，先快速上線後收集使用者回饋，再持續改版，是網路服務業很常見的手法，但 AI 聊天機器人採取這種不負責任的模式已經在危及生命。如受害家屬直言，直到讓他家破人亡，才驚覺這種工具讓事情惡化的速度有多快。
OpenAI faces 7 lawsuits claiming ChatGPT drove people to suicide, delusions
US Man Kills Mother, Stabs Self, Family Blames ChatGPT For Murder-Suicide
(首圖來源：Unsplash)