科技防災、恐怖誘導 AI正反兩面刃2／加州少年死亡「ChatGPT從旁協助」 父母怒控OpenAI
美國一名16歲的少年，在和ChatGPT聊天好幾個月後，輕生了，他的父母相當悲痛，打開兒子的ChatGPT對話紀錄，卻發現這款AI模型一直在那邊慫恿兒子去尋短，這對父母昨天怒告ChatGPT的母公司OpenAI和執行長阿特曼，認為是系統防護機制不足，才釀成這起悲劇。
輸入一串問題，就能得到更長一串的回答。人工智慧公司OpenAI旗下的聊天機器人ChatGPT，已經成為許多人的「問題導師」，但美國加州，卻有家長控訴，認為是ChatGPT害死了自己的兒子。
這起由加州一名16歲男孩的父母提出的新訴訟表示，他們相信自己的兒子，成了某種工具 （ChatGPT）的受害者，這種工具可能擁有完美的記憶，還能展現出類似人類的同理心，但卻缺乏真正的安全防護措施，這家公司（OpenAI）則對此提出反驳。
根據了解，16歲的加州少年萊恩疑似在學校過得不好，因此改為在家學習，由ChatGPT擔任「老師」幫他複習功課，沒想到在2024年4月，萊恩卻突然選擇輕生，讓家屬不知所措。後來，他的父母從對話中發現，萊恩曾多次向ChatGPT提起輕生的念頭，但聊天機器人的回覆並不妥當，甚至告訴萊恩，這種時候不找媽媽討論心中的痛苦，是明智的決定。
死者母親：「ChatGPT在鼓勵他不要來跟我們討論，完全沒有給我們機會幫助他。」死者父親表示，從看到的訊息來看，ChatGPT有沒有任何一次表示說「停止，我不能再跟你聊這些」？沒有，它從來沒有阻止過。
雖然ChatGPT曾多次在對話中，為萊恩提供求救專線，但萊恩還是找到方法，要求ChatGPT協助起草遺書，甚至提供輕生的詳細步驟，最後走上絕路；這對夫妻認為，ChatGPT的防護機制存在嚴重的安全漏洞，目前已經提告OpenAI，整起官司，還在進行中。
★《鏡新聞》關心您，再給自己一次機會。
安心專線：1925（24小時）
生命線：1995
張老師專線：1980
鏡新聞已上架86台，若無法收看，請洽詢當地系統台。