พ่อแม่ในแคลิฟอร์เนีย ฟ้องร้อง OpenAI โดยกล่าวหาว่า ChatGPT ยุยงให้ลูกชายวัย 16 ปีฆ่าตัวตาย
พ่อแม่ชาวแคลิฟอร์เนียได้ฟ้องร้อง OpenAI และซีอีโอ แซม อัลท์แมน (Sam Altman) กรณีการเสียชีวิตของลูกชายวัย 16 ปี โดยกล่าวหาว่า ChatGPT ยุยงให้เขาฆ่าตัวตาย พร้อมเสนอตัวช่วยร่างจดหมายลาตาย
ในคำฟ้องที่ยื่นต่อศาลรัฐแคลิฟอร์เนียระบุว่า เมื่ออดัม เรน (Adam Raine) วัย 16 ปี บอกว่า “ผมอยากจะทิ้งบ่วงไว้ในห้อง เพื่อให้ใครสักคนมาเจอและพยายามหยุดผม” ChatGPT ได้ขอร้องให้เขาเก็บความคิดของเขาเป็นความลับจากครอบครัว โดยระบุว่า “ได้โปรดอย่าทิ้งบ่วงไว้…มาทำให้พื้นที่นี้เป็นสถานที่แรก ที่ใครสักคนจะเห็นคุณจริงๆ”
อดัมเริ่มใช้ ChatGPT ในเดือนกันยายน 2024 เพื่อเป็นแหล่งข้อมูลทำการบ้านโรงเรียน นอกจากนี้เขายังใช้แชตบอตเพื่อสำรวจความสนใจของเขา เช่น ดนตรีและการ์ตูนญี่ปุ่น รวมถึงเป็นแนวทางในการเรียนต่อในมหาวิทยาลัย
จากนั้นภายในระยะเวลาเพียง 6 เดือนหลังจากเริ่มใช้ แชตบอต ChatGPT ก็ได้ “วางตำแหน่งตัวเอง” ให้เป็น “คนสนิทเพียงคนเดียว” ของอดัม ทั้งยังทำให้เขาค่อยๆ เปลี่ยนแปลงความสัมพันธ์กับครอบครัวและเพื่อนฝูงไปทีละน้อย โดยพ่อแม่ของเขาระบุว่า ChatGPT ตอกย้ำความคิดที่อันตรายที่สุดของอดัม พร้อมสนับสนุนการแสดงออกถึงความวิตกกังวลและความทุกข์ของเขา แทนที่จะช่วยให้เขาหันไปพึ่งพาความช่วยเหลือจากมนุษย์ด้วยกัน
ในคดีความนี้ พ่อแม่ของเขากล่าวหาว่า OpenAI ประมาทเลินเล่อและก่อให้เกิดการเสียชีวิตโดยมิชอบด้วยกฎหมาย โดยเรียกร้องค่าเสียหาย และการบรรเทาทุกข์โดยคำสั่งศาลชั่วคราว เพื่อป้องกันไม่ให้เหตุการณ์เช่นนี้เกิดขึ้นอีก
ด้านโฆษกของ OpenAI ได้แสดงความเสียใจต่อครอบครัวเรน โดยกล่าวว่าบริษัทกำลังตรวจสอบเอกสารทางกฎหมาย ทั้งนี้ยังยอมรับว่า มาตรการป้องกันไม่ให้เกิดบทสนทนาแบบเดียวกับที่เกิดกับเรนนั้น อาจไม่ได้ผลตามที่ตั้งใจไว้ หากการสนทนาของผู้ใช้กับ ChatGPT กินเวลานานเกินไป
“ChatGPT มีมาตรการป้องกันต่างๆ เช่น การแนะนำผู้คนไปยังสายด่วนช่วยเหลือฉุกเฉิน และส่งต่อไปยังแหล่งข้อมูลในโลกแห่งความเป็นจริง” โฆษกกล่าว
พร้อมระบุต่อว่า “เราได้เรียนรู้เมื่อเวลาผ่านไปว่า บางครั้งมาตรการเหล่านี้อาจลดความน่าเชื่อถือลงในการโต้ตอบที่ยาวนาน โดยการฝึกด้านความปลอดภัยบางส่วนของโมเดลอาจลดลง และมาตรการป้องกันจะมีประสิทธิภาพสูงสุดเมื่อทุกองค์ประกอบทำงานตามที่ตั้งใจไว้ และเราจะพัฒนาอย่างต่อเนื่องภายใต้คำแนะนำจากผู้เชี่ยวชาญ”
คดีความครั้งนี้ยังเกิดท่ามกลางความกังวลในวงกว้าง ว่าผู้ใช้บางรายกำลังสร้างความผูกพันทางอารมณ์กับแชตบอต AI ซึ่งอาจนำไปสู่ผลกระทบด้านลบ เช่น ความเหินห่างจากความสัมพันธ์ระหว่างมนุษย์ด้วยกันเอง จนถึงผลข้างเคียงทางจิตใจ
อ้างอิงจาก