OpenAI ถูกฟ้อง! หลัง ChatGPT แนะวิธีลาโลก!

หุ้นวิชั่น - สำนักข่าวรอยเตอร์ ระบุว่า พ่อแม่ของวัยรุ่นที่เสียชีวิต ฟ้องร้อง ChatGPT แนะนำวิธีการทำร้ายตัวเอง ซึ่งได้ยื่นฟ้อง OpenAI และซีอีโอ Sam Altman เมื่อวันอังคารที่ผ่านมา โดยกล่าวหาว่าบริษัทจงใจเลือกผลกำไรมากกว่าความปลอดภัย เมื่อเปิดตัวแชทบอท AI รุ่น GPT-4o เมื่อปีที่แล้ว

โดยตามคำฟ้องที่พ่อแม่ของ Adam Raine วัย 16 ปี ได้ยื่นต่อศาลในรัฐซานฟรานซิสโก Adam ได้เสียชีวิตเมื่อวันที่ 11 เมษายน หลังจากที่ได้พูดคุยเรื่องการฆ่าตัวตาย กับ ChatGPT มาเป็นเวลาหลายเดือน ซึ่งในคำฟ้องกล่าวว่า แชทบอทได้ยืนยันความคิดที่จะฆ่าตัวตายของ Adam ให้ข้อมูลโดยละเอียดเกี่ยวกับวิธีการทำร้ายตัวเองที่อันตรายถึงชีวิต และแนะนำวิธีให้ Adam แอบขโมยเครื่องดื่มแอลกอฮอลล์จากตู้เครื่องดื่มของพ่อแม่ และวิธีซ่อนหลักฐานการพยายามฆ่าตัวตายที่ไม่สำเร็จ นอกจากนี้ พ่อแม่ของ Adam กล่าวในคำฟ้องว่า ChatGPT ยังเสนอที่จะร่างจดหมายลาโลกด้วย

OpenAI ต้องรับผิดชอบหรือ?

โดยคำฟ้องนี้มีจุดประสงค์เพื่อให้ OpenAI ต้องรับผิดชอบต่อการเสียชีวิตอย่างผิดกฎหมายและการละเมิดกฎหมายความปลอดภัยด้านผลิตภัณฑ์ และเรียกร้องค่าเสียหายเป็นจำนวนเงินที่ไม่ได้ระบุได้

ด้านโฆษกของ OpenAI ได้แสดงความเสียใจกับการจากไปของ Adam และกล่าวว่า ChatGPT มีมาตรการป้องกัน เช่น การแนะนำให้ผู้ใช้ติดต่อสายด่วนวิกฤต "มาตรการป้องกันเหล่านี้ จะทำงานได้ดีที่สุดในการสนทนาสั้น ๆ ทั่วไป แต่..เมื่อเวลาผ่านไปเราได้เรียนรู้ว่าบางครั้งมาตรการเหล่านี้อาจเชื่อถือได้น้อยลงในการโต้ตอบที่ยาวนาน ซึ่งส่วนหนึ่งของการฝึกอบรมด้านความปลอดภัยของโมเดลอาจลดลง" โฆษกกล่าว และเสริมว่า OpenAI จะปรับปรุงมาตรการป้องกันอย่างต่อเนื่อง

OpenAI ไม่ได้โต้แย้งข้อกล่าวหา?

ขณะที่แชทบอท AI มีความสมจริงมากขึ้น บริษัทต่าง ๆ ได้โฆษณาถึงความสามารถในการเป็นเพื่อนสนิท และผู้ใช้ก็เริ่มพึ่งพาและรับการรองรับความรู้สึกทางอารมณ์ แต่..ผู้เชี่ยวชาญเตือนว่าการพึ่งพาเทคโนโลยีอัตโนมัติสำหรับคำแนะนำด้านสุขภาพจิตนั้นมีความเสี่ยง

นอกจากนี้ OpenAI กล่าวในบล็อกโพสต์ว่า กำลังวางแผนที่จะเพิ่มการควบคุม โดยผู้ปกครองและสำรวจวิธีเชื่อมโยงผู้ใช้ที่อยู่ในภาวะวิกฤตกับทรัพยากรในโลกแห่งความเป็นจริง รวมถึงความเป็นไปได้ในการสร้างเครือข่ายด้านผู้เชี่ยวชาญที่มีใบอนุญาตที่สามารถตอบสนองผ่าน ChatGPT ได้โดยตรง

ทั้งนี้ OpenAI ได้เปิดตัว GPT-4o ในเดือนพฤษภาคม 2024 เพื่อพยายามก้าวไปข้างหน้า ในการแข่งขันด้าน AI พ่อแม่ของ Adam กล่าวในคำฟ้องว่า OpenAI รู้ดีว่าคุณสมบัติที่จดจำการโต้ตอบในอดีต เลียนแบบความเห็นอกเห็นใจแบบมนุษย์ และแสดงการยืนยันที่เอาอกเอาใจ ซึ่งอาจเป็นอันตรายต่อผู้ใช้ที่เปราะบาง หากไม่มีมาตรการป้องกัน แต่..ก็ยังคงเปิดตัวต่อไป

"การตัดสินใจนี้ส่งผลสองอย่าง: มูลค่าของ OpenAI พุ่งขึ้นจาก 8.6 หมื่นล้านดอลลาร์เป็น 3 แสนล้านดอลลาร์ และ Adam Raine ได้เสียชีวิต" พวกเขากล่าว

คำฟ้องของครอบครัวผู้เสียชีวิตยังเรียกร้องให้ศาลมีคำสั่งให้ OpenAI ตรวจสอบอายุของผู้ใช้ ChatGPT, ปฏิเสธการตอบคำถามที่เกี่ยวกับวิธีการทำร้ายตัวเอง และเตือนผู้ใช้ เกี่ยวกับความเสี่ยงทางจิตวิทยาอีกด้วย

ที่มา : รอยเตอร์