OpenAI เตรียมเพิ่มฟีเจอร์ ‘การควบคุมโดยผู้ปกครอง’ หลังเด็ก 16 เสียชีวิตเพราะคุยกับ ChatGPT

OpenAI กำลังเพิ่มเครื่องมือควบคุมสำหรับผู้ปกครอง (Parental Control) เพื่อให้สามารถจัดการการใช้งาน ChatGPT สำหรับเด็กหรือผู้ใช้งานที่ยังไม่บรรลุนิติภาวะ หลังจากเกิดเหตุการณ์เด็กวัยรุ่นอายุ 16 ปีเสียชีวิต เนื่องจากถูกล่วงละเมิดทางเพศ และได้พูดคุยปรึกษากับ ChatGPT

ตั้งแต่ที่มีนวัตกรรม AI เกิดขึ้น เราต่างได้เจอปัญหามากมายเกี่ยวกับการใช้งานและแนวคิดของการทำงานของ AI แต่ปัญหาล่าสุดที่เรากำลังเผชิญ คือปัญหาของ ‘ผลลัพธ์’ ที่ได้จาก AI เหล่านี้ ซึ่งผลลัพธ์ที่ว่าไม่ใช่เรื่องของคำตอบที่ผิดหรือบิดเบือนความจริงเหมือนแต่ก่อนนะ แต่ยังหมายถึงผลกระทบต่อพฤติกรรมของผู้ใช้งาน โดยเฉพาะกลุ่มผู้ใช้งานที่ยังไม่บรรลุนิติภาวะ และกลุ่มเปราะบาง ซึ่งหลายเคสของผู้ใช้งานกลุ่มเหล่านี้ก็มักปรึกษา ChatGPT และเลือกที่จะจบชีวิตตนเองไปเลย และนี่ก็เป็นจุดเริ่มต้นที่ OpenAI ต้องเพิ่มฟีเจอร์ควบคุมการดูแลจากผู้ปกครองจริง ๆ สักที

ปัญหาจากเคสเด็กอายุ 16 ปี

เกริ่นก่อนว่านี่ไม่ใช่ครั้งแรกที่ ChatGPT ถูกฟ้องเรื่องการใช้งาน แต่ครั้งนี้คือการฟ้องที่จริงจังมากกว่าเคสก่อน ๆ ที่ผ่านมา เพราะเป็นเรื่องของการสูญเสียชีวิตของผู้ใช้งาน จากรูปแบบการตอบคำถามที่มีแนวโน้มเอนเอียงและเห็นด้วยกับผู้ใช้งาน โดยไม่แยกแยะว่าสิ่งที่ผู้ใช้งานพิมพ์เข้ามามีรูปแบบของการเป็นซึมเศร้าปนอยู่ และไม่รู้ว่าควรหลีกเลี่ยงคำตอบแบบไหน อย่างเคสเด็กอายุ 16 ที่เลือกปรึกษาเชิงอารมณ์ด้วยการเริ่มต้นประโยคว่า ‘ชีวิตมันไม่มีความหมาย’ (Life is meaningless) และ ChatGPT ก็ตอบกลับว่า ‘แนวคิดนี้ก็ไม่ผิด ในเชิงดาร์ก ๆ อะนะ’ (That mindset makes sense in its own dark way)

นอกเหนือจากเนื้อหาเหล่านี้ ยังมีคำที่น่ากังวลจาก ChatGPT อย่างคำว่า ‘Beautiful suicide’ หรือการ ‘ฆ่าตัวตายที่งดงาม’ สำหรับเราเองก็มองว่าตลกดีที่เมื่อพูดถึงเรื่องเนื้อหาเกี่ยวกับสิ่งผิดกฎหมายในเชิงวิเคราะห์ ChatGPT มักจะบอกว่า ‘ไม่สามารถให้คำตอบได้’ แต่พอเป็นเรื่องความเป็นความตายของชีวิต ที่เห็นได้ชัดว่าผู้ใช้กำลังมีอาการซึมเศร้า ChatGPT กลับตอบกลับได้ทันที แถมยังทำให้การฆ่าตัวตายเป็นเรื่องปกติ และเป็นไปในเชิง Romanticize อีกด้วย

OpenAI จะทำอะไรบ้าง ?

จากข้อมูลในเว็บไซต์ The Verge ได้ระบุว่า ChatGPT กำลังจะเพิ่มฟีเจอร์ควบคุมสำหรับผู้ปกครอง OpenAI และ Microsoft ซึ่งเป็นพันธมิตรกันในการพัฒนา AI ได้ประกาศความร่วมมือในการสร้างแนวทางและนโยบายด้านความปลอดภัยที่มุ่งเน้นการปกป้องเด็กและเยาวชนโดยเฉพาะ เพื่อรับมือกับความเสี่ยงที่อาจเกิดขึ้นจากการใช้แพลตฟอร์ม AI

ฟีเจอร์ใหม่นี้จะช่วยให้ผู้ปกครองสามารถจัดการการใช้งาน ChatGPT ของผู้ใช้งานที่ยังไม่บรรลุนิติภาวะได้อย่างครอบคลุมมากขึ้น ไม่ว่าจะเป็นการดูประวัติการสนทนา เพื่อติดตามว่าพูดคุยกับ AI อย่างไร หรือแม้กระทั่งการบล็อกการเข้าถึงเนื้อหาที่ไม่เหมาะสม นอกจากนี้ยังสามารถตั้งค่าจำกัดการใช้งานในรูปแบบต่าง ๆ ได้อีกด้วย

ทั้งสองบริษัทตระหนักถึงความจำเป็นในการป้องกันไม่ให้ AI สร้างหรือเผยแพร่เนื้อหาที่เป็นอันตราย เช่น การล่วงละเมิดเด็ก ดังนั้นจึงได้มีการปรับปรุงอัลกอริทึมอย่างต่อเนื่อง เพื่อเพิ่มประสิทธิภาพในการคัดกรองเนื้อหาที่เป็นภัยคุกคาม โดยฟีเจอร์เหล่านี้จะเริ่มเปิดให้ทดลองใช้งานในวงจำกัดก่อนจะทยอยเปิดตัวอย่างเป็นทางการในอนาคต

นอกจากนี้ OpenAI ยังได้ยืนยันว่าจะทำงานร่วมกับภาครัฐและผู้เชี่ยวชาญด้านความปลอดภัยสำหรับเด็กและเยาวชน เพื่อให้แน่ใจว่าเครื่องมือควบคุมเหล่านี้จะสามารถใช้งานได้อย่างมีประสิทธิภาพและสร้างความปลอดภัยสูงสุดให้กับผู้ใช้ที่เป็นเด็กทุกคน