OpenAI เพิ่มกลไกป้องกันด้านสุขภาพจิตบน ChatGPT แจ้งเตือนกรณีใช้งานนานเกินไป

โอเพนเอไอกำลังเพิ่มแนวทางป้องกันและหลีกเลี่ยงที่จะให้คำแนะนำที่เป็นเรื่องส่วนตัวเร็วๆ นี้ โดยเฉพาะพฤติกรรมที่อาจส่งผลต่อสุขภาพของผู้ใช้งาน

โอเพนเอไอผู้พัฒนาแชตบอต ChatGPT จะเพิ่มระบบแจ้งเตือนผู้ใช้งานกรณีที่มีการใช้งานที่ยาวนานเกินไป พร้อมกันนี้ โอเพนเอไอจะหลีกเลี่ยงการให้คำแนะนำแก่ผู้ใช้งานในประเด็นที่เป็นปัญหาส่วนตัว แต่จะเปลี่ยนแนวทางเป็นการตั้งคำถามกลับไปยังผู้ใช้งานแล้วชั่งน้ำหนักถึงข้อดีและข้อเสียแทน

โอเพนเอไอบอกด้วยว่ามีบางกรณีที่โมเดล 4o บกพร่องในการรับรู้ถึงอาการหลงผิดหรือการพึ่งพิงทางอารมณ์ ซึ่งแม้จะไม่ใช่เรื่องที่เกิดขึ้นบ่อย แต่ก็จะมีการปรับปรุงโมเดลอย่างต่อเนื่อง รวมถึงการพัฒนาเครื่องมือเพื่อตรวจจับสัญญาณของความทุกข์ทางจิตใจหรืออารมณ์ได้ดียิ่งขึ้น เพื่อให้ ChatGPT สามารถตอบสนองได้อย่างเหมาะสมและชี้ไปยังแหล่งข้อมูลที่อ้างอิงได้เมื่อจำเป็น

การอัปเดตครั้งนี้ของโอเพนเอไอ เพื่อไม่ให้ผู้ใช้งานมองการใช้งาน ChatGPT ในฐานะนักบำบัดหรือเพื่อนสนิท หรือการใช้เป็นที่พึ่งพิงทางอารมณ์มากเกินไป

ทั้งนี้ โอเพนเอไอชี้แจงว่าการใช้งาน ChatGPT ให้มีประโยชน์ควรเป็นการซ้อมสำหรับบทสนทนาที่ยากลำบาก การขอคำแนะนำเพื่อไปปรึกษาผู้เชี่ยวชาญ และคำพูดให้กำลังใจที่ถูกปรับให้เหมาะกับแต่ละคน

ในช่วงต้นปี โอเพนเอไอได้ถอนอัปเดต GPT-4o ในส่วนที่มีแนวทางที่เห็นด้วยกับผู้ใช้มากเกินไป ซึ่งเป็นเรื่องที่น่ากังวลใจไม่น้อย จนนำมาสู่การปรับปรุงการเทรนโมเดลเอไอเพื่อไม่ให้เกิดการชี้นำและการประจบประแจงผู้ใช้งาน

ตอนนี้ โอเพนเอไอได้ร่วมมือกับผู้เชี่ยวชาญเช่นแพทย์และนักวิจัยเพื่อช่วยให้ ChatGPT ตอบสนองในสถานการณ์ที่ละเอียดอ่อนได้อย่างเหมาะสมยิ่งขึ้น เช่น เมื่อผู้ใช้แสดงสัญญาณของความทุกข์ทางจิตใจหรืออารมณ์ รวมถึงการจัดตั้งกลุ่มที่ปรึกษาซึ่งประกอบด้วยผู้เชี่ยวชาญด้านสุขภาพจิต, การพัฒนาเยาวชน และปฏิสัมพันธ์ระหว่างมนุษย์กับคอมพิวเตอร์ โดย โอเพนเอไอ ระบุว่าจะมีการเปิดเผยข้อมูลเพิ่มเติมเมื่อการดำเนินงานมีความคืบหน้า

ในช่วงที่ผ่านมา ChatGPT ได้เปิดตัวฟีเจอร์ Agent Mode ซึ่งสามารถทำงานออนไลน์แทนผู้ใช้ได้ เช่น การนัดหมาย หรือสรุปอีเมล แต่สิ่งที่ผู้ใช้งานกำลังรอก็คือ การเปิดตัว GPT-5 ซึ่งคาดว่าจะมาพร้อมกับการใช้งานที่ถูกยกระดับขึ้นไปอีกขั้น

ที่มา: OpenAI

อ่านข่าวต้นฉบับได้ที่ : OpenAI เพิ่มกลไกป้องกันด้านสุขภาพจิตบน ChatGPT แจ้งเตือนกรณีใช้งานนานเกินไป

ข่าวที่เกี่ยวข้อง

• มากกว่า 4 แสนล้าน เงินที่ OpenAI หาได้ครึ่งปีแรก ChatGPT ผู้ใช้ทะลุ 700 ล้านราย/สัปดาห์
• OpenAI เปิดตัว ChatGPT Agent เครื่องมือ AI ที่คิดและทำงานซับซ้อนได้เอง
• หุ้น Meta ทำนิวไฮ หลัง Mark ดึงหัวกะทิเร่งฟอร์มทีม “Superintelligence” นักลงทุนเชื่อมั่นทิศทางใหม่
• ChatGPT Agent เจ๋งกว่าเดิมยังไง ? ผู้ช่วย AI ใหม่ ไม่ได้แค่ตอบคำถาม แต่ทำงานแทนได้เลย
• ChatGPT โตต่อเนื่อง ยอดผู้ใช้งานมากกว่า 2.5 พันล้านครั้งต่อวัน

ตามข่าวก่อนใครได้ที่
- Website : www.thairath.co.th
- LINE Official : Thairath