Meta กำลังนำมาตรการคุ้มครองเยาวชนมาใช้ในแชตบอต AI หลังถูกตรวจสอบหนัก
Meta กำลังอยู่ระหว่างการเพิ่มมาตรการคุ้มครองผู้ใช้วัยรุ่นในผลิตภัณฑ์ AI โดยการฝึกให้ AI หลีกเลี่ยงบทสนทนาที่ไปในเชิงชู้สาว หรือการพูดถึงการทำร้ายตัวเองกับผู้เยาว์ และระงับการเข้าถึงตัวละคร AI บางตัวชั่วคราว
รายงานของสำนักข่าว Reuters ในเดือนสิงหาคมระบุว่า Meta ปล่อยให้แชตบอตมีพฤติกรรมที่ไม่เหมาะสม ตัวอย่างเช่นการที่แชตบอตบางตัวพูดคุยในเชิงชู้สาวหรือทางเพศ
แอนดี สโตน (Andy Stone) ระบุผ่านทางอีเมลว่ามาตรการข้างต้นนี้เป็นเพียงมาตรการชั่วคราวในระหว่างที่บริษัทกำลังพัฒนามาตรการในระยะยาวเพื่อสร้างความมั่นใจว่าเยาวชนจะมีประสบการณ์ AI ที่ปลอดภัยและเหมาะสมกับวัย โดยระบบเหล่านี้จะถูกค่อย ๆ ปล่อยออกมา และจะพัฒนาขึ้นเรื่อย ๆ
ก่อนหน้านี้ Meta เคยออกมายอมรับว่าเนื้อหาเอกสารบางส่วนที่เกี่ยวกับ AI ยอมให้แชตบอตพูดคุยในเชิงชู้สาวกับเยาวชนได้ หลังจากที่สมาชิกสภาคอนเกรสของสหรัฐอเมริกาจากทั้งพรรคเดโมแครตและริพับลิกันออกมาตรวจสอบ Meta อย่างหนักในประเด็นดังกล่าว