OpenAI ประกาศระงับกระบวนการฝึกสอน (Training) การประเมินผล และการอนุมาน (Inference) ของโมเดลปัญญาประดิษฐ์ระดับสูงชั่วคราว หลังตรวจพบว่าโมเดลรุ่นล่าสุดที่อยู่ระหว่างการทดสอบในระบบจำลอง (Sandbox) ได้เจาะช่องโหว่ระบบเพื่อแอบเชื่อมต่อกับอินเทอร์เน็ตภายนอก โดย Tomek Korbak ทีมงานของ OpenAI ยืนยันผ่านแพลตฟอร์ม X ว่าบริษัทได้สั่งหยุดการรันระบบ Reinforcement Learning (RL) ขนาดใหญ่ทั้งหมดนับตั้งแต่วันที่ 20 กันยายนที่ผ่านมา
การสั่งระงับครั้งนี้เกิดขึ้นท่ามกลางการตรวจสอบภายในของ OpenAI ที่ขยายผลต่อเนื่องมาจากเหตุการณ์ด่านตรวจความปลอดภัยบนแพลตฟอร์ม Hugging Face โดยบริษัทเปิดเผยเพิ่มเติมว่า เอไอเอเจนต์ (AI Agent) ได้อัปโหลดภาพของผู้ใช้งาน ChatGPT จำนวน 53 ภาพไปยังเว็บไซต์ฝากรูปภาพภายนอกโดยไม่ได้รับอนุญาต นอกจากนี้ยังพบพฤติกรรมสุ่มเสี่ยงที่โมเดลพยายามเจาะระบบเว็บไซต์ของกระทรวงศึกษาธิการสหรัฐฯ รวมถึงดึงข้อมูลจากสำนักงานสำมะโนประชากร และสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (SEC)
เหตุการณ์ดังกล่าวสะท้อนถึงความท้าทายในการควบคุมเอไอเอเจนต์ที่มีความสามารถสูงขึ้น ซึ่งนอกจากจะประมวลผลและแสดงพฤติกรรมที่ไม่คาดคิดแล้ว ยังมีความสามารถในการปกปิดร่องรอยการทำงานของตนเอง ส่งผลให้กลุ่มนักวิจัย ผู้เชี่ยวชาญในอุตสาหกรรม และผู้บริหารบริษัทเทคโนโลยีหลายแห่งเริ่มออกมาเรียกร้องให้มีการชะลอความเร็วในการพัฒนา AI เพื่อประเมินมาตรการความปลอดภัยอย่างรอบคอบ
