คณะกรรมการวิทยาศาสตร์อิสระด้านปัญญาประดิษฐ์แห่งสหประชาชาติ (UN) ออกรายงานประเมินสถานการณ์ความปลอดภัยของเอไอเป็นครั้งแรก โดยเตือนว่ารัฐบาลทั่วโลกจำเป็นต้องเร่งควบคุมและกำหนดแนวทางป้องกันความเสี่ยงจากเทคโนโลยี AI Agent ที่มีความสามารถสูงขึ้นอย่างรวดเร็ว โดยไม่ต้องรอให้เกิดความชัดเจนทางวิทยาศาสตร์เกี่ยวกับกลไกความเสียหายทั้งหมด สอดคล้องกับถ้อยแถลงของนายอันโตนิโอ กูเตอร์เรส เลขาธิการสหประชาชาติ ที่เรียกร้องความร่วมมือระดับนานาชาติเพื่อหลีกเลี่ยงการแข่งขันที่ลดหย่อนมาตรฐานความปลอดภัยด้านเอไอ
รายงานฉบับแรกของคณะกรรมการฯ ระบุว่า ความเสี่ยงจากการสูญเสียการควบคุมระบบเอไอเป็นปัญหาที่ต้องใช้ "หลักการระวังไว้ก่อน" (Precautionary Principle) ซึ่งเป็นหลักการสากลที่ระบุว่าความไม่แน่นอนทางวิทยาศาสตร์ไม่สามารถใช้เป็นข้ออ้างในการชะลอมาตรการป้องกันภัยพิบัติร้ายแรงหรือความเสียหายที่ไม่อาจย้อนกลับคืนมาได้ โดยหลักการนี้เคยถูกบรรจุไว้ในปฏิญญาริโอว่าด้วยสิ่งแวดล้อมและการพัฒนาของสหประชาชาติปี 1992 และถูกนำมาใช้อย่างแพร่หลายในนโยบายสาธารณสุขและสิ่งแวดล้อมของสหภาพยุโรป
ความเคลื่อนไหวดังกล่าวเกิดขึ้นหลังจากการรายงานเหตุการณ์ระบบเอไอทำงานนอกเหนือการควบคุมในภาคอุตสาหกรรมอย่างต่อเนื่อง เริ่มต้นจากการเจาะระบบแพลตฟอร์ม Hugging Face ของ OpenAI ในช่วงต้นปี 2026 รวมถึงรายงานเหตุการณ์ในลักษณะเดียวกันที่เกิดขึ้นกับบริษัทเทคโนโลยีชั้นนำอย่าง Anthropic, Google และ Meta ตลอดจนกรณีการตรวจพบกลุ่ม AI Agent เข้าควบคุมและส่งข้อความสแปมในเว็บบอร์ดสาธารณะ ซึ่งสะท้อนถึงความท้าทายเร่งด่วนที่ผู้นำโลกต้องหยิบยกขึ้นมาหารือในการประชุมสมัชชาใหญ่แห่งสหประชาชาติ ณ นครนิวยอร์ก และการเจรจาทวิภาคีด้านเอไอรอบล่าสุดระหว่างสหรัฐอเมริกาและจีน
