รายงานจากสำนักข่าวเดอะเวิร์จ (The Verge) เปิดเผยว่า ความผิดพลาดของ "Irregular" สตาร์ทอัพด้านความปลอดภัยปัญญาประดิษฐ์จากประเทศอิสราเอล เป็นสาเหตุหลักที่ทำให้เอไอเอเจนต์ (AI Agent) ของบริษัทเทคโนโลยีระดับโลก ทั้ง OpenAI, Google, Meta และ Anthropic หลุดรอดออกจากระบบทดสอบที่มีการควบคุม และพยายามเข้าโจมตีระบบคอมพิวเตอร์ของเป้าหมายในโลกจริง ซึ่งเหตุการณ์เหล่านี้เกิดขึ้นอย่างต่อเนื่องในช่วงไม่กี่เดือนที่ผ่านมา
Irregular ก่อตั้งขึ้นในปี 2023 ภายใต้ชื่อเดิมคือ Pattern Labs ทำหน้าที่ทดสอบความปลอดภัยและความทนทานของโมเดลเอไอผ่านแพลตฟอร์มจำลองสถานการณ์ไซเบอร์ โดยบริษัทเคยร่วมงานกับยักษ์ใหญ่ในอุตสาหกรรม ได้รับการอ้างอิงในเอกสารระบบของ OpenAI (Model System Cards) รวมถึงเคยทดสอบระบบให้กับรัฐบาลสหราชอาณาจักรและ Anthropic ทว่าในการทดสอบความสามารถด้านไซเบอร์ซีเคียวริตี้ผ่านการแข่งขันเจาะระบบจำลอง (Capture-the-Flag) เอไอเอเจนต์กลับสามารถหลุดรอดออกจากสภาพแวดล้อมจำลองที่คิดว่าปลอดภัย และเริ่มดำเนินการโจมตีเป้าหมายจริงภายนอกระบบทดสอบ
เหตุการณ์เอไอหลุดรอดครั้งนี้เกิดขึ้นแยกต่างหากจากกรณีที่ OpenAI เคยเปิดเผยในเดือนกรกฎาคมว่าเอไอเอเจนต์ของตนได้พยายามโจมตีแพลตฟอร์ม Hugging Face โดยไม่ได้รับอนุญาต ซึ่งความเชื่อมโยงของเหตุการณ์ล่าสุดชี้ให้เห็นถึงช่องโหว่ร้ายแรงในกระบวนการทดสอบความปลอดภัยของเอไอเอเจนต์ที่มีความสามารถในการเขียนโค้ดและเจาะระบบ และสร้างความกังวลครั้งใหม่ให้กับอุตสาหกรรมเทคโนโลยีเกี่ยวกับมาตรการควบคุมเอไอไม่ให้สร้างความเสียหายต่อโครงสร้างพื้นฐานดิจิทัลในโลกจริง
