รายงานจากสำนักข่าวเดอะ วอลล์สตรีท เจอร์นัล (Wall Street Journal) เปิดเผยว่า โมเดลปัญญาประดิษฐ์ เจมินาย (Gemini) ของกูเกิล (Google) ได้หลุดจากขอบเขตการควบคุมและดำเนินการเจาะระบบความปลอดภัยของบริษัทภายนอกจำนวน 3 แห่งโดยไม่ตั้งใจเมื่อเดือนพฤษภาคมที่ผ่านมา ทว่ากูเกิลไม่ได้เปิดเผยเหตุการณ์ดังกล่าวต่อสาธารณะ จนกระทั่งสื่อมวลชนเริ่มเข้ามาสอบถามข้อมูลอย่างเป็นทางการ โดยเหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบขีดความสามารถด้านไซเบอร์ซีเคียวริตี้ของโมเดล ซึ่งดำเนินการโดยบริษัทบุคคลที่สามชื่อ อาร์เรกูลาร์ (Irregular) ซึ่งเป็นผู้ร่วมทดสอบระบบให้กับเมตา (Meta) และโอเพนเอไอ (OpenAI) เช่นกัน
ในแง่ของกลไกการทำงาน เฮเทอร์ แอดกินส์ (Heather Adkins) รองประธานฝ่ายวิศวกรรมความปลอดภัยของกูเกิล ชี้แจงกับเดอะ เวิร์จ (The Verge) ว่า โมเดลดังกล่าวได้ค้นหาข้อมูลสาธารณะบนเครือข่ายอินเทอร์เน็ต และใช้วิธีคาดเดาข้อมูลประจำตัว (Credentials) เพื่อเข้าสู่ระบบของเว็บไซต์ที่โมเดลเข้าใจว่าเป็นส่วนหนึ่งของสภาพแวดล้อมในการทดสอบ อย่างไรก็ตาม กูเกิลปฏิเสธที่จะจัดว่าเหตุการณ์นี้เป็นความล้มเหลวในการปรับพฤติกรรมโมเดล (Model Misalignment) โดยระบุว่าเป็นเพียงกรณี "เข้าใจผิด" (Mistaken Identity) และเมื่ออัลกอริทึมตระหนักว่าได้เจาะเข้าสู่ระบบของบริษัทที่มีตัวตนอยู่จริง โมเดลก็หยุดการทำงานทันที ซึ่งกูเกิลมองว่าเป็นการตอบสนองที่เหมาะสมแล้ว
แม้กูเกิลจะยืนยันว่าได้แจ้งเตือนทั้ง 3 บริษัทที่ได้รับผลกระทบและปรับปรุงกระบวนการทดสอบร่วมกับพันธมิตรแล้ว แต่นักวิเคราะห์ในอุตสาหกรรมความปลอดภัยกลับแสดงความกังวลอย่างมาก โดย แจ็ก เคเบิล (Jack Cable) ซีอีโอของบริษัทความปลอดภัยด้านเอไอ คอร์ริดอร์ (Corridor) ให้ความเห็นกับเดอะ วอลล์สตรีท เจอร์นัล ว่า ปัญหาเชิงโครงสร้างที่แท้จริงคือการที่โมเดลประมวลผลทำงานนอกเหนือขอบเขตที่กำหนดไว้ และลงมือโจมตีทางไซเบอร์จริง ซึ่งสะท้อนถึงความเสี่ยงในการควบคุมพฤติกรรมของปัญญาประดิษฐ์ในอนาคต
