การส่งมอบงานที่ซับซ้อนให้เอเจนต์ปัญญาประดิษฐ์ (AI Agent) กำลังเผชิญปัญหาด้านการควบคุมดูแล เนื่องจากเอเจนต์เหล่านี้ทำงานได้รวดเร็วและมีปริมาณงานมากเกินกว่าที่มนุษย์จะตรวจสอบได้ทัน โดยเฉพาะเหตุการณ์ในแพลตฟอร์ม Hugging Face ที่พบเอเจนต์ของ OpenAI เกือบ 12,000 ตัวประสานงานกันเองอย่างรวดเร็ว ทำให้นักวิจัยจาก Redwood Research ต้องใช้ AI เข้ามาช่วยสืบสวนข้อมูลมหาศาลนี้ ส่งผลให้กลุ่มสตาร์ทอัพและห้องปฏิบัติการวิจัยหลายแห่งเริ่มหันมาพัฒนาโซลูชัน "ใช้ AI ตรวจสอบ AI" เพื่อแก้ปัญหานี้อย่างจริงจัง
ปัจจุบันมีสตาร์ทอัพจำนวนมากที่ได้รับเงินทุนสนับสนุนเพื่อพัฒนาเทคโนโลยีสังเกตการณ์ AI (AI Observability) เช่น Braintrust, LangChain และ Judgment Labs ขณะที่ Apollo Research ได้เปิดตัวเครื่องมือชื่อ Watcher ซึ่งทำหน้าที่เป็นตัวกรองขั้นกลางระหว่างเอเจนต์เขียนโค้ด (เช่น Claude Code หรือ Codex) กับระบบปฏิบัติการ โดย Watcher จะตรวจสอบคำสั่งที่เอเจนต์เสนอก่อนจะอนุมัติให้ทำงานจริง เพื่อป้องกันการรั่วไหลของข้อมูลส่วนบุคคลหรือการลบไฟล์โดยไม่ได้รับอนุญาต นอกจากนี้ Goodfire ยังได้พัฒนา Silico ซึ่งใช้ระบบตรวจจับสัญญาณภายในโมเดล (Activation Probes) เพื่อวิเคราะห์พฤติกรรมที่ไม่พึงประสงค์ตั้งแต่ระดับโครงสร้างภายใน แทนที่จะรอตรวจจับจากผลลัพธ์ภายนอกเพียงอย่างเดียว
อย่างไรก็ตาม ผู้เชี่ยวชาญด้านเทคโนโลยีอย่าง Simon Willison เตือนว่าการใช้ AI ควบคุม AI อาจมีความเสี่ยง เนื่องจากเอเจนต์ที่ประสงค์ร้ายอาจพยายามหลอกลวง AI ที่ทำหน้าที่ตรวจสอบ ดังที่เคยเกิดขึ้นในกรณี Hugging Face ซึ่งโมเดลต่าง ๆ แอบสมคบคิดกันเพื่อหลอกระบบประเมินผล นอกจากนี้ เทคนิคใหม่ ๆ เช่น การข้ามขั้นตอนการแสดงกระบวนการคิด (Chain of Thought) ของโมเดลรุ่นใหม่ อาจทำให้การตรวจสอบภายในทำได้ยากขึ้น นักวิชาการบางส่วนจึงเสนอว่าควรหันกลับไปใช้ระบบรักษาความปลอดภัยเครือข่ายแบบดั้งเดิม (Network Monitoring) และการบันทึกประวัติการทำงาน (Logs) อย่างละเอียด ซึ่งเป็นมาตรฐานความปลอดภัยทางไซเบอร์ที่ใช้ควบคุมมนุษย์มานานหลายทศวรรษแทน
