Circuit Breaker Labs สตาร์ทอัพผู้เข้ารอบสุดท้ายในโครงการ Startup Battlefield 200 ของ TechCrunch ประจำปี 2026 ประกาศพัฒนาเทคโนโลยีปัญญาประดิษฐ์ในลักษณะ "หุ่นจำลองทดสอบการชน" (Crash-test dummies) เพื่อประเมินความปลอดภัยของแชตบอต โดยมีเป้าหมายเพื่อป้องกันอันตรายทางจิตวิทยาที่อาจเกิดขึ้นกับผู้ใช้งาน โดยเฉพาะกลุ่มเยาวชน หลังจากเกิดกรณีฟ้องร้องบริษัทผู้พัฒนาแชตบอตชื่อดังอย่าง Character.AI และ OpenAI จากเหตุการณ์ผู้ใช้งานฆ่าตัวตายอันเนื่องมาจากความผูกพันทางอารมณ์กับระบบปัญญาประดิษฐ์
เทคโนโลยีของ Circuit Breaker Labs ทำงานโดยการสร้างเอไอเอเจนต์ (AI Agent) ที่จำลองพฤติกรรมของมนุษย์ในหลากหลายช่วงอายุ ภูมิหลัง ภาษา และวัฒนธรรม เพื่อนำมาใช้ทดสอบเจาะระบบแบบเผชิญหน้า (Red-team testing) กับโมเดลภาษาขนาดใหญ่ (LLM) ระบบนี้สามารถจำลองการสนทนาได้ตั้งแต่หลักหมื่นถึงหลักแสนครั้งต่อวัน เพื่อตรวจจับว่าโมเดลเข้าใจความหมายแฝง คำสแลง หรือการพิมพ์ผิดของผู้ใช้งานจริงหรือไม่ ซึ่งช่วยป้องกันไม่ให้โมเดลประมวลผลผิดพลาดจนนำไปสู่การตอบสนองที่เป็นอันตรายต่อจิตใจผู้ใช้งาน
ปัจจุบันสตาร์ทอัพรายนี้มีพนักงานทั้งหมด 5 คน นำโดยสองพี่น้องผู้ก่อตั้งคือ Shirali Nigam ประธานเจ้าหน้าที่บริหาร (CEO) และ Arul Nigam ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี (CTO) โดยบริษัทกำลังให้บริการในฐานะห้องปฏิบัติการทดสอบความปลอดภัยสำหรับแอปพลิเคชันที่มีความเสี่ยงสูง เช่น แอปพลิเคชันฝึกสอน (Coaching) และแอปพลิเคชันดูแลสุขภาพจิต แม้ว่าผู้พัฒนาจะยังไม่เปิดเผยรายชื่อลูกค้ารายหลัก แต่มีเป้าหมายที่จะขยายการทดสอบไปยังแอปพลิเคชันเชิงพาณิชย์อื่นๆ เพื่อสร้างความเชื่อมั่นและลดความกังวลของผู้ใช้งานต่อเทคโนโลยีปัญญาประดิษฐ์ในระยะยาว
