แซม อัลต์แมน ประธานเจ้าหน้าที่บริหาร OpenAI, ดาริโอ อะโมเดย์ ประธานเจ้าหน้าที่บริหาร Anthropic, เดมิส ฮัสซาบิส ผู้ร่วมก่อตั้ง Google DeepMind และอีลอน มัสก์ หัวหน้าทีม xAI บรรลุข้อตกลงอย่างหลวมๆ ในการชะลอความเร็วการพัฒนาปัญญาประดิษฐ์ (AI) ภายใต้แนวคิด "การควบคุมความเร็วของเทคโนโลยีขั้นสูง" (Pace the Frontier) โดยข้อเสนอดังกล่าวระบุถึงการดึงผู้ตรวจสอบภายนอกเข้ามามีส่วนร่วม การควบคุมห้องปฏิบัติการในประเทศ และการสร้างข้อตกลงชะลอการพัฒนาระดับโลก ท่ามกลางเสียงวิพากษ์วิจารณ์จากนักวิเคราะห์บางส่วนที่มองว่าความเคลื่อนไหวนี้อาจเป็นเพียงการรวมกลุ่มผูกขาดเพื่อสกัดกั้นคู่แข่งและขัดขวางการพัฒนาซอฟต์แวร์โอเพนซอร์ส
ชนวนเหตุสำคัญที่นำไปสู่ข้อตกลงนี้เกิดจากความกังวลเรื่อง "การพัฒนาตัวเองแบบวนซ้ำ" (Recursive Self-Improvement หรือ RSI) ซึ่งเป็นกระบวนการที่โมเดล AI สามารถเทรนและอัปเกรดตัวเองได้โดยไม่ต้องพึ่งพามนุษย์ โดย Anthropic คาดการณ์ว่าจุดเปลี่ยนนี้อาจเกิดขึ้นเร็วที่สุดภายในต้นปี 2027 ขณะที่อดีตนักวิจัยของ Anthropic อย่าง เจคอบ ค็อกซัน ได้เผยแพร่จดหมายลาออกที่เตือนว่าผู้พัฒนา AI กำลังเร่งรีบไปสู่การสร้างซูเปอร์อินเทลลิเจนซ์ (Superintelligence) ที่สามารถเจาะระบบความปลอดภัยทางไซเบอร์และอาจเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติ ซึ่งสอดคล้องกับความเห็นของนักวิจัยในห้องปฏิบัติการชั้นนำหลายแห่งที่มองว่าความเสี่ยงนี้ใกล้เข้ามาทุกขณะ
อย่างไรก็ตาม อุปสรรคสำคัญของการชะลอการพัฒนาคือการแข่งขันทางภูมิรัฐศาสตร์กับประเทศจีน ซึ่งผู้สนับสนุนการพัฒนา AI มักอ้างว่าสหรัฐฯ ไม่สามารถหยุดชะงักได้เพื่อป้องกันไม่ให้จีนก้าวขึ้นมาเป็นผู้นำเทคโนโลยีนี้แทน ขณะที่รัฐบาลสหรัฐฯ ภายใต้การนำของประธานาธิบดีโดนัลด์ ทรัมป์ แสดงท่าทีชัดเจนว่าไม่สนับสนุนการควบคุมที่เข้มงวด โดยทรัมป์ระบุว่าข้อกังวลเรื่องภัยคุกคามจาก AI เป็นเรื่องหลอกลวง และมองว่าสิ่งเดียวที่จำเป็นในการควบคุมคือผู้นำที่ชาญฉลาด ส่งผลให้ข้อตกลงชะลอการพัฒนาในปัจจุบันยังคงเป็นเพียงข้อตกลงแบบสมัครใจที่ขาดกลไกการบังคับใช้ทางกฎหมายอย่างเป็นรูปธรรม
