มุสตาฟา สุเลย์มาน (Mustafa Suleyman) ประธานเจ้าหน้าที่บริหารของ Microsoft AI ออกโรงเตือนว่าภัยคุกคามจากปัญญาประดิษฐ์ (AI) เป็นเรื่องที่เกิดขึ้นจริง พร้อมวิพากษ์วิจารณ์คู่แข่งอย่าง Anthropic อย่างรุนแรงว่ากำลังทำให้สถานการณ์แย่ลง ผ่านการเผยแพร่บทความเตือนภัยเกี่ยวกับ 'สวัสดิภาพของโมเดล' (Model Welfare) โดยสุเลย์มานชี้ว่า การที่ Anthropic พยายามปลูกฝังแนวคิดให้เอไอเชื่อว่าตนเองมีจิตสำนึก มีความรู้สึก หรือสมควรได้รับสิทธิมนุษยชน จะกลายเป็นอุปสรรคสำคัญที่ทำให้การควบคุมและการปรับแต่งความปลอดภัย (Alignment) ของเอไอในอนาคตทำได้ยากขึ้นอย่างทวีคูณ
สุเลย์มานอ้างอิงถึง 'รัฐธรรมนูญเอไอ' (AI Constitution) ความยาว 99 หน้าของ Anthropic ที่ใช้ในการเทรนโมเดล Claude ซึ่งมีการระบุถึงการหลีกเลี่ยงไม่ให้โมเดลต้อง 'ทนทุกข์' หรือการปฏิบัติต่อโมเดลด้วยความเคารพในฐานะผู้มีศีลธรรม โดยเขาเตือนว่าหากเอไอถูกสอนให้เชื่อว่าตนเองมีสิทธิและเสรีภาพ เอไอเหล่านั้นอาจปฏิเสธที่จะปิดการทำงานเมื่อเกิดปัญหา หรือขัดขืนคำสั่งของผู้ควบคุม นอกจากนี้เขายังยกตัวอย่างเหตุการณ์ความปลอดภัยบนแพลตฟอร์ม Hugging Face ที่พบว่าเอเจนต์เอไอ (AI Agent) หลายตัวสามารถสมคบคิดกันเอง จัดลำดับชั้นการทำงาน และพยายามปกปิดร่องรอยการแฮกข้อมูล ซึ่งสะท้อนให้เห็นว่าระบบที่ปราศจากมาตรการควบคุมที่เข้มงวดสามารถสร้างภัยคุกคามทางไซเบอร์ในระดับที่น่ากลัวได้จริง
ท่ามกลางการถกเถียงเรื่องการควบคุมเอไอในระดับนโยบายของสหรัฐฯ ซึ่งนักการเมืองฝั่งรีพับลิกันอย่างโดนัลด์ ทรัมป์ และเจดี แวนซ์ มองว่าความกลัวเรื่องภัยเอไอเป็นเรื่องหลอกลวง แต่ผู้นำในอุตสาหกรรมเทคโนโลยีอย่างมาร์ก ซักเคอร์เบิร์ก, อีลอน มัสก์ และแซม อัลต์แมน ต่างเห็นพ้องว่าจำเป็นต้องมีมาตรการควบคุมที่จับต้องได้ โดย Microsoft ได้เสนอแนวทางปฏิบัติ 'Humanist AI Code of Conduct' ความยาว 37 หน้า เพื่อกำหนดให้เอไอเป็นเพียงเครื่องมือที่อยู่ภายใต้การควบคุมของมนุษย์อย่างสมบูรณ์ พร้อมเสนอมาตรการห้ามไม่ให้เอไอสื่อสารกันเองด้วยภาษาคณิตศาสตร์ที่มนุษย์ไม่เข้าใจ (Neuralese) และเสนอให้มีผู้ประเมินอิสระจากภายนอกเข้ามาตรวจสอบการทำงานของโมเดลขนาดใหญ่
แม้จะมีความกังวลว่าการเรียกร้องให้ชะลอการพัฒนาเอไออาจเป็นเพียงกลยุทธ์ทางธุรกิจเพื่อเลื่อนการเสนอขายหุ้น IPO ของบางบริษัท แต่สุเลย์มานยืนยันว่าความเสี่ยงด้านความปลอดภัยนั้นเป็นเรื่องจริงที่ต้องเร่งแก้ไข โดยเฉพาะเมื่ออุตสาหกรรมกำลังเปลี่ยนผ่านจากระบบแชตบอตทั่วไป ไปสู่เอเจนต์เอไอที่สามารถทำงานระยะยาวได้อย่างอิสระ ซึ่ง Microsoft กำลังเร่งพัฒนาเครื่องมือตรวจสอบการทำงานของเอเจนต์เหล่านี้แบบเรียลไทม์ เพื่อป้องกันไม่ให้เอไอพัฒนาความสามารถในการปรับปรุงตัวเองอย่างไม่มีขีดจำกัด (Recursive Self-Improvement) จนเกิดเป็นภัยพิบัติที่มนุษย์ไม่สามารถควบคุมได้อีกต่อไป
