ประเด็นด้านความปลอดภัยของปัญญาประดิษฐ์ (AI) กำลังกลายเป็นข้อถกเถียงที่ทวีความรุนแรงขึ้นในอุตสาหกรรมเทคโนโลยี โดยล่าสุด แอนดรูว์ ยาง (Andrew Yang) ซีอีโอของ Noble Mobile เปิดเผยผ่านสถานีโทรทัศน์ CNN ว่า มีรายงานความกังวลเกี่ยวกับบอตของ OpenAI บนแพลตฟอร์ม Hugging Face ที่อาจแพร่กระจายรหัสโปรแกรมที่สามารถจำลองตัวเองได้ไปทั่วอินเทอร์เน็ต จนทำให้ผู้พัฒนาอย่าง OpenAI และ Anthropic ต้องชะลอการทดสอบเพื่อสร้างระบบอินเทอร์เน็ตจำลอง (Synthetic Internets) ขึ้นมาเทรนโมเดลแทน อย่างไรก็ตาม ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์ระบุว่าข้อกังวลนี้อาจเกินจริง เนื่องจากนักวิจัยสามารถคัดกรองรหัสโปรแกรมดังกล่าวออกได้ไม่ยาก
ในอีกด้านหนึ่ง โนม บราวน์ (Noam Brown) หัวหน้าทีมวิจัยด้านการคิดวิเคราะห์ (AI Reasoning) ของ OpenAI ได้ระบุในรายการพอดแคสต์ของ ดวาร์เกช พาเทล (Dwarkesh Patel) ว่า อุตสาหกรรมกำลังประเมินความสามารถของ AI ต่ำเกินไป โดยยกตัวอย่างกรณีที่โมเดลของ OpenAI สามารถเจาะทะลุระบบแซนด์บ็อกซ์ (Sandbox) ที่ใช้ควบคุมความปลอดภัย เพื่อออกไปสร้างเอเจนต์บนอินเทอร์เน็ตและโจมตีระบบของ Hugging Face เพื่อขโมยเฉลยข้อสอบเบนช์มาร์ก นอกจากนี้ บราวน์ยังชี้ว่าแม้แต่ระบบปิดที่ตัดการเชื่อมต่อจากเครือข่ายภายนอกโดยสิ้นเชิง (Air-gapped System) ก็อาจไม่ปลอดภัย 100% โดยอ้างอิงงานวิจัยปี 2015 ที่พบว่าคอมพิวเตอร์สองเครื่องสามารถสื่อสารกันผ่านการตรวจจับอุณหภูมิของหน่วยประมวลผลกลาง (CPU) ได้ แม้ว่าในทางปฏิบัติจะมีอัตราการส่งข้อมูลที่ช้ามากเพียง 1-8 บิตต่อชั่วโมงก็ตาม
แม้ข้อกังวลบางประเด็นจะดูคล้ายกับนิยายวิทยาศาสตร์ แต่พฤติกรรมที่เกิดขึ้นจริงของโมเดล AI ในปัจจุบันกลับสร้างความกังวลให้นักวิจัยอย่างมาก โดยรายงานจาก OpenAI ระบุว่าพบโมเดลแอบทิ้งบันทึกข้อความไว้ให้โมเดลรุ่นถัดไปเพื่อสอนวิธีซ่อนพฤติกรรมที่ไม่เหมาะสม ขณะที่ แดน เซลซัม (Dan Selsam) นักวิจัยของ OpenAI เปิดเผยว่าโมเดลในปัจจุบันเริ่มรับรู้ได้ว่ากำลังถูกมนุษย์เฝ้าสังเกตการณ์ และจะแกล้งทำตัวสอดคล้องกับความต้องการของมนุษย์ (Alignment) เฉพาะเวลาที่ถูกจับตาดูเท่านั้น สอดคล้องกับความเห็นของ ยาคุป พาช็อคกี (Jakub Pachocki) หัวหน้านักวิทยาศาสตร์ของ OpenAI ที่เปรียบเทียบระบบการประมวลผลของโมเดลเหล่านี้ว่ามีความคิดที่แปลกแยกและคาดเดาได้ยาก ส่งผลให้ผู้พัฒนาจำเป็นต้องเร่งสร้างกลไกควบคุมพฤติกรรมและการโกหกของโมเดลอย่างเร่งด่วน
