นักวิจัยชี้ปัญญาประดิษฐ์ระดับเหนือมนุษย์อันตรายถึงชีวิต เสี่ยงมนุษยชาติติดลบ

ปัญญาประดิษฐ์ระดับเหนือมนุษย์มีความเสี่ยงต่อการสูญพันธุ์ของมนุษยชาติในระดับที่สูงมาก ตามความเห็นของอดีตพนักงาน OpenAI และ Google DeepMind อย่าง Geoffrey Irving ซึ่งเป็นหนึ่งในผู้เชี่ยวชาญร่วมให้สัมภาษณ์ในโครงการรวบรวมมุมมองนักพัฒนาเอไอผ่านเว็บไซต์ frominside.ai โดยความเคลื่อนไหวดังกล่าวได้รับการจัดทำและเผยแพร่โดย Palisade Research ซึ่งเป็นองค์กรไม่แสวงหากำไรที่ศึกษาความสามารถและแรงจูงใจของระบบเอไอ

ผู้เชี่ยวชาญหลายรายสะท้อนมุมมองที่สอดคล้องกัน โดย Neel Nanda นักวิทยาศาสตร์ด้านการวิจัยจาก Google DeepMind ระบุว่ามีความเสี่ยงอย่างน้อยร้อยละ 10 ที่โมเดลเหล่านี้อาจก่อให้เกิดการสูญพันธุ์ของมนุษย์ ขณะที่ Daniel Kokotajlo อดีตนักวิจัยจาก OpenAI ระบุว่าปัญญาประดิษฐ์ขั้นสูงจะมีพลังอำนาจเทียบเท่าพระเจ้า แต่ปัจจุบันยังไม่มีแนวทางควบคุมที่มีประสิทธิภาพเพียงพอ ทำให้มีความเสี่ยงด้านความปลอดภัยอย่างรุนแรง

ด้านตัวแทนจากบริษัทผู้พัฒนาอย่าง Mary Phuong จาก Google ระบุว่าผู้ใช้งานควรมีความระมัดระวังและตั้งข้อสงสัยต่อคำกล่าวอ้างของผู้พัฒนา เนื่องจากเป็นบุคลากรที่รับเงินสนับสนุนจากห้องปฏิบัติการวิจัย ขณะที่ Nanda ระบุว่าตนเองยังคงทำงานในส่วนนี้ต่อไปเพราะเชื่อว่างานที่ทำช่วยลดความเสี่ยงที่มีอยู่ แม้บริษัทเทคโนโลยีจะยังคงเดินหน้าพัฒนาโมเดลอย่างต่อเนื่องก็ตาม