ทีมความปลอดภัย OpenAI ลาออกแฉวัฒนธรรมพัง จี้คุมเข้มขั้นนิวเคลียร์

เดวิด โรบินสัน อดีตทีมความปลอดภัย OpenAI ลาออกพร้อมแฉวัฒนธรรมองค์กรที่เน้นความเร็วมากกว่าความปลอดภัย จี้อุตสาหกรรม AI ต้องคุมเข้มระดับโรงไฟฟ้านิวเคลียร์เพื่อป้องกันภัยพิบัติ
ทีมความปลอดภัย OpenAI ลาออกแฉวัฒนธรรมพัง จี้คุมเข้มขั้นนิวเคลียร์
ภาพประกอบ: princess บน Pexels

เดวิด โรบินสัน (David Robinson) อดีตเจ้าหน้าที่ผู้รับผิดชอบการเขียนรายงานความปลอดภัยสำหรับการเปิดตัวโมเดลปัญญาประดิษฐ์รุ่นสำคัญทุกรุ่นของ OpenAI ได้ประกาศลาออกจากตำแหน่งอย่างเป็นทางการ พร้อมเขียนบทความแสดงทรรศนะเผยแพร่ผ่านนิตยสาร ดิ แอตแลนติก (The Atlantic) เพื่อแจ้งเตือนถึงวิกฤตเชิงวัฒนธรรมภายในอุตสาหกรรมเทคโนโลยีที่เขามองว่ากำลังอยู่ในสภาวะพังทลายและขาดความรับผิดชอบต่อความเสี่ยงที่อาจเกิดขึ้นในอนาคต

โรบินสันระบุว่า วัฒนธรรมการทำงานในซิลิคอนแวลลีย์ตั้งอยู่บนรากฐานของความมั่นใจที่ล้นเกินและการเร่งรีบทำงานอย่างไม่หยุดยั้ง โดยมุ่งเน้นการพัฒนาโมเดลขนาดใหญ่ขึ้นและมีประสิทธิภาพสูงขึ้นภายใต้ทัศนคติเชิงบวกที่ละเลยการประเมินผลกระทบเชิงลบอย่างรอบด้าน เขาเสนอแนะว่าบริษัทผู้พัฒนาโมเดล AI ระดับแนวหน้าจำเป็นต้องปรับเปลี่ยนแนวทางการดำเนินงานให้มีความรัดกุมและรอบคอบเทียบเท่ากับมาตรฐานความปลอดภัยของโรงไฟฟ้านิวเคลียร์หรือท่าอากาศยานที่มีการวางระบบสำรองหลายชั้นและการวางแผนที่รัดกุม เพื่อป้องกันไม่ให้ความผิดพลาดจากมนุษย์นำไปสู่ภัยพิบัติร้ายแรง

การลาออกของโรบินสันถือเป็นส่วนหนึ่งของกระแสการทยอยลาออกของนักวิจัยและเจ้าหน้าที่ด้านความปลอดภัยจากบริษัท AI ชั้นนำอย่างต่อเนื่อง โดยก่อนหน้านี้ เจคอบ ค็อกซัน (Jacob Coxon) ได้ลาออกจาก Anthropic พร้อมแสดงความกังวลต่อสาธารณะเกี่ยวกับความเสี่ยงของเทคโนโลยี ตามมาด้วย โรเบิร์ต โอคัลลาแฮน (Robert O'Callahan), บิลาล ชุกไต (Bilal Chughtai) และ จอช เอนเกลส์ (Josh Engels) จาก Google DeepMind รวมถึง โจ เบนตัน (Joe Benton) จาก Anthropic ซึ่งสะท้อนถึงความตึงเครียดที่เพิ่มสูงขึ้นระหว่างฝ่ายพัฒนาเชิงพาณิชย์และฝ่ายควบคุมความปลอดภัยในอุตสาหกรรมนี้

แหล่งที่มาข้อมูล / ข่าวต้นทาง:theverge.com
เขียนโดยTong• Editor
ดูบทความทั้งหมด
คัดลอกลิงก์บทความเรียบร้อยแล้ว