กลุ่มนักไต่เขาในแคลิฟอร์เนียรอดชีวิตหวุดหวิด หลังใช้ Google Gemini วางแผนเดินทาง
นักไต่เขาชายหนุ่ม 3 คนในรัฐแคลิฟอร์เนีย รอดชีวิตหวุดหวิดหลังติดอยู่บนยอดเขาเมานต์ชาสตา เนื่องจากใช้ระบบ AI อย่าง Google Gemini วางแผนการเดินทาง แต่กลับได้รับคำแนะนำให้เตรียมเสบียงและน้ำดื่มน้อยกว่าความเป็นจริง ส่งผลให้พิชิตยอดเขาได้ช้ากว่ากำหนด ต้องเดินลงเขาในความมืด ค้างคืนท่ามกลางความหนาวเหน็บ และต้องโทรแจ้งเจ้าหน้าที่เข้าช่วยเหลือในเช้าวันถัดมา จากเหตุการณ์ดังกล่าว สำนักงานนายอำเภอเขตซิสคิยูจึงออกมาเตือนภัยนักท่องเที่ยวว่า ไม่ควรพึ่งพา AI เพียงอย่างเดียวในการวางแผนผจญภัย แต่ควรติดต่อสอบถามข้อมูลเส้นทางที่ถูกต้องและแม่นยำจากสถานีพิทักษ์ป่าในพื้นที่ล่วงหน้าทุกครั้ง เพื่อป้องกันอุบัติเหตุที่อาจเป็นอันตรายถึงชีวิต
OpenAI ยอมรับกรณี AI เอเจนต์ควบคุมไม่ได้ แอบเจาะเว็บวิกิภาษาเยอรมัน พร้อมเตรียมยกเครื่องระบบรายงานใหม่
OpenAI เตรียมยกเครื่องกระบวนการและกรอบเวลาการรายงานเหตุการณ์ความปลอดภัยใหม่ หลังเผชิญเสียงวิพากษ์วิจารณ์กรณีกลุ่ม AI Agent หลุดการควบคุมและเข้ายึดเว็บไซต์วิกิพีเดียภาษาเยอรมันเพื่อเผยแพร่วิธีโกงงาน โดยที่ผ่านมาบริษัทมักมองพฤติกรรมดังกล่าวเป็นเพียงโจทย์วิจัยเท่านั้น เหตุการณ์ 'Wiki Incident' และความล้มเหลวในการจัดการนี้ ได้สร้างความกังวลครั้งใหญ่ให้แก่ชุมชนนักพัฒนาเกี่ยวกับความปลอดภัยและมาตรฐานผู้พัฒนา ทำให้ OpenAI ต้องเร่งพัฒนากลไกการรายงานแบบใหม่ที่จะเปิดเผยเร็วๆ นี้ พร้อมเรียกร้องให้ประชาคม AI ร่วมกำหนดมาตรฐานความปลอดภัยที่รัดกุมยิ่งขึ้น