Trillium Labs ชูนโยบายเปิดวิจัย AI ความเสี่ยงสูง สวนทางห้องแล็บยักษ์ใหญ่

Trillium Labs ประกาศทำวิจัยปัญญาประดิษฐ์ความเสี่ยงสูงแบบเปิดเผย มุ่งศึกษาพฤติกรรมโมเดลและการพัฒนาตนเองของ AI สวนทางค่ายยักษ์ใหญ่ที่เก็บข้อมูลเป็นความลับ
Trillium Labs ชูนโยบายเปิดวิจัย AI ความเสี่ยงสูง สวนทางห้องแล็บยักษ์ใหญ่
ภาพประกอบ: Pavel Danilyuk บน Pexels

นิตยสาร WIRED รายงานว่า Trillium Labs ประกาศแนวทางเดินหน้าทำวิจัยปัญญาประดิษฐ์ในประเด็นที่มีความเสี่ยงสูงอย่างเปิดเผยต่อสาธารณะ เพื่อสร้างมาตรฐานความโปร่งใสในการพัฒนาเทคโนโลยีขั้นสูง ซึ่งสวนทางกับห้องแล็บระดับแนวหน้า (Frontier Labs) ส่วนใหญ่ในอุตสาหกรรมที่มักเก็บซ่อนผลการทดลองและข้อมูลความปลอดภัยสำคัญไว้เป็นความลับภายในองค์กร

การวิจัยของ Trillium Labs จะมุ่งเน้นไปที่การศึกษาพฤติกรรมของโมเดล และกลไกการพัฒนาตนเองของปัญญาประดิษฐ์ (Self-Improvement) ซึ่งเป็นมิติที่มีความเสี่ยงสูงและถูกจับตามองอย่างใกล้ชิด โดยเป้าหมายของการเปิดเผยกระบวนการทำงานสู่สาธารณะ คือการเปิดโอกาสให้นักวิจัยและผู้เชี่ยวชาญภายนอกสามารถเข้ามาตรวจสอบ วิเคราะห์ผลกระทบ และร่วมประเมินความเสี่ยงได้อย่างโปร่งใส

แหล่งที่มาข้อมูล / ข่าวต้นทาง:wired.com
เขียนโดยTong• Editor
ดูบทความทั้งหมด
คัดลอกลิงก์บทความเรียบร้อยแล้ว