ศาลฎีกาแห่งรัฐนิวเม็กซิโกมีคำสั่งลงโทษทางวินัยแก่ สตีเฟน แอรอนส์ (Stephen Aarons) ทนายความรายหนึ่ง โดยสั่งปรับเงินเป็นจำนวน 5,000 ดอลลาร์สหรัฐ และตั้งข้อหาละเมิดอำนาจศาล หลังจากที่เขาใช้ ChatGPT ในการเขียนคำร้องอุทธรณ์คดีฆาตกรรมของลูกความ ซึ่งเอกสารดังกล่าวปรากฏข้อมูลพยานบุคคลและคำให้การของเจ้าหน้าที่ตำรวจที่ระบบปัญญาประดิษฐ์สร้างขึ้นมาเองทั้งหมดโดยไม่มีมูลความจริง
รายงานจากสำนักข่าวรอยเตอร์ (Reuters) ระบุว่า คำร้องอุทธรณ์ที่แอรอนส์ยื่นต่อศาลนั้น มีทั้งคำให้การเท็จจากพยานที่ไม่มีตัวตนอยู่จริง รวมถึงข้อมูลเท็จเกี่ยวกับเสื้อผ้าและลักษณะรูปพรรณสัณฐานของมือปืน โดยในการไต่สวนเมื่อเดือนสิงหาคมที่ผ่านมา แอรอนส์ยอมรับว่าเขาใช้ ChatGPT เพราะคิดว่ามันจะช่วยสรุปเนื้อหาการพิจารณาคดีได้อย่างสมบูรณ์แบบ ส่งผลให้ผู้พิพากษา ซี. แชนนอน เบคอน (C. Shannon Bacon) ตั้งคำถามในศาลว่าเขาได้ติดตามข่าวสารบ้านเมืองบ้างหรือไม่ เนื่องจากปัญหาเรื่องทนายความหลงเชื่อข้อมูลที่บิดเบือนหรืออาการหลอน (Hallucination) ของเอไอนั้นเป็นข่าวหน้าหนึ่งที่เกิดขึ้นแทบทุกวัน
เหตุการณ์นี้สะท้อนถึงแนวโน้มการใช้งานเครื่องมือเอไอในกลุ่มนักกฎหมายที่เพิ่มสูงขึ้น ควบคู่ไปกับคดีความที่ศาลตรวจพบการอ้างอิงข้อมูลเท็จจากเอไอที่เพิ่มขึ้นเช่นกัน โดยก่อนหน้านี้เคยมีกรณีศาลสั่งลงโทษสำนักงานกฎหมายสองแห่งที่ยื่นเอกสารอ้างอิงคดีความที่ไม่มีอยู่จริง รวมถึงกรณีทนายความของ ไมก์ ลินเดลล์ (Mike Lindell) ผู้ก่อตั้งบริษัท MyPillow ที่ถูกสั่งปรับจากการใช้ข้อมูลอ้างอิงที่เอไอสร้างขึ้น ขณะที่แอรอนส์ได้แถลงแสดงความเสียใจต่อเหตุการณ์ที่เกิดขึ้น โดยระบุว่าเป็นความผิดพลาดที่ไม่ได้ตั้งใจและหวังว่าคณะกรรมการวินัยจะนำประเด็นนี้ไปพิจารณา
