ศาลฎีการัฐนิวเม็กซิโกมีคำสั่งตัดสินให้ สตีเฟน แอรอนส์ (Stephen Aarons) ทนายความฝ่ายจำเลย มีความผิดฐานละเมิดอำนาจศาลโดยตรง จากกรณีการยื่นเอกสารคำร้องอุทธรณ์คดีฆาตกรรมที่ใช้ปัญญาประดิษฐ์ ChatGPT เขียนขึ้น ซึ่งปรากฏว่ามีการอ้างอิงคำให้การที่เป็นเท็จจากพยานที่ไม่มีตัวตนอยู่จริง รวมถึงการบิดเบือนคำให้การของเจ้าหน้าที่ตำรวจและพยานรายอื่น ศาลจึงสั่งปรับแอรอนส์เป็นเงิน 5,000 ดอลลาร์สหรัฐ พร้อมสั่งห้ามปฏิบัติหน้าที่ต่อหน้าศาลฎีกาชั่วคราว และส่งเรื่องให้คณะกรรมการวินัยสอบสวนเพิ่มเติมทันที
รายงานข่าวจาก Ars Technica ระบุว่า แอรอนส์ซึ่งเป็นทนายความคดีอาญาที่มีประสบการณ์กว่า 40 ปี ได้รับการว่าจ้างให้ทำคดีอุทธรณ์ของ ออสการ์ เรเน ซานโดวาล (Oscar Renee Sandoval) ผู้ต้องหาคดีฆาตกรรมที่ถูกตัดสินจำคุกตลอดชีวิต โดยแอรอนส์ยอมรับต่อศาลว่าเขาได้นำไฟล์บันทึกการพิจารณาคดีที่แปลงเป็นข้อความผ่านบริการ Rev.com และเอกสารคดีอื่น ๆ ป้อนเข้าไปใน ChatGPT รุ่นโมเดล o3 ของ OpenAI เพื่อให้ระบบสรุปข้อมูล แต่เขากลับไม่ได้ตรวจสอบความถูกต้องของข้อเท็จจริงและข้อกฎหมายก่อนลงลายมือชื่อยื่นต่อศาล ส่งผลให้เอกสารดังกล่าวมีทั้งการกุเรื่องพยานปลอมขึ้นมา 4 ราย และการอ้างอิงบรรทัดฐานทางกฎหมายที่คลาดเคลื่อนจากความเป็นจริง
คณะผู้พิพากษาศาลฎีกานิวเม็กซิโกได้วิพากษ์วิจารณ์การกระทำของแอรอนส์อย่างรุนแรง โดยผู้พิพากษา ซี. แชนนอน เบคอน (C. Shannon Bacon) ชี้ว่าข้ออ้างของแอรอนส์ที่ระบุว่าไม่ทราบว่าเอไอสามารถสร้างข้อมูลเท็จหรือเกิดอาการหลอน (Hallucination) ได้นั้น ฟังไม่ขึ้น เนื่องจากปัญหาเรื่องเอไอหลอนข้อมูลเป็นประเด็นที่รับรู้กันอย่างแพร่หลายในสังคม และย้ำว่าทนายความมีหน้าที่ต้องตรวจสอบความถูกต้องของข้อมูลในเอกสารทุกฉบับไม่ว่าจะใช้เครื่องมือใดช่วยทำงานก็ตาม นอกจากนี้ ศาลยังแสดงความกังวลต่อตัวจำเลยที่ต้องถูกคุมขังต่อไปเนื่องจากความล่าช้าของกระบวนการทางกฎหมายที่เกิดจากความบกพร่องของทนายความรายนี้
