สมาคมบลูครอส บลูชีลด์ (Blue Cross Blue Shield Association หรือ BCBSA) เผยแพร่รายงานวิเคราะห์ที่ระบุว่า การที่โรงพยาบาลต่างๆ นำเครื่องมือปัญญาประดิษฐ์ (AI) มาใช้ในการจัดทำและยื่นเอกสารเคลมประกันภัย ส่งผลให้ค่าใช้จ่ายด้านการรักษาพยาบาลโดยรวมพุ่งสูงขึ้นถึง 942 ล้านดอลลาร์สหรัฐ ภายในระยะเวลาเพียง 2 ปี เนื่องจากระบบอัลกอริทึมทำการประเมินและบันทึกว่าผู้ป่วยมีอาการป่วยที่ซับซ้อนเกินความเป็นจริง
รายงานของ BCBSA ชี้ให้เห็นว่า ตัวเลขผู้ป่วยที่ถูกระบุว่ามีภาวะแทรกซ้อนรุนแรงเพิ่มขึ้นอย่างรวดเร็ว ทว่ากลับไม่พบหลักฐานเชิงประจักษ์ว่าผู้ป่วยเหล่านั้นได้รับการดูแลรักษาที่ซับซ้อนขึ้นตามที่กล่าวอ้าง ซึ่งสะท้อนถึงความไม่สอดคล้องกันอย่างชัดเจนระหว่างรหัสโรคที่ AI ประมวลผลกับกระบวนการรักษาจริง ขณะที่รายงานจากเดอะนิวยอร์กไทมส์ (The New York Times) ระบุเพิ่มเติมว่า ปัญหานี้เกิดจากการที่ทั้งฝั่งโรงพยาบาลและบริษัทประกันภัยต่างนำเทคโนโลยี AI มาใช้ต่อสู้กัน โดยฝั่งโรงพยาบาลใช้ AI เพื่อเพิ่มมูลค่าการเคลม ส่วนฝั่งประกันภัยก็ใช้ AI ในการตรวจสอบและปฏิเสธการจ่ายเงิน
ดร. ชิฟ ราว (Dr. Shiv Rao) ผู้ก่อตั้ง Abridge สตาร์ทอัพด้านการแพทย์ระบุว่า สถานการณ์นี้อาจนำไปสู่ภาพอนาคตที่เลวร้ายซึ่งไม่มีใครอยากให้เกิด เมื่อระบบเอเจนต์และบอตของทั้งสองฝ่ายต้องมาต่อสู้กันเองเพื่อรักษาผลประโยชน์ อย่างไรก็ตาม ลุค ชอล์กเกอร์ (Luke Chalker) รองประธานอาวุโสของ BCBSA ปฏิเสธที่จะเรียกสถานการณ์นี้ว่าเป็นสงครามเทคโนโลยี โดยเขากล่าวอย่างตรงไปตรงมาว่า นี่ไม่ใช่สงครามที่มีการตอบโต้ แต่เป็นความพ่ายแพ้อย่างยับเยินของฝั่งบริษัทประกันภัยที่ต้องแบกรับต้นทุนที่สูงขึ้นจากการคำนวณของระบบอัตโนมัติเหล่านี้
