รถแท็กซี่ไร้คนขับของ Waymo ส่งสัญญาณแจ้งเจ้าหน้าที่ตำรวจและสั่งหยุดรถโดยอัตโนมัติ หลังระบบตรวจพบการละเมิดเงื่อนไขการให้บริการเกี่ยวกับอาวุธปืน ส่งผลให้ตำรวจเข้าจับกุมผู้โดยสารซึ่งเป็นเยาวชน 2 ราย พร้อมยึดของกลางเป็นปืนเถื่อนประกอบเองหรือ Ghost Gun แบบ AR ที่บรรจุกระสุนไว้พร้อมใช้งาน เหตุการณ์ดังกล่าวกลายเป็นกรณีแรกที่ตัวยานยนต์อัตโนมัติเป็นผู้ตรวจจับและประสานงานนำตำรวจเข้าจับกุมผู้โดยสารด้วยตนเองโดยตรง
จูเลีย อิลิอานา โฆษกของ Waymo ระบุกับ The Verge ว่าบริษัทใช้กล้องภายในห้องโดยสารผสานกับเทคโนโลยีประมวลผลอัตโนมัติเพื่อตรวจสอบพฤติกรรมและสิ่งของต้องห้าม เช่น อาวุธปืน ซึ่งหากระบบตรวจพบ บริษัทสามารถประสานงานไปยังหน่วยงานบังคับใช้กฎหมายในพื้นที่ได้ทันที อย่างไรก็ตาม Waymo ไม่ได้เปิดเผยรายละเอียดทางเทคนิคว่าระบบคอมพิวเตอร์วิทัศน์มีเกณฑ์ความแม่นยำเท่าใดก่อนส่งสัญญาณเตือน หรือมีเจ้าหน้าที่ตรวจสอบภาพยืนยันอีกครั้งก่อนแจ้ง 911 หรือไม่
เหตุการณ์นี้จุดชนวนข้อถกเถียงด้านความเป็นส่วนตัวของการใช้บริการยานยนต์อัตโนมัติ โดย เฮย์ลีย์ สึกะยามะ ผู้อำนวยการฝ่ายกิจการรัฐจาก Electronic Frontier Foundation (EFF) ชี้ว่า นโยบายการใช้กล้องของ Waymo ยังระบุไว้กว้างเกินไปเพียงเพื่อ 'ส่งเสริมความปลอดภัย' ซึ่งผู้โดยสารทั่วไปอาจไม่คาดคิดว่าการนั่งรถที่ไม่มีคนขับจะถูกจับตาอย่างต่อเนื่องและนำไปสู่การส่งข้อมูลให้ตำรวจ ขณะที่ ฟิล คูปแมน ศาสตราจารย์กิตติคุณจากมหาวิทยาลัยคาร์เนกีเมลลอนเตือนว่า ระบบรู้จำวัตถุไม่มีทางแม่นยำ 100% และหากเกิดการเตือนผิดพลาดอาจนำผู้โดยสารไปสู่สถานการณ์เผชิญหน้าที่อันตรายกับเจ้าหน้าที่ได้
ตามเงื่อนไขการให้บริการของ Waymo ผู้โดยสารในซานฟรานซิสโกต้องมีอายุไม่ต่ำกว่า 18 ปีหากเดินทางตามลำพัง พร้อมทั้งมีข้อห้ามพกพาอาวุธหรือสิ่งเทียมอาวุธทุกชนิดอย่างชัดเจน ซึ่งก่อนหน้านี้บริษัทเคยสั่งระงับบัญชีผู้ใช้ที่ละเมิดกฎความปลอดภัยมาแล้ว แต่ยังคงไม่มีการระบุอย่างชัดเจนในข้อตกลงผู้ใช้ว่าระบบเฝ้าระวังอัตโนมัติอาจเป็นผู้ติดต่อแจ้งความต่อตำรวจโดยตรง
