AI จับผิดตัว! หญิงอเมริกันอายุ 50 ปี ถูกจับขังนาน 5 เดือน เพราะระบบจดจำใบหน้าชี้เป็นผู้ต้องสงสัย

หญิงวัย 50 ปีจากรัฐเทนเนสซี ถูกจับกุมและคุมขังนานกว่า 5 เดือน หลังตำรวจรัฐนอร์ทดาโคตา (North Dakota) ใช้ระบบ AI จดจำใบหน้าระบุว่าเธอเป็นผู้ต้องสงสัยในคดีฉ้อโกงธนาคาร ทั้งที่เธอยืนยันว่าไม่เคยเหยียบเข้ารัฐนั้นเลยแม้แต่ครั้งเดียว คดีนี้กลายเป็นตัวอย่างล่าสุดของปัญหาการใช้ AI ในงานตำรวจที่ขาดการตรวจสอบจากมนุษย์

เกิดอะไรขึ้น

แองเจลา ลิปส์ (Angela Lipps) แม่ลูกสามและย่า/ยายของหลานห้าคน ถูกจับเมื่อวันที่ 14 กรกฎาคม ที่รัฐเทนเนสซี ตามหมายจับที่ออกโดยศาลในเมืองฟาร์โก (Fargo) รัฐนอร์ทดาโคตา ซึ่งอยู่ห่างจากบ้านเธอกว่า 1,600 กิโลเมตร
ต้นเหตุมาจากคดีฉ้อโกงธนาคารหลายครั้งในพื้นที่ฟาร์โก ตำรวจเมืองเวสต์ฟาร์โก (West Fargo) ใช้ระบบ AI ของบริษัท Clearview AI ซึ่งมีฐานข้อมูลรูปภาพหลายพันล้านรูปจากอินเทอร์เน็ตและโซเชียลมีเดีย สแกนเปรียบเทียบแล้วระบุว่าลิปส์มีลักษณะคล้ายกับผู้ต้องสงสัย จากนั้นส่งข้อมูลต่อให้ตำรวจฟาร์โก
ปัญหาคือ ตำรวจฟาร์โกรับข้อมูลนี้ไปใช้โดยไม่ได้ตรวจสอบอย่างถี่ถ้วน และเข้าใจผิดว่าทีมเวสต์ฟาร์โกส่งหลักฐานภาพจากกล้องวงจรปิดมาด้วย ทั้งที่ความจริงไม่ได้ส่ง

ขังนาน 5 เดือน แล้วพบว่าผิดตัว

ลิปส์ถูกขังในเทนเนสซีกว่า 3 เดือนก่อนถูกส่งตัวไปนอร์ทดาโคตา เธอเล่าว่าการเดินทางครั้งนั้นเป็นครั้งแรกที่เธอขึ้นเครื่องบิน และรู้สึกหวาดกลัว หมดแรง และอับอายอย่างมาก
เมื่อถึงฟาร์โก ทนายความที่ได้รับมอบหมายให้ช่วยเธอตรวจสอบบันทึกธนาคารแล้วพบว่า เธออยู่ในเทนเนสซีตลอดช่วงเวลาที่เกิดเหตุ ในที่สุดอัยการยอมถอนฟ้องเมื่อวันที่ 23 ธันวาคม และลิปส์ได้รับการปล่อยตัวในวันคริสต์มาสอีฟ
ทนายของเธอตั้งคำถามว่า ทำไมหลักฐานที่พิสูจน์ความบริสุทธิ์อย่างบันทึกธนาคารซึ่งหาได้ไม่ยาก กลับไม่ถูกตรวจสอบตั้งแต่แรก และวิจารณ์ว่าตำรวจใช้ AI เป็นทางลัดแทนการสืบสวนขั้นพื้นฐาน

ตำรวจยอมรับ “ทำผิดพลาด” แต่ไม่ขอโทษ

ผู้บัญชาการตำรวจฟาร์โก เดฟ ซิบอลสกี (Dave Zibolski) ยอมรับว่ามี “ข้อผิดพลาดบางประการ” ในกระบวนการสืบสวน และประกาศมาตรการใหม่:
∙ ห้ามใช้ข้อมูลจากระบบ AI ของเวสต์ฟาร์โก เนื่องจากไม่ทราบวิธีการดำเนินงานหรือการกำกับดูแลของระบบนั้น
∙ ให้ส่งภาพไปตรวจสอบกับหน่วยงานระดับรัฐและรัฐบาลกลาง ที่ผ่านการรับรองและฝึกอบรมด้านจดจำใบหน้าแทน
∙ รายงานการใช้ AI จดจำใบหน้าทุกเดือน เพื่อควบคุมดูแลอย่างใกล้ชิด
∙ พิจารณาตรวจสอบรายชื่อผู้ถูกคุมขังทุกวัน เพื่อป้องกันไม่ให้เกิดกรณีขังนานโดยไม่จำเป็นอีก
อย่างไรก็ตาม เมื่อถูกถามว่าจะขอโทษลิปส์หรือไม่ ซิบอลสกีตอบเพียงว่าคดียังเปิดอยู่และยังไม่รู้แน่ชัดว่าใครเกี่ยวข้องบ้าง

ไม่ใช่ครั้งแรกที่ AI พาตำรวจพลาด

กรณีของลิปส์ไม่ใช่เรื่องใหม่ ปีที่แล้วในรัฐแมริแลนด์ ตำรวจติดอาวุธเข้าค้นตัวนักเรียนมัธยมปลายคนหนึ่ง หลังระบบ AI ด้านความปลอดภัยของโรงเรียนตรวจจับว่าถุงขนม Doritos เปล่าในกระเป๋าอาจเป็นอาวุธปืน
เอียน อดัมส์ (Ian Adams) ผู้ช่วยศาสตราจารย์ด้านอาชญาวิทยาจากมหาวิทยาลัยเซาท์แคโรไลนา ชี้ว่าตำรวจทั่วอเมริกากำลังนำเทคโนโลยี AI มาใช้อย่างรวดเร็วโดยแทบไม่มีหลักฐานยืนยันประสิทธิภาพ และปัญหาส่วนใหญ่ไม่ได้เกิดจากเทคโนโลยีอย่างเดียว แต่เกิดจากคนใช้เทคโนโลยีอย่างไม่เหมาะสมด้วย

ทำไมเรื่องนี้สำคัญ

คดีนี้สะท้อนความเสี่ยงของการพึ่งพา AI ในกระบวนการยุติธรรมโดยขาดการตรวจสอบซ้ำจากมนุษย์ โดยเฉพาะระบบจดจำใบหน้าที่มีประวัติระบุผิดตัวหลายครั้ง สิ่งที่น่าจับตาคือ ทนายของลิปส์กำลังพิจารณาฟ้องเรียกค่าเสียหายด้านสิทธิพลเมือง และแนวโน้มที่รัฐต่าง ๆ จะออกกฎหมายควบคุมการใช้ AI ในงานบังคับใช้กฎหมายอย่างเข้มงวดขึ้น

Source: CNN