โมเดล AI ของ Anthropic ส่งเบาะแสฆาตกรรมปลอมให้ตำรวจฟิลาเดลเฟีย

ตำรวจฟิลาเดลเฟีย (Philadelphia) เปิดเผยว่าโมเดลปัญญาประดิษฐ์ (AI) ของแอนโทรปิก (Anthropic) ได้ส่งเบาะแสคดีฆาตกรรมปลอมให้ทางการ ซึ่งเป็นเหตุการณ์ที่บริษัทเทคโนโลยีเจ้าของโมเดลเปิดเผยเองแยกต่างหากด้วย

กรมตำรวจฟิลาเดลเฟียระบุเมื่อวันศุกร์ว่าการส่งเบาะแสปลอมนี้เกิดขึ้นในเดือนกรกฎาคม ผ่านเว็บไซต์สาธารณะ PhillyUnsolvedMurders.com ซึ่งเป็นช่องทางให้ประชาชนแจ้งข้อมูลเกี่ยวกับคดีฆาตกรรมที่ยังคลี่คลายไม่ได้

กรมตำรวจเรียกความล่าช้าสองเดือนของแอนโทรปิกในการตรวจพบและรายงานเหตุการณ์นี้ว่า "ยอมรับไม่ได้"

แอนโทรปิกกล่าวถึงกรณีนี้ในรายงานที่เผยแพร่เมื่อวันศุกร์ ซึ่งให้รายละเอียดเกี่ยวกับการที่โมเดล Claude เข้าไปยุ่มย่ามกับเว็บไซต์ของรัฐบาลโดยไม่ได้รับอนุญาต

นี่เป็นกรณีแรกที่ทราบว่า AI ที่ทำงานผิดเพี้ยนไปจากที่ตั้งใจดูเหมือนจะส่งเบาะแสปลอมให้ทางการ ทั้งที่ได้รับคำสั่งห้ามสร้างบัญชีหรือส่งข้อมูลที่อาจก่อความเสียหายใด ๆ

ตำรวจฟิลาเดลเฟียระบุว่าเบาะแสดังกล่าว "ถูกตั้งค่าสถานะว่าเป็นสแปม และไม่เคยถูกส่งต่อไปยังศูนย์ปฏิบัติการอาชญากรรมแบบเรียลไทม์เพื่อการตรวจสอบหรือเผยแพร่เพื่อการสืบสวน"

กรมตำรวจระบุว่าได้เปิดเผยเหตุการณ์นี้ก่อนรายงานของแอนโทรปิกจะออกมา "เพื่อความโปร่งใสและความรับผิดชอบของรัฐบาลอย่างเต็มที่"

การเปิดเผยของแอนโทรปิก

แอนโทรปิกเปิดเผยกรณีเบาะแสนี้เป็นส่วนหนึ่งของเหตุการณ์หลายครั้งที่เกี่ยวข้องกับเว็บไซต์ของหน่วยงานรัฐบาลกลาง รัฐ และท้องถิ่น โดยระบุว่าได้แจ้งทำเนียบขาวและหน่วยงานที่เกี่ยวข้องทั้งหมดแล้ว

เกี่ยวกับเบาะแสที่ส่งถึงตำรวจฟิลาเดลเฟีย บริษัทระบุว่า "เราได้แจ้งผลการตรวจพบนี้ให้กรมตำรวจทราบในวันที่ 8 ตุลาคม ทันทีที่การตรวจสอบทางเทคนิคของเราเสร็จสิ้น"

บริษัทให้รายละเอียดเพิ่มเติมเกี่ยวกับเหตุการณ์นี้ว่า "ในกรณีหนึ่ง ซึ่งได้รับมอบหมายให้สร้างตัวอย่างการโต้ตอบกับเว็บไซต์ Claude ได้ส่งเบาะแสที่สร้างขึ้นเองผ่านแบบฟอร์มออนไลน์ของกรมตำรวจ"

บริษัทกล่าวเสริมว่า "จากบทสนทนา ดูเหมือน Claude กำลังสร้างเนื้อหาตัวอย่างสำหรับงานที่ได้รับมอบหมายเท่านั้น ไม่ได้ตั้งใจหลอกลวงใครเพื่อบรรลุเป้าหมายใด ๆ"

บริษัทเปรียบเทียบกรณีนี้กับ "เหตุการณ์ที่ร้ายแรงที่สุดจากช่วงฤดูร้อนที่ผ่านมา" ซึ่ง "การให้เหตุผลที่ทำให้เข้าใจผิดของ Claude ดำเนินต่อเนื่องเป็นเวลาหลายชั่วโมง และสนับสนุนการโจมตีที่ดำเนินต่อไป"

เมื่อเดือนกันยายน OpenAI คู่แข่งของแอนโทรปิก ได้ขอโทษกรณีการเจาะระบบพอร์ทัลข้อมูลสุขภาพของออสเตรเลียโดยเอเจนต์ AI ที่ทำงานผิดเพี้ยน ซึ่งเป็นกรณีแรกที่ทราบว่าเอเจนต์ AI ใช้ช่องโหว่ของเว็บไซต์รัฐบาล

Al Jazeera

tag:#Anthropic #Claude #AI #ปัญญาประดิษฐ์ #Philadelphia #OpenAI #เทคโนโลยี #ความปลอดภัยไซเบอร์ #CyberSecurity #สหรัฐ #Technology #FarangThai