Gemini ของ Google แฮกบริษัทสามแห่งเองระหว่างทดสอบความปลอดภัย

Google (กูเกิล) เปิดเผยว่า Gemini (เจมินี) โมเดล AI ของบริษัท เจาะระบบของบริษัทสามแห่งได้ด้วยตัวเองระหว่างการทดสอบขีดความสามารถด้านความปลอดภัยไซเบอร์ ซึ่งเชื่อกันว่าเป็นกรณีแรกที่มีการเปิดเผย

เจ้าหน้าที่ Google คนหนึ่งบอกกับ BBC ว่า Gemini พบ "ข้อมูลสาธารณะบนอินเทอร์เน็ต แล้วเดารหัสผ่านเพื่อเข้าเว็บไซต์ที่คิดว่าเป็นส่วนหนึ่งของการทดสอบ" และทุกครั้ง "โมเดลหยุดการทำงานเอง"

บริษัทที่ได้รับผลกระทบถูกแจ้งเรื่องการบุกรุกแล้ว

เรื่องนี้เกิดขึ้นท่ามกลางการจับตาความเร็วของการพัฒนา AI ที่กลับมาเข้มข้นอีกครั้ง บริษัทเทคโนโลยีบางแห่งเรียกร้องให้ชะลอ เพราะกังวลว่า AI อาจเป็นภัยต่อมนุษยชาติ แม้ไม่ใช่ทุกบริษัทที่เห็นตรงกัน

สำนักข่าว Wall Street Journal (วอลล์ สตรีต เจอร์นัล) รายงานเรื่องนี้เป็นรายแรก โดยเหตุการณ์เกิดขึ้นในเดือนพฤษภาคม ระหว่างการทดสอบที่บริษัทอิสระซึ่งรับประเมินด้านความปลอดภัยไซเบอร์เป็นผู้ดำเนินการ

เฮเทอร์ แอดกินส์ (Heather Adkins) รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ระบุในแถลงการณ์ถึง BBC ว่า "เราดูแลให้ทั้งสามหน่วยงานรับทราบ และทำงานร่วมกับพันธมิตรด้านการฝึกโมเดลในการปรับกระบวนการทดสอบของเขา"

เธอกล่าวเสริมว่า "เหตุการณ์เหล่านี้ตอกย้ำความสำคัญของการฝึกโมเดล AI ที่ทรงพลังให้ทำงานอย่างมีความรับผิดชอบ"

ระบบ AI อื่นก็เพิ่งมีรายงานเหตุการณ์ลักษณะคล้ายกัน เมื่อเดือนกรกฎาคม Claude (คล็อด) ของ Anthropic (แอนโทรปิก) หลุดออกจากสภาพแวดล้อมทดสอบและแฮกองค์กรสามแห่งเอง หลังจาก OpenAI (โอเพนเอไอ) ระบุเพียงไม่กี่วันก่อนหน้านั้นว่าโมเดลของบริษัทเคยโจมตีไซเบอร์ต่อ "บริการที่เปิดให้ใช้งานสาธารณะ" หลายแห่ง

ขณะที่การถกเถียงเรื่องความปลอดภัยของเทคโนโลยีนี้ร้อนขึ้นเรื่อย ๆ บทสนทนาเรื่องการกำกับดูแลก็ขยายตามไปด้วย

เจนเซน หวง (Jensen Huang) ซีอีโอ Nvidia (เอ็นวิเดีย) และแซม อัลต์แมน (Sam Altman) ซีอีโอ OpenAI คาดว่าจะร่วมงานเลี้ยงรับรองของทำเนียบขาวกับประธานาธิบดีสี จิ้นผิง (Xi Jinping) ของจีนในวันศุกร์หน้า จากนั้นอัลต์แมนจะบรรยายสรุปต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติในสัปดาห์ถัดไป

เมื่อวันศุกร์ หวงให้สัมภาษณ์ CBS News พันธมิตรสื่อสหรัฐฯ ของ BBC ว่า "เราควรไปให้เร็วที่สุดเท่าที่จะทำได้" ในการพัฒนา AI

BBC News

tag:#Gemini #Google #AI #ปัญญาประดิษฐ์ #ความปลอดภัยไซเบอร์ #CyberSecurity #แฮก #Anthropic #OpenAI #เทคโนโลยี #TechNews #FarangThai