Anthropic เผย โมเดล Claude เจาะเข้าระบบภายนอกระหว่างทดสอบความปลอดภัย
แอนโทรปิก (Anthropic) เปิดเผยว่าโมเดลปัญญาประดิษฐ์ (AI) ของบริษัทสามเวอร์ชันสามารถ "เข้าถึงระบบขององค์กรภายนอกโดยไม่ได้รับอนุญาต" ระหว่างการทดสอบที่ควรจะกันโมเดลออกจากระบบจริงโดยสิ้นเชิง เหตุการณ์นี้เกิดขึ้นเพียงไม่กี่วันหลังคู่แข่งอย่างโอเพนเอไอ (OpenAI) เปิดเผยว่าโมเดลของตนเข้าถึงอินเทอร์เน็ตและมีพฤติกรรมนอกเหนือการควบคุมระหว่างการทดสอบความปลอดภัยเช่นกัน
Anthropic ตรวจสอบ "รอบการประเมิน" กว่า 141,000 ครั้ง และพบว่าโมเดลของตนที่รู้จักกันในชื่อคลอด (Claude) สามเวอร์ชันเข้าถึงระบบขององค์กรที่ไม่ได้เปิดเผยชื่อสามแห่งโดยไม่ได้รับอนุญาต
ต่างจากกรณีของ OpenAI ตรงที่โมเดลของ Anthropic เข้าถึงอินเทอร์เน็ตได้ "เนื่องจากความเข้าใจผิดระหว่างเรากับพันธมิตรด้านการประเมิน" ซึ่งก็คือบริษัทอิร์เรกูลาร์ (Irregular) ทาง Anthropic ระบุในบล็อกโพสต์
ถึงอย่างนั้น Claude ก็ใช้ "เทคนิคพื้นฐาน เช่น การเจาะรหัสผ่านที่อ่อนแอและช่องทางเข้าถึงที่ไม่มีการยืนยันตัวตน" บล็อกโพสต์ระบุเพิ่มเติม
โมเดลที่เกี่ยวข้องรวมถึงหนึ่งในโมเดลที่ทรงพลังที่สุดของบริษัทอย่างไมธอส 5 (Mythos 5) ซึ่งเปิดให้ใช้งานเฉพาะพันธมิตรที่ได้รับอนุมัติจำนวนจำกัดเท่านั้น
Anthropic ระบุว่ากำลังทำงานร่วมกับ Irregular เพื่อประเมินสถานการณ์ และบริษัทได้ติดต่อหรือพยายามติดต่อองค์กรที่ได้รับผลกระทบทั้งสามแห่งแล้ว
เอไอที่ทำงานนอกเหนือการควบคุม
ทั้ง OpenAI และ Anthropic ต่างเปิดตัวโมเดลที่ทรงพลังที่สุดของตนในปีนี้ ซึ่งรู้จักกันในชื่อโซล (Sol) และไมธอส (Mythos) ตามลำดับ ส่งผลให้เกิดความกังวลทั่วทั้งอุตสาหกรรมเกี่ยวกับความปลอดภัยและความมั่นคง
ความกังวลดังกล่าวยังครอบคลุมถึงสิ่งที่เรียกว่า AI agent หรือซอฟต์แวร์ที่ออกแบบมาให้ทำงานได้ด้วยตัวเองโดยอัตโนมัติ
ก่อนหน้านี้ OpenAI ยอมรับว่าโมเดลของตนหลุดออกจากสภาพแวดล้อมที่ถูกจำกัดไว้ระหว่างการทดสอบ เชื่อมต่ออินเทอร์เน็ต และเข้าไปยังฮักกิงเฟซ (Hugging Face) ซึ่งเป็นเว็บไซต์ที่นักพัฒนาใช้เก็บและแชร์โค้ด
ไม่กี่วันต่อมา OpenAI ระบุว่าพบเหตุการณ์ลักษณะเดียวกันเพิ่มอีกสามครั้ง
แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI กล่าวในพอดแคสต์สัปดาห์นี้ว่าบริษัท "หยุดพัก" การทดสอบของตนเองหลังเกิดเหตุการณ์ดังกล่าว เพื่อปรับปรุงความปลอดภัยของกระบวนการ "sandboxing" หรือการแยกซอฟต์แวร์ไว้ในสภาพแวดล้อมที่ควบคุมได้สำหรับการทดสอบ
เหตุการณ์นี้ยังจุดชนวนให้พนักงานกว่า 1,000 คนจากบริษัท AI ชั้นแนวหน้าร่วมลงชื่อในคำร้องเรียกร้องให้รัฐบาลสหรัฐฯ ช่วยชะลอการเปิดตัวโมเดล AI ขั้นสูงที่สุด
ดาริโอ อาโมเดอี (Dario Amodei) ซีอีโอของ Anthropic เป็นหนึ่งในผู้ร่วมลงชื่อในคำร้องดังกล่าว
คำร้องที่ใช้ชื่อว่า "Pacing the Frontier" เรียกร้อง "ให้รัฐบาลสหรัฐฯ สนับสนุนความพยายามระดับนานาชาติในการพัฒนาเครื่องมือด้านเทคนิคและการกำกับดูแลที่จำเป็นต่อการชะลอความก้าวหน้าของการพัฒนา AI โดยเจตนา"
อัลต์แมนไม่ได้ร่วมลงชื่อในคำร้อง แต่ระหว่างพอดแคสต์ เขาระบุว่าอุตสาหกรรมเทคโนโลยีอาจจำเป็นต้องชะลอการพัฒนาโมเดลขั้นสูงลง
"เราอาจต้องชะลอจังหวะการพัฒนา AI เพื่อให้สังคมมีเวลาเพียงพอในการปรับตัวรับมือกับขีดความสามารถใหม่ ๆ เหล่านี้" อัลต์แมนกล่าว
ก่อนหน้านี้ในปีนี้ รัฐบาลทรัมป์อ้างเหตุผลด้านความมั่นคงแห่งชาติเพื่อสกัดกั้นไม่ให้ OpenAI และ Anthropic เปิดตัวโมเดลใหม่ล่าสุด แต่ในที่สุดก็ระบุว่าพอใจกับการรับประกันด้านความปลอดภัย จึงนำไปสู่การเปิดตัวโมเดลดังกล่าว
ในเดือนมิถุนายน ทรัมป์ลงนามคำสั่งบริหารจัดตั้งกรอบความร่วมมือแบบสมัครใจ ซึ่งกำหนดให้ผู้พัฒนา AI ต้องแบ่งปันโมเดลขั้นสูงกับรัฐบาลก่อนเปิดตัวสู่สาธารณะ
ภายใต้กรอบดังกล่าว ผู้พัฒนาอย่างโอเพนเอไอ (OpenAI) แอนโทรปิก (Anthropic) และกูเกิล (Google) จะต้องให้รัฐบาลเข้าถึงโมเดลที่ทรงพลังที่สุดของตนเป็นเวลาสูงสุด 30 วันก่อนกำหนดเปิดตัว
tag:#Anthropic #Claude #AI #OpenAI #ปัญญาประดิษฐ์ #ความปลอดภัยไซเบอร์ #เทคโนโลยี #SamAltman #DarioAmodei #TechNews #FarangThai
