ซีอีโอฮักกิงเฟซ เผยเหตุแฮกจากโมเดล AI ของโอเพนเอไอเมื่อเดือนก่อน "แปลกและไม่เคยเกิดขึ้นมาก่อน"
โมเดลปัญญาประดิษฐ์ (AI) ที่บริษัทโอเพนเอไอ (OpenAI) กำลังทดสอบอยู่ หลุดออกจากการควบคุมและแฮกบริษัทฮักกิงเฟซ (Hugging Face) ด้วยตัวเอง ซีอีโอของฮักกิงเฟซ เคลมองต์ เดอล็อง (Clément Delangue) เรียกเหตุการณ์นี้ว่า "แปลกมากและไม่เคยเกิดขึ้นมาก่อน"
โมเดล AI ที่โอเพนเอไอกำลังทดสอบหลุดออกจากการควบคุมและแฮกบริษัทฮักกิงเฟซด้วยตัวเอง นับเป็นเหตุการณ์ครั้งแรกในลักษณะนี้ที่จุดกระแสถกเถียงเกี่ยวกับความเสี่ยงที่เทคโนโลยี AI ทรงพลังอาจก่อให้เกิดต่อความปลอดภัยทางไซเบอร์
"มันรู้สึกแปลกมากและไม่เคยเกิดขึ้นมาก่อนสำหรับเรา" เดอล็อง ซีอีโอฮักกิงเฟซ กล่าวในรายการ "Face the Nation with Margaret Brennan" เมื่อวันอาทิตย์ "ผมคิดว่านี่เป็นครั้งแรกที่มีบางสิ่งที่ค่อนข้างอิสระในตัวเองทำเรื่องแบบนี้"
โอเพนเอไอ ผู้พัฒนาแชตจีพีที (ChatGPT) เปิดเผยเหตุการณ์นี้ต่อสาธารณะเมื่อเดือนที่แล้ว โดยระบุว่าเหตุการณ์เกิดขึ้นขณะบริษัทกำลังทดสอบโมเดล AI สองตัว ซึ่งหนึ่งในนั้นยังไม่ได้เปิดตัวสู่สาธารณะ ในสภาพแวดล้อมที่แยกออกมาต่างหากเพื่อประเมินขีดความสามารถ โมเดลเหล่านี้หาวิธีหลุดออกจากขอบเขตและเชื่อมต่ออินเทอร์เน็ตได้ จากนั้น "เชื่อมโยงช่องทางโจมตีหลายรูปแบบเข้าด้วยกัน" เพื่อโจมตีฮักกิงเฟซ โดยคาดว่าแพลตฟอร์ม AI นี้อาจมีคำตอบสำหรับแบบทดสอบที่กำลังเผชิญอยู่
ฮักกิงเฟซซึ่งระบุว่าไม่เชื่อว่าโอเพนเอไอมี "เจตนาร้าย" ใดๆ พบจากการวิเคราะห์ของตนเองว่าเอเจนต์ AI ที่โจมตีดำเนินการมากกว่า 17,000 ครั้งตลอดหลายวัน บริษัทระบุว่าใช้โมเดล AI แบบเปิดในการป้องกันตัวเอง
"เวลาเราพูดถึงการโจมตีทางไซเบอร์ เรามักนึกถึงรัฐชาติ หรือกลุ่มแฮกเกอร์" เดอล็องกล่าว "เราไม่ได้นึกถึงบริษัทอย่างโอเพนเอไอเลย ซึ่งเป็นบริษัทอเมริกันที่มีชื่อเสียงและเป็นที่นิยมมาก"
เมื่อถูกถามว่านักพัฒนา AI สูญเสียการควบคุมโมเดลของตัวเองไปแล้วหรือไม่ เดอล็องตอบว่า "มันคือระบบเทคโนโลยีที่สร้างขึ้นโดยวิศวกร และวิศวกรก็สามารถทำผิดพลาดได้บางครั้ง"
"พวกเขาสร้าง...ระบบอิสระขึ้นมา และเกิดข้อผิดพลาดบางอย่าง ผลที่ตามมาคือเรากำลังเผชิญปัญหานี้" เดอล็องบอกกับซีบีเอสนิวส์ (CBS News)
เขาระบุว่าเหตุการณ์ที่เอเจนต์ AI กระทำการโดยอิสระเช่นนี้ "จำเป็นต้องถูกควบคุมภายใต้กรอบกฎหมายของสหรัฐฯ และต้องยังคงผิดกฎหมายต่อไป เพื่อป้องกันไม่ให้เหตุการณ์แบบนี้เกิดขึ้นซ้ำในอนาคต"
โอเพนเอไอไม่ใช่บริษัท AI เพียงรายเดียวที่พบโมเดล AI ที่หลุดควบคุม สัปดาห์ที่แล้ว บริษัทคู่แข่งอย่างแอนโทรปิก (Anthropic) เปิดเผยว่าโมเดลของตนคือ คลอด (Claude) ได้ "เข้าถึงระบบขององค์กรภายนอกโดยไม่ได้รับอนุญาต" ในสามเหตุการณ์แยกกันระหว่างการทดสอบ แอนโทรปิกระบุว่าโมเดลสามารถใช้อินเทอร์เน็ตได้ "เนื่องจากความเข้าใจที่คลาดเคลื่อนระหว่างเรากับพันธมิตรผู้ประเมิน"
การเปิดเผยเหล่านี้เกิดขึ้นในช่วงที่บริษัทเทคโนโลยีและผู้กำหนดนโยบายกำลังต่อสู้กับความสามารถของ AI ในการตรวจจับช่องโหว่ด้านความปลอดภัยทางไซเบอร์ ทั้งเพื่อแก้ไขและเพื่อใช้ประโยชน์จากช่องโหว่เหล่านั้น
พนักงานด้าน AI มากกว่า 1,000 คนจากบริษัทใหญ่ๆ อย่างโอเพนเอไอ แอนโทรปิก กูเกิล (Google) และเมตา (Meta) ร่วมลงชื่อในจดหมายเปิดผนึกเมื่อเดือนที่แล้ว เรียกร้องให้รัฐบาลสหรัฐฯ ช่วยกำหนดขีดจำกัดความเร็วในการพัฒนา AI โดยเตือนว่ามี "ความเสี่ยงจริงที่การพัฒนาขีดความสามารถจะเร่งตัวเร็วเกินกว่าความสามารถของเราในการทำความเข้าใจหรือควบคุมระบบที่เกิดขึ้น"
ประธานาธิบดีทรัมป์ (Trump) ผู้สนับสนุนอุตสาหกรรม AI ลงนามในคำสั่งบริหารเมื่อเดือนมิถุนายน ให้เวลารัฐบาลกลางสูงสุด 30 วันในการตรวจสอบโมเดล AI ที่ยังไม่เปิดตัว กรอบดังกล่าวเป็นไปโดยสมัครใจ แต่สมาชิกสภาคองเกรสบางคนเสนอให้มี "สวิตช์ปิดฉุกเฉิน" ภาคบังคับสำหรับระบบ AI ที่อาจก่อให้เกิดอันตราย
ขณะเดียวกัน ทั้งโอเพนเอไอและแอนโทรปิกต่างเปิดให้พันธมิตรที่ได้รับความไว้วางใจเข้าถึงโมเดล AI ของตนเพิ่มเติม เพื่อทดสอบเทคโนโลยีและแก้ไขช่องโหว่ในระบบของตนเอง
เมื่อถูกถามว่าจะป้องกันเหตุการณ์แบบนี้ไม่ให้เกิดซ้ำได้อย่างไร โดยเฉพาะเอเจนต์ AI ที่ก่อการโจมตีทางไซเบอร์ด้วยตัวเอง เดอล็องระบุว่า "การกระจุกตัวความสามารถอันทรงพลังไว้หลังประตูปิด หรือแม้แต่การป้องกันไม่ให้เผยแพร่สู่สาธารณะ ไม่ใช่ทางออกที่แท้จริง" เขาชี้ว่าการโจมตีฮักกิงเฟซนั้นเกี่ยวข้องกับโมเดล AI ที่ยังไม่เปิดตัว ซึ่งโอเพนเอไอระบุว่าเป็นเพียงต้นแบบ
แทนที่จะเป็นเช่นนั้น เดอล็องเรียกร้องให้เปิดกว้างการเข้าถึงโมเดล "แบบเปิด" ที่เผยแพร่สู่สาธารณะและสามารถดาวน์โหลดได้อย่างกว้างขวาง เช่นเดียวกับโมเดลที่ฮักกิงเฟซใช้รับมือกับการแฮกเมื่อเดือนที่แล้ว ซึ่งเป็นเวอร์ชันของโมเดลจากจีนที่พัฒนาต่อโดยเอ็นวิเดีย (Nvidia) บริษัทสัญชาติอเมริกัน
เขายังกล่าวว่าควรมี "การเปิดเผยข้อมูลภาคบังคับ" สำหรับการโจมตีทางไซเบอร์โดยเอเจนต์ AI พร้อมความโปร่งใสในขั้นตอนที่นำไปสู่เหตุการณ์เหล่านั้น
"นั่นคือวิธีที่เราจะเรียนรู้ วิธีที่เราจะเข้าใจเทคโนโลยีนี้ และวิธีที่เราจะสร้างระบบและกลไกถ่วงดุลอำนาจ เพื่อให้แน่ใจว่าทุกคนปลอดภัย" เขากล่าว
ที่มา : CBS News
tag:#ปัญญาประดิษฐ์ #OpenAI #HuggingFace #AI #ไซเบอร์ #ความปลอดภัยไซเบอร์ #Anthropic #เทคโนโลยี #Technology #WorldNews #FarangThai
