Anthropic เตือนโลก: AI กำลังพัฒนาเร็วเกินไป ถึงเวลาหยุดชั่วคราวก่อนมนุษย์สูญเสียการควบคุม

บริษัทผู้พัฒนา AI ชั้นนำอย่าง Anthropic ออกมาเรียกร้องให้บริษัทเทคโนโลยีชั้นนำทั่วโลกร่วมกันหยุดพัฒนา AI อย่างประสานงานกัน หลังออกคำเตือนว่าเทคโนโลยีกำลังก้าวหน้าเร็วจนอาจถึงขั้นที่ AI พัฒนาตัวเองได้โดยไม่ต้องพึ่งมนุษย์

เหตุใดต้องชะลอตอนนี้

Anthropic ผู้สร้าง Claude ชี้ว่า AI กำลังเพิ่มความสามารถเร็วอย่างน่าตกใจ โดยเฉพาะในด้านการเขียนโปรแกรมแบบอัตโนมัติ ที่น่ากังวลคือแนวโน้ม "recursive self-improvement" หรือการที่ AI พัฒนาตัวผู้สืบทอดได้เอง ซึ่งหมายความว่าวงจรการพัฒนาจะเร่งตัวแบบทวีคูณโดยที่มนุษย์ควบคุมไม่ทัน แม้เทคโนโลยีนี้จะมีศักยภาพทางวิทยาศาสตร์และการแพทย์อย่างมหาศาล แต่ก็เพิ่มความเสี่ยงที่มนุษย์จะสูญเสียการควบคุมได้

ข้อเสนอที่ต่างจาก OpenAI

บริษัทร่วมอุตสาหกรรมอย่าง OpenAI แสดงทัศนะที่ต่างออกไป โดยระบุว่า "รัฐบาลประชาธิปไตย ไม่ใช่บริษัทเอกชน คือผู้ที่ควรกำหนดกฎกติกา" ขณะที่ Anthropic ต้องการกลไกการหยุดพัฒนาที่สามารถตรวจสอบได้จริง เพื่อป้องกันไม่ให้ผู้เล่นที่ "ไม่ระมัดระวัง" ใช้โอกาสขณะที่คนอื่นชะลอตัว

บริบทที่ซับซ้อน

คำเตือนนี้เกิดขึ้นในช่วงที่ Anthropic กำลังยื่นขอเข้าตลาดหลักทรัพย์ (IPO) ซึ่งอาจมีมูลค่าเกือบ 1 ล้านล้านดอลลาร์ นอกจากนี้บริษัทยังเผชิญแรงกดดันจากรัฐบาลสหรัฐหลังปฏิเสธให้กองทัพใช้โมเดล AI สำหรับการเฝ้าระวังในประเทศและอาวุธอัตโนมัติ ส่วนนักวิจัยจากมหาวิทยาลัยโตรอนโตก็เพิ่งเผยผลการศึกษาว่า AI สามารถสร้าง "หนอนคอมพิวเตอร์" ที่ปรับตัวเองขณะแพร่กระจายได้แล้ว

ชุมชนนักวิจัย AI เคยพยายามผลักดันการหยุดพัฒนา 6 เดือนมาก่อนในปี 2566 แต่ไม่ประสบความสำเร็จ ครั้งนี้ Anthropic หวังว่าข้อเสนอที่เป็นรูปธรรมและตรวจสอบได้จะมีน้ำหนักมากกว่า

ประเด็นสำคัญ:

• Anthropic เรียกร้องการหยุดพัฒนา AI อย่างประสานงานและตรวจสอบได้
• ความเสี่ยงหลัก: AI อาจพัฒนาตัวเองได้โดยไม่ต้องพึ่งมนุษย์
• OpenAI เห็นว่ารัฐบาล ไม่ใช่บริษัท ควรเป็นผู้กำกับ
• Anthropic กำลังเตรียม IPO มูลค่าเกือบ 1 ล้านล้านดอลลาร์ท่ามกลางการออกคำเตือนนี้

ที่มา : Al Jazeera