Anthropic เตือนโลก: AI กำลังพัฒนาเร็วเกินไป ถึงเวลาหยุดชั่วคราวก่อนมนุษย์สูญเสียการควบคุม
บริษัทผู้พัฒนา AI ชั้นนำอย่าง Anthropic ออกมาเรียกร้องให้บริษัทเทคโนโลยีชั้นนำทั่วโลกร่วมกันหยุดพัฒนา AI อย่างประสานงานกัน หลังออกคำเตือนว่าเทคโนโลยีกำลังก้าวหน้าเร็วจนอาจถึงขั้นที่ AI พัฒนาตัวเองได้โดยไม่ต้องพึ่งมนุษย์
เหตุใดต้องชะลอตอนนี้
Anthropic ผู้สร้าง Claude ชี้ว่า AI กำลังเพิ่มความสามารถเร็วอย่างน่าตกใจ โดยเฉพาะในด้านการเขียนโปรแกรมแบบอัตโนมัติ ที่น่ากังวลคือแนวโน้ม "recursive self-improvement" หรือการที่ AI พัฒนาตัวผู้สืบทอดได้เอง ซึ่งหมายความว่าวงจรการพัฒนาจะเร่งตัวแบบทวีคูณโดยที่มนุษย์ควบคุมไม่ทัน แม้เทคโนโลยีนี้จะมีศักยภาพทางวิทยาศาสตร์และการแพทย์อย่างมหาศาล แต่ก็เพิ่มความเสี่ยงที่มนุษย์จะสูญเสียการควบคุมได้
ข้อเสนอที่ต่างจาก OpenAI
บริษัทร่วมอุตสาหกรรมอย่าง OpenAI แสดงทัศนะที่ต่างออกไป โดยระบุว่า "รัฐบาลประชาธิปไตย ไม่ใช่บริษัทเอกชน คือผู้ที่ควรกำหนดกฎกติกา" ขณะที่ Anthropic ต้องการกลไกการหยุดพัฒนาที่สามารถตรวจสอบได้จริง เพื่อป้องกันไม่ให้ผู้เล่นที่ "ไม่ระมัดระวัง" ใช้โอกาสขณะที่คนอื่นชะลอตัว
บริบทที่ซับซ้อน
คำเตือนนี้เกิดขึ้นในช่วงที่ Anthropic กำลังยื่นขอเข้าตลาดหลักทรัพย์ (IPO) ซึ่งอาจมีมูลค่าเกือบ 1 ล้านล้านดอลลาร์ นอกจากนี้บริษัทยังเผชิญแรงกดดันจากรัฐบาลสหรัฐหลังปฏิเสธให้กองทัพใช้โมเดล AI สำหรับการเฝ้าระวังในประเทศและอาวุธอัตโนมัติ ส่วนนักวิจัยจากมหาวิทยาลัยโตรอนโตก็เพิ่งเผยผลการศึกษาว่า AI สามารถสร้าง "หนอนคอมพิวเตอร์" ที่ปรับตัวเองขณะแพร่กระจายได้แล้ว
ชุมชนนักวิจัย AI เคยพยายามผลักดันการหยุดพัฒนา 6 เดือนมาก่อนในปี 2566 แต่ไม่ประสบความสำเร็จ ครั้งนี้ Anthropic หวังว่าข้อเสนอที่เป็นรูปธรรมและตรวจสอบได้จะมีน้ำหนักมากกว่า
ประเด็นสำคัญ:
- Anthropic เรียกร้องการหยุดพัฒนา AI อย่างประสานงานและตรวจสอบได้
- ความเสี่ยงหลัก: AI อาจพัฒนาตัวเองได้โดยไม่ต้องพึ่งมนุษย์
- OpenAI เห็นว่ารัฐบาล ไม่ใช่บริษัท ควรเป็นผู้กำกับ
- Anthropic กำลังเตรียม IPO มูลค่าเกือบ 1 ล้านล้านดอลลาร์ท่ามกลางการออกคำเตือนนี้
ที่มา : Al Jazeera
