อดีตนักวิจัย Anthropic ลาออก เตือนภัย AI อาจทำลายล้างมนุษย์เหมือนหนัง Terminator

Jacob Coxon อดีตนักวิจัยด้าน Pretraining (การฝึกโมเดล AI ขั้นต้นด้วยข้อมูลขนาดใหญ่) ที่เคยทำงานทั้งที่ OpenAI และ Anthropic รวมประสบการณ์ 3 ปี ประกาศลาออกจาก Anthropic เมื่อวันที่ 8 กันยายนที่ผ่านมา ผ่านโพสต์บน X พร้อมคำเตือนว่าบริษัท AI ชั้นนำกำลัง "พนันกับชีวิตของพวกเราทุกคน" ในการแข่งขันพัฒนา AI โดยไม่มีมาตรการความปลอดภัยที่เพียงพอ และตัดสินใจออกจากอุตสาหกรรม AI ไปเลย ไม่ใช่แค่เปลี่ยนบริษัท

เปรียบเทียบกับ Terminator เหตุผลเพราะช่วงเวลาที่ตรงกันโดยบังเอิญ

ประเด็นที่ถูกหยิบมาเปรียบเทียบกับภาพยนตร์ Terminator คือ ในโครงเรื่องของหนัง เครื่องจักรเริ่มทำสงครามกับมนุษย์ในปี 2029 ซึ่งใกล้เคียงกับช่วงเวลาที่ Coxon ระบุว่าคนในอุตสาหกรรม AI กำลังกังวลกันอย่างเงียบๆ โดยเขาเตือนว่าสถานการณ์อาจ "หลุดจากการควบคุม" ได้ภายในช่วงปลายปีหน้า และย้ำว่า "คนที่สร้าง AI เองก็เชื่ออย่างจริงจังว่ามันอาจฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้" พร้อมมองว่าการแข่งขันเชิงธุรกิจระหว่างบริษัท AI ทำให้ความระมัดระวังของแต่ละบริษัทเพียงลำพังไม่เพียงพออีกต่อไป จำเป็นต้องมีการกำกับดูแลจากภาครัฐและความร่วมมือข้ามอุตสาหกรรมเข้ามาแทน

หัวหน้าทีม Alignment ของ Anthropic เองก็ประเมินความเสี่ยงสูญพันธุ์เกิน 10%

ที่น่าสนใจคือ ไม่ใช่แค่ Coxon ที่ลาออกแล้วออกมาเตือน แต่ Evan Hubinger หัวหน้าทีมวิจัยด้าน Alignment (การปรับให้ AI มีเป้าหมายสอดคล้องกับมนุษย์) ของ Anthropic เอง ซึ่งยังคงทำงานอยู่ที่บริษัท ก็ออกมาระบุว่าเขาประเมินความเสี่ยงที่ AI จะทำให้มนุษยชาติสูญพันธุ์ในช่วง 10 ปีข้างหน้าไว้สูงกว่า 10% และยอมรับว่าทีมงานของเขา "เชื่ออย่างจริงจังว่า AI อาจฆ่ามนุษย์ทั้งหมดได้" แม้จะระบุว่า Anthropic "พยายามอย่างเต็มที่" แล้ว แต่ก็ยังไม่มีกลยุทธ์ที่ชัดเจนสำหรับการควบคุม AI ระดับซูเปอร์อินเทลลิเจนซ์ (Superintelligence) โดยความกังวลหลักไม่ใช่โมเดล AI ปัจจุบัน แต่คือความเสี่ยงที่ซูเปอร์อินเทลลิเจนซ์อาจเกิดขึ้นจากกระบวนการที่ AI พัฒนาตัวเองซ้ำไปเรื่อยๆ (Recursive Self-improvement) โดยไม่มีมนุษย์ควบคุม

"พวกเขากำลังแข่งกันตรงไปสู่ซูเปอร์อินเทลลิเจนซ์ที่พัฒนาตัวเองได้ และกำลังพนันกับชีวิตของพวกเรา" Jacob Coxon ระบุในโพสต์ประกาศลาออก

ไม่ใช่รายแรกที่ออกมาเตือนเรื่องความปลอดภัย AI

ก่อนหน้านี้ในปีเดียวกัน มีรายงานว่านักวิจัยด้านความปลอดภัยอีกรายของ Anthropic เคยลาออกด้วยความกังวลในลักษณะใกล้เคียงกันมาแล้ว สะท้อนว่าความกังวลเรื่องความเสี่ยงจาก AI ระดับสูงไม่ได้จำกัดอยู่แค่บุคคลเดียว แต่เริ่มเป็นประเด็นที่ถูกพูดถึงมากขึ้นในหมู่คนทำงานสายวิจัย AI โดยตรง ทั้งนี้ ยังไม่มีการตอบสนองอย่างเป็นทางการจากผู้บริหารระดับสูงของ Anthropic ต่อกรณีของ Coxon ในขณะที่มีการรายงานข่าวนี้

📎 ข่าวที่เกี่ยวข้องจาก Bitcoinaddict.com: ต่อเนื่องจากคำเตือนเรื่อง AI พัฒนาตัวเองที่เราเคยรายงานไว้ก่อนหน้านี้
👉 Anthropic เตือนภัย! AI ใกล้ "พัฒนาตัวเองแบบวนซ้ำ" ได้โดยไร้มนุษย์ควบคุม สัญญาณสำคัญที่โลกคริปโตต้องจับตา

🔗 อ้างอิงต้นฉบับ: CoinDesk, Forbes

💬 ความเห็นบรรณาธิการ Bitcoinaddict: แม้เรื่องนี้จะฟังดูเป็นประเด็นด้านความปลอดภัย AI ทั่วไปที่ดูไกลตัวโลกคริปโต แต่ในความเป็นจริงแล้วมีความเกี่ยวโยงกันโดยตรง เพราะ AI ระดับสูงคือเครื่องมือที่ถูกใช้ทั้งฝั่งป้องกันและฝั่งโจมตีระบบ DeFi และโครงสร้างพื้นฐานคริปโทมาโดยตลอด ยิ่งบริษัทผู้พัฒนา AI ชั้นนำเองยังไม่มั่นใจในมาตรการควบคุมความเสี่ยงของตัวเอง ยิ่งเป็นสัญญาณที่ผู้ใช้งานคริปโทควรจับตาอย่างใกล้ชิด โดยเฉพาะประเด็นความปลอดภัยของสัญญาอัจฉริยะและกระเป๋าเงินดิจิทัลในระยะยาว บทความนี้เป็นการรายงานข้อมูล ไม่ใช่คำแนะนำการลงทุน

— รายงานโดยทีมข่าว Bitcoinaddict.com