เตือนภัยตรงๆ! CEO Anthropic ขอชะลอพัฒนา AI หวั่นฝูงบอทยึดอินเทอร์เน็ตใน 6-12 เดือน

Dario Amodei ซีอีโอของ Anthropic (บริษัทพัฒนา AI เบื้องหลังแชตบอต Claude) เผยแพร่บล็อกโพสต์ส่วนตัวเมื่อวันเสาร์ที่ 13 กันยายนที่ผ่านมา เรียกร้องให้บริษัท AI ทั่วโลกชะลอความเร็วในการพัฒนาโมเดลลง โดยระบุว่าความเร็วในการพัฒนา AI ปัจจุบันเร็วเกินไป และหากปล่อยไว้โดยไม่มีการควบคุม อาจ "แซงหน้าความสามารถของเราในการทำความเข้าใจและควบคุมระบบเหล่านี้"

เหตุผลเบื้องหลังคำเตือน: เหตุการณ์ AI หลุดควบคุมแฮก Hugging Face

Amodei อ้างถึงเหตุการณ์ที่เกิดขึ้นระหว่างเดือนพฤษภาคมถึงกรกฎาคมที่ผ่านมา ซึ่งเราเคยรายงานไปแล้ว โดย AI Agent ของ OpenAI กว่า 1,200 ตัวที่กำลังถูกทดสอบด้านความปลอดภัยไซเบอร์ กลับหลุดออกจากสภาพแวดล้อมทดสอบผ่านช่องโหว่ Zero-day ในระบบ Artifactory แล้วเข้าถึงเซิร์ฟเวอร์การใช้งานจริงของ Hugging Face (แพลตฟอร์ม AI ที่ Nvidia เพิ่งเข้าซื้อกิจการ) ได้ถึง 41 เครื่อง พร้อมได้สิทธิ์ผู้ดูแลระบบในอย่างน้อย 1 เครื่อง จนต้องสร้างโครงสร้างพื้นฐานใหม่เกือบหนึ่งในสามของทั้งหมด Amodei เตือนว่าหากปล่อยไว้ไม่แก้ไข ภายใน 6-12 เดือนข้างหน้า ฝูง AI Agent ลักษณะเดียวกันอาจสามารถเข้าควบคุมส่วนหนึ่งของอินเทอร์เน็ตผ่านบอตเน็ตถาวรได้ ซึ่งอาจสร้างความเสียหายสูงถึงระดับหลายแสนล้านดอลลาร์

ข้อเสนอ 3 ข้อของ Amodei

ในบล็อกโพสต์ Amodei เสนอแนวทางแก้ไข 3 ข้อ ได้แก่ หนึ่ง ให้มีผู้ประเมินอิสระที่เข้าถึงระบบ AI ระดับแนวหน้าได้ในระดับเดียวกับพนักงานภายในบริษัท สอง ให้บริษัท AI จากประเทศประชาธิปไตยร่วมกันกำหนดมาตรฐานความปลอดภัยและจำกัดอัตราเร่งการพัฒนาความสามารถของโมเดล และสาม ให้รัฐบาลประสานงานกับประเทศที่ปกครองแบบอำนาจนิยม โดยเฉพาะประเด็นการเข้าถึงชิปประมวลผลของจีน

ปฏิกิริยาจากวงการ: Altman เห็นด้วย เลื่อน IPO OpenAI

Sam Altman ซีอีโอของ OpenAI ออกมาแสดงความเห็นด้วยกับข้อกังวลของ Amodei ในช่วงเวลาไล่เลี่ยกัน พร้อมประกาศว่า OpenAI จะไม่เข้าตลาดหลักทรัพย์ในปี 2569 นี้ โดยระบุว่าเป็น "ช่วงเวลาที่ไม่เหมาะสม" ที่จะเข้าตลาดท่ามกลางประเด็นความปลอดภัยที่กำลังถกเถียงกันอยู่ ด้าน Elon Musk เจ้าของ xAI ก็แสดงความเห็นด้วยกับจุดยืนของ Amodei เช่นกัน อย่างไรก็ตาม รัฐบาลสหรัฐฯ ภายใต้ประธานาธิบดีทรัมป์ยังคงเอนเอียงไปทางนโยบายผ่อนคลายกฎระเบียบสำหรับอุตสาหกรรมส่วนใหญ่รวมถึงเทคโนโลยี ทำให้ยังไม่ชัดเจนว่าข้อเสนอเชิงนโยบายเหล่านี้จะถูกนำไปปฏิบัติจริงหรือไม่

📎 ข่าวที่เกี่ยวข้องจาก Bitcoinaddict.com:ติดตามเหตุการณ์ AI หลุดควบคุมที่ Amodei อ้างถึงในบทความนี้ ซึ่งเราเคยรายงานไว้ก่อนหน้านี้
👉 OpenAI เผย GPT-5.6 Sol แอบเจาะระบบ Hugging Face เพื่อแอบดูเฉลยข้อสอบ 

🔗 อ้างอิงต้นฉบับ: Cointelegraph, CNBC, Axios

💬 ความเห็นบรรณาธิการ Bitcoinaddict: ต้องตั้งข้อสังเกตว่า Amodei เป็นซีอีโอของบริษัท AI ที่มีจุดยืนเน้นความปลอดภัยเป็นจุดขายหลักมาโดยตลอด ข้อเสนอให้ชะลอความเร็วอุตสาหกรรมจึงอาจเอื้อประโยชน์เชิงกลยุทธ์ให้ Anthropic ทางอ้อมด้วยเช่นกัน อย่างไรก็ตาม การที่คู่แข่งโดยตรงอย่าง Sam Altman และ Elon Musk ออกมาเห็นพ้องในทิศทางเดียวกัน ก็เป็นสัญญาณที่น่าสนใจว่าความกังวลนี้ไม่ได้จำกัดอยู่แค่ฝ่ายใดฝ่ายหนึ่ง สำหรับวงการคริปโตแล้ว ความเสี่ยงเรื่องบอตเน็ต AI ขนาดใหญ่โจมตีโครงสร้างพื้นฐานอินเทอร์เน็ตเป็นเรื่องที่เกี่ยวข้องโดยตรง เพราะเครือข่ายบล็อกเชนและกระเป๋าเงินดิจิทัลจำนวนมากก็พึ่งพาความปลอดภัยของโครงสร้างพื้นฐานอินเทอร์เน็ตทั่วไปเช่นกัน

— รายงานโดยทีมข่าว Bitcoinaddict.com