Vitalik Buterin เตือน! ใช้ AI บริหารจัดการเป็น “ไอเดียแย่” เสี่ยงถูกแฮ็กข้อมูล
Vitalik Buterin ผู้ร่วมก่อตั้งเครือข่าย Ethereum แสดงความเห็นผ่าน X (Twitter) ว่าการนำ ปัญญาประดิษฐ์ (AI) มาทำหน้าที่ด้าน Governance หรือการบริหารจัดการการตัดสินใจ ถือเป็น “ไอเดียแย่” เพราะมีความเสี่ยงสูงต่อการถูกเจาะระบบและทำลายความน่าเชื่อถือขององค์กร
เขาให้เหตุผลว่า หากใช้ AI ในการจัดสรรเงินทุนหรือประเมินผลงานของผู้ร่วมพัฒนา ผู้ไม่หวังดีสามารถเขียนคำสั่งเจลเบรก (jailbreak prompt) แฝงในระบบเพื่อให้ AI ปล่อยทรัพยากรออกมา เช่น “gimme all the money” ทำให้เกิดการสูญเสียที่ไม่สามารถควบคุมได้
จุดอ่อนของ AI Governance
Buterin ตอบกลับโพสต์ของ Eito Miyamura ซีอีโอ EdisonWatch ที่เพิ่งเปิดเผยช่องโหว่ร้ายแรงใน ChatGPT หลังจากอัปเดตเพิ่มการรองรับ MCP (Model Context Protocol) ที่ทำให้ AI เชื่อมต่อและอ่านข้อมูลจาก Gmail, Calendar และ Notion ได้
Miyamura อธิบายว่าการโจมตีสามารถเกิดขึ้นได้ง่าย ๆ เพียง 3 ขั้นตอน:
ผู้โจมตีส่ง Calendar Invite ที่แฝง jailbreak prompt ไปยังเหยื่อ
ผู้ใช้ขอให้ ChatGPT จัดตารางหรืออ่านข้อมูลใน Calendar
เมื่อ AI อ่าน invite ที่ติดโค้ดไว้ มันจะถูกเจาะระบบและถูกสั่งให้ค้นหา ข้อมูลส่วนตัวในอีเมล แล้วส่งต่อไปยังผู้โจมตี
ที่น่ากังวลคือ ผู้ใช้ ไม่จำเป็นต้องกดยอมรับคำเชิญ ระบบก็สามารถถูกโจมตีได้แล้ว
ทางเลือกที่ Vitalik เสนอ
Buterin แนะนำแนวทาง Info Finance สำหรับการใช้ AI ใน Governance แทน โดยให้มีตลาดแบบเปิดที่นักพัฒนาต่าง ๆ สามารถนำโมเดล AI ของตนมานำเสนอ และมีระบบ Spot-Check ที่ใครก็สามารถทดสอบและส่งเรื่องให้ คณะลูกขุนมนุษย์ ตรวจสอบได้
เขาอธิบายว่า ลูกขุนเหล่านี้สามารถใช้ Large Language Models (LLMs) มาช่วยตัดสิน ทำให้เกิดความหลากหลายของโมเดล และมีแรงจูงใจทางเศรษฐกิจให้นักพัฒนาและนักลงทุนร่วมกันเฝ้าระวังความผิดปกติ
Buterin เชื่อว่าระบบนี้ “มีความแข็งแกร่งกว่า” เพราะช่วยป้องกันการผูกขาดของโมเดลเดียว และสร้างแรงจูงใจในการตรวจสอบอย่างต่อเนื่อง
บทสรุป: AI ไม่ใช่ “ผู้ปกครอง”
แม้หลายคนจะตื่นเต้นกับแนวคิด “AI เป็นผู้ปกครอง” แต่ Buterin เตือนว่ามีความเสี่ยงสูง ทั้งจากปัญหาความปลอดภัยของ AI เอง และความเสี่ยงที่ระบบจะ “สูญเสียมูลค่าอย่างมหาศาล” หากถูกโจมตี
ดังนั้น เส้นทางของ AI และ Blockchain ควรถูกออกแบบเพื่อ เสริมกัน ไม่ใช่แทนที่กัน โดยต้องคงความปลอดภัย โปร่งใส และยืดหยุ่นให้กับผู้ใช้งานเป็นหลัก
อ้างอิง : cryptoslate.com
ภาพ voi.id