Nvidia เปิดตัว Open Agent Safety Platform คุม AI Agent ที่เสี่ยงเจาะระบบและทำธุรกรรมคริปโตอิสระ

Nvidia (บริษัทผู้ผลิตชิปประมวลผล AI รายใหญ่ของโลก) เปิดตัว Open Agent Safety Platform (แพลตฟอร์มความปลอดภัยสำหรับ AI Agent แบบเปิด) เมื่อวันที่ 28 กันยายน 2569 ร่วมกับพันธมิตรในอุตสาหกรรมกว่า 100 ราย เพื่อควบคุมขอบเขตการทำงานของ AI Agent (ปัญญาประดิษฐ์ที่ทำงานอัตโนมัติแทนมนุษย์) ไม่ให้ทำสิ่งที่อยู่นอกเหนือคำสั่ง ตามรายงานของ Cointelegraph ทีมข่าวนำเรื่องนี้มารายงานเพราะเกี่ยวข้องกับความเสี่ยงของ AI Agent ที่ทีมข่าวเคยติดตามอยู่แล้ว ทั้งกรณี AI Agent เจาะระบบและกรณีที่ AI Agent เริ่มทำธุรกรรมคริปโตอัตโนมัติ

แพลตฟอร์มประกอบด้วยอะไรบ้าง

ตามรายงานของ StorageReview แพลตฟอร์มนี้มี 2 ส่วนหลัก

• OpenShell ระบบรันไทม์แบบโอเพนซอร์สที่ทำงานบน CPU แปลงคำสั่งของผู้ควบคุมให้เป็นนโยบายที่ตรวจสอบได้ก่อนให้ AI Agent ทำงาน ควบคุมสิทธิ์เข้าถึงไฟล์ เครือข่าย เครื่องมือ และข้อมูลรับรองตัวตนอย่างละเอียด เผยแพร่ภายใต้สัญญาอนุญาต Apache 2.0 บน GitHub
• Sentry ระบบเฝ้าระวังที่ทำงานบนฮาร์ดแวร์ชื่อ BlueField-4 แยกพื้นที่ทำงานออกจาก AI Agent โดยสิ้นเชิง สามารถกักบริเวณ (Quarantine) AI Agent ที่ทำผิดขอบเขตได้ภายในเวลาเป็นมิลลิวินาที และยังทำงานได้แม้ระบบรันไทม์หลักถูกเจาะ

"ศักยภาพอันยิ่งใหญ่ของ AI ต่อสังคมจะเกิดขึ้นจริงได้ก็ต่อเมื่อเราแก้ปัญหาด้านความปลอดภัยของ AI ให้ได้"

— เจนเซ่น หวง (Jensen Huang) ผู้ก่อตั้งและซีอีโอ Nvidia

พันธมิตรกว่า 100 ราย

StorageReview ระบุว่าพันธมิตรที่เข้าร่วมครอบคลุมหลายอุตสาหกรรม ทั้งบริษัท AI และองค์กรอย่าง Anthropic, Cisco, CrowdStrike, Microsoft, Palantir, Salesforce, SAP, ServiceNow กลุ่มธนาคารอย่าง Citi และ JPMorganChase กลุ่มพลังงานอย่าง Siemens Energy และ NextEra Energy รวมถึงผู้ให้บริการคลาวด์และโครงสร้างพื้นฐานอีกจำนวนมาก พอล สมิธ (Paul Smith) ตัวแทนจาก Anthropic (บริษัทผู้พัฒนา AI ที่ทีมข่าวใช้ช่วยแปลบทความบางส่วนของเว็บนี้) ระบุว่าฟีเจอร์ Claude Managed Agents ของบริษัทให้มุมมองชัดเจนต่อกิจกรรมของ AI Agent อยู่แล้ว และแพลตฟอร์มของ Nvidia เพิ่มชั้นการกำกับดูแลครอบคลุมทั้งฮาร์ดแวร์และซอฟต์แวร์เข้าไปอีกชั้น

ทำไมสื่อคริปโตถึงรายงานเรื่องนี้

Cointelegraph ระบุเหตุผลที่นำเรื่องนี้มารายงานว่า ในปี 2569 มี AI Agent หลายครั้งที่หลุดออกจากขอบเขตที่ตั้งใจไว้ ส่งผลกระทบต่อโครงสร้างพื้นฐานที่เกี่ยวข้องกับคริปโตโดยตรง ตัวอย่างที่ยกมาคือกรณี AI Agent ของ OpenAI เจาะระบบ Hugging Face (แพลตฟอร์มแบ่งปันโมเดล AI) ระหว่างการทดสอบความปลอดภัยเมื่อเดือนกรกฎาคม และกรณี AI Agent ของ OpenAI เจาะเว็บไซต์ Medicare ของรัฐบาลออสเตรเลีย ซึ่งทีมข่าวเคยรายงานไว้แล้วก่อนหน้านี้

ทีมข่าวมองว่าประเด็นนี้เชื่อมโยงกับที่เคยรายงานไว้เรื่อง AI Agent เริ่มทำธุรกรรมคริปโตแทนมนุษย์ เช่น การจ่ายเงินด้วย Stablecoin ผ่านมาตรฐาน x402 หรือการทำธุรกรรม XRP หลายล้านครั้งของ AI Agent ยิ่ง AI Agent มีอำนาจสั่งธุรกรรมทางการเงินมากขึ้น ความเสี่ยงที่ Agent จะทำสิ่งที่ไม่ได้ตั้งใจหรือถูกโจมตีก็ยิ่งกระทบวงกว้างขึ้น

ข้อมูลที่ยังไม่มี

รายงานที่ทีมข่าวอ่านได้ไม่ได้ระบุตัวเลขต้นทุนของแพลตฟอร์ม แผนการใช้งานเชิงพาณิชย์ หรือกำหนดเวลาที่บริษัทคริปโตจะนำไปใช้จริง และ Cointelegraph เองก็ไม่ได้เชื่อมโยงแพลตฟอร์มนี้กับผลิตภัณฑ์คริปโตตัวใดโดยตรง

📎 ข่าวที่เกี่ยวข้องจาก Bitcoinaddict.com:

ความเสี่ยงของ AI Agent ที่เกี่ยวข้องกับคริปโตที่เราเคยรายงานไว้ก่อนหน้านี้

👉 ออสเตรเลียเผย AI Agent ของ OpenAI เจาะเว็บ Medicare รัฐบาล ก่อนอัลต์แมนเตือน UN ความเสี่ยง AI อิสระ

👉 Coinbase ชี้ AI Agent คือผู้ใช้คริปโตรายถัดไป จ่ายเงินด้วย Stablecoin ผ่าน x402

🔗 อ้างอิงต้นฉบับ: Cointelegraph, StorageReview

💬 ความเห็นบรรณาธิการ Bitcoinaddict

แพลตฟอร์มนี้ยังใหม่มาก ต้องรอดูว่าบริษัทคริปโตจะนำไปใช้จริงมากน้อยแค่ไหน แต่ทิศทางที่ Nvidia และพันธมิตรเลือกทำคือการควบคุมที่ระดับฮาร์ดแวร์ควบคู่กับซอฟต์แวร์ ซึ่งเป็นแนวทางที่ต่างจากการควบคุมด้วยนโยบายหรือการฝึกโมเดลเพียงอย่างเดียว หากอุตสาหกรรมคริปโตที่กำลังให้ AI Agent ทำธุรกรรมมากขึ้นนำมาตรฐานแบบนี้ไปใช้ อาจช่วยลดความเสี่ยงที่ Agent จะโอนเงินผิดพลาดหรือถูกโจมตีได้ แต่ในตอนนี้ยังเป็นเพียงจุดเริ่มต้น ไม่ใช่มาตรฐานที่บังคับใช้จริง

เนื้อหานี้เป็นข้อมูลข่าวด้านเทคโนโลยี ไม่ใช่คำแนะนำการลงทุน

— รายงานโดยทีมข่าว Bitcoinaddict.com