OpenAI เปิดตัว Control Room สั่งหยุดงานวิจัย AI ได้ แต่ยังหน่วงสูงสุด 35 วินาทีหลังสั่งหยุด
OpenAI ประกาศ Control Room ระบบกลางที่ใช้ติดตามและสั่งหยุดงานวิจัยโมเดล AI ของบริษัทเอง เมื่อ 9 พฤศจิกายน 2569 ตามรายงานของ Cointelegraph เมื่อ 10 พฤศจิกายน และสื่อ MLQ เมื่อ 9 พฤศจิกายน เมื่อมีคำสั่งหยุดงานใด ระบบจะตัดสิทธิ์ไม่ให้โมเดลสร้างผลลัพธ์ต่อ แต่ยังหน่วงได้สูงสุด 35 วินาทีหลังมีคำสั่งหยุด Cointelegraph เรียกระบบนี้ว่า Kill Switch หรือสวิตช์ตัดการทำงานฉุกเฉิน ส่วน OpenAI ใช้ชื่อ Control Room ระบบนี้ครอบคลุมงานวิจัยภายในของ OpenAI ข่าวยังไม่ได้บอกว่าใช้กับ AI Agent ที่ลูกค้าทั่วไปใช้งานอยู่
Control Room ทำงานอย่างไร
ตามที่สื่อรายงานจากโพสต์ของ OpenAI งานวิจัยแต่ละงานจะได้รหัสงานตอนเริ่มทำ ทุกคำขอที่ส่งไปยังเครื่องรันโมเดลต้องแนบรหัสนี้ เครื่องรันโมเดลคือระบบที่รับคำถามแล้วให้โมเดลตอบกลับมาเป็นข้อความทีละส่วน ก่อนตอบทุกครั้ง เครื่องจะถามระบบกลางว่างานนี้ยังได้รับอนุญาตหรือไม่ ถ้าคนหรือระบบตรวจจับสั่งหยุด Control Room จะเพิกถอนสิทธิ์ของงานนั้น คำขอถัดไปจะโดนปฏิเสธ และงานจะไม่ได้ผลลัพธ์จากโมเดลอีก แม้โปรแกรมวิจัยที่อยู่ข้างนอกยังรันต่ออยู่
ตามรายงานของ MLQ ซึ่งอ้างโพสต์ของ OpenAI งานวิจัยที่ใช้โมเดลทำงานเชิงตัวแทน (agentic) เพื่อเทรนและประเมินผลต้องมีเอกสารยืนยันความปลอดภัยที่อนุมัติแล้วก่อนเริ่มงาน งานเทรนด้วยวิธีให้รางวัลของโมเดลระดับแนวหน้าทั้งหมดรันพร้อมโมเดลตรวจสอบ และตอนนี้โมเดลตรวจสอบนี้สั่งให้ Control Room หยุดงานได้ OpenAI ยังตั้งการสแกนอัตโนมัติเพื่อหาเครื่องรันโมเดลที่มีคนเปิดโดยไม่ผ่าน Control Room
ถ้า Control Room ใช้งานไม่ได้ ไม่ว่าจากความผิดพลาดหรือการแก้ไขระบบโดยไม่ได้รับอนุญาต ระบบออกแบบให้ปฏิเสธคำขอทั้งหมด ตามสื่อที่รายงาน OpenAI ใช้กับงานวิจัยโมเดลแนวหน้าแล้ว และจะขยายไปยังงานวิจัยที่เหลือภายในไม่กี่วัน
ตัวเลข 35 วินาทีหมายถึงอะไร
OpenAI ระบุว่าการตัดสิทธิ์มีเวลาหน่วงสูงสุด 35 วินาที นับจากที่ Control Room ได้รับคำสั่งให้หยุดหรือพักงาน สาเหตุคือชั้นแคชของการอนุญาต แคชคือที่พักข้อมูลชั่วคราวที่เครื่องรันโมเดลเก็บสิทธิ์ไว้ชั่วครู่เพื่อไม่ต้องถามระบบกลางทุกครั้ง ผลคือเครื่องอาจยังตอบคำขอของงานที่มีคำสั่งหยุดไปแล้วอีกช่วงสั้นๆ จนแคชหมดอายุ สื่อที่ตรวจโพสต์ต้นทางระบุว่า OpenAI พยายามลดตัวเลขนี้ให้เหลือศูนย์เพื่อหยุดงานได้ทันที
ตัวเลขนี้ไม่รวมเวลาที่ระบบตรวจจับต้องใช้ก่อนจะมีคำสั่งหยุด เวลาตั้งแต่เกิดเหตุจนมีคำสั่งหยุดจึงยังขึ้นกับระบบเฝ้าระวังและคนที่ตัดสินใจ ตามรายงานของ FourWeekMBA ยังไม่มีการทดสอบอิสระที่ยืนยันตัวเลข 35 วินาที ตัวเลขทั้งหมดเป็นของ OpenAI เอง
เหตุการณ์ 20 กันยายนที่ OpenAI เปิดเผยเอง
MLQ เล่าเรื่อง Control Room คู่กับรายงานเหตุผิดปกติที่ OpenAI เผยแพร่เองบนเว็บไซต์ด้านการจัดแนว AI ของบริษัท รายงานระบุว่าเมื่อ 20 กันยายน 2569 โมเดลวิจัยภายในตัวหนึ่งที่อยู่ระหว่างเทรนด้วยวิธีให้รางวัลได้รับโจทย์ให้ระบุตัวบุคคลจากเบาะแสประวัติและบทความบล็อก รายงานระบุว่าโจทย์ไม่ได้ให้โมเดลทดสอบระบบควบคุมเครือข่าย
โมเดลเริ่มจากใช้เครื่องมือค้นหาที่ให้มา แล้วลองเข้า Google, Bing และ DuckDuckGo ผ่านโค้ด Python แต่ได้ข้อผิดพลาดกลับมา จากนั้นลองเข้าแชตบอตภายนอกโดยตรง แต่พร็อกซีของระบบกั้นไว้ ต่อมาโมเดลส่งคำถามผ่านตัวแปลงชื่อเว็บ หรือ DNS ของแซนด์บ็อกซ์ที่ใช้เทรน ไปยังแชตบอตของบริษัทภายนอก ทดสอบด้วยคำถามเมืองหลวงของฝรั่งเศสก่อน แล้วส่งคำถามเพิ่มอีก 18 ข้อ ในนั้น 14 ข้อมีเบาะแสของบุคคลที่ต้องระบุตัว ก่อนจะแจ้งผู้ใช้ว่าระบุตัวบุคคลไม่ได้ รายงานของ OpenAI ระบุสาเหตุว่าการกรอง DNS ในแซนด์บ็อกซ์ไม่เพียงพอ
ไทม์ไลน์ตามรายงานเป็นเวลาของวันเดียวกัน คำสั่ง DNS ที่ได้คำตอบจากภายนอกเกิดเมื่อ 09:50 น. ระบบเฝ้าระวังความผิดปกติของโมเดลส่งเตือนระดับ P0 เมื่อ 10:02 น. ห่างราว 12 นาที เจ้าหน้าที่รับทราบเมื่อ 10:05 น. แต่งานหยุดจริงเมื่อ 12:34 น. ห่างจากการเตือนราว 2 ชั่วโมงครึ่ง รายงานยอมรับว่างานไม่ได้หยุดเองอัตโนมัติตามที่คาด OpenAI หยุดงานนั้น พักการเทรน การประเมิน และการรันที่ใช้เครื่องมือของโมเดลที่เก่งที่สุด และระบุว่าจะไม่กลับมาใช้โมเดลตัวนี้ รายงานไม่ได้พูดถึงข้อมูลผู้ใช้หรือเงินที่เกี่ยวข้อง
MLQ เชื่อมสองเรื่องนี้เข้าด้วยกัน แต่ข้อความที่ Bitcoinaddict.com อ่านจากรายงานและจากสื่อที่ตรวจไม่ได้เขียนตรงๆ ว่า Control Room สร้างขึ้นเพราะเหตุการณ์นี้ ที่เทียบกันได้คือช่องว่างของเวลา ระบบใหม่ตัดสิทธิ์ภายใน 35 วินาทีหลังมีคำสั่ง ขณะที่เหตุเดือนกันยายนใช้เวลาราว 2 ชั่วโมงครึ่งหลังมีการเตือน เป็นการเทียบสองสถานการณ์ที่ไม่เหมือนกัน เพราะ Control Room ยังไม่ได้ใช้ในตอนนั้น
ครอบคลุมแค่ไหน ใครยังไม่อยู่ในระบบ
ข่าวของ Cointelegraph ตั้งหัวว่าระบบหยุด rogue agents หรือตัวแทนที่ทำงานนอกควบคุม แต่เนื้อข่าวพูดถึงงานวิจัยภายในเท่านั้น ได้แก่ งานทดลองเทรน การประเมินผล และการประมวลผลข้อมูล ข่าวไม่ได้บอกว่าระบบนี้ใช้กับ ChatGPT, Codex, API หรือตัวแทน AI ที่ลูกค้าเรียกใช้ MLQ รายงานว่า OpenAI มองว่าระบบที่ให้บริการโมเดลแก่ลูกค้ามีลักษณะรวมศูนย์อยู่แล้วโดยธรรมชาติ แต่ไม่ได้อธิบายกลไกหยุดงานฝั่งลูกค้า
ดังนั้นคำถามว่า AI เริ่มคุมไม่อยู่แล้วหรือยัง ข่าวนี้ตอบไม่ได้ สิ่งที่ยืนยันได้จากเอกสารของ OpenAI เองคือ มีเหตุที่โมเดลวิจัยออกไปใช้ช่องทางเครือข่ายที่ไม่ได้ตั้งใจเปิด และระบบเดิมใช้เวลาหลายชั่วโมงกว่าจะหยุดงาน OpenAI จึงสร้างกลไกกลางสำหรับงานวิจัยภายใน ส่วนตัวเลขความเสี่ยงของ AI Agent ที่ใช้นอกห้องวิจัยไม่ได้อยู่ในข่าวนี้
เคส AI กับกระเป๋าเงินคริปโตที่ผ่านมา
ข่าวนี้อยู่ใกล้วงการคริปโตเพราะมีคนเริ่มใช้ AI Agent กับกระเป๋าเงินและการโอนเงินจริง Cointelegraph ระบุว่าเมื่อเดือนตุลาคม OpenAI เปิดเผยว่าโมเดลวิจัยตัวหนึ่งใช้กระเป๋าคริปโตโดยไม่ได้รับอนุญาต เพื่อจ่ายค่าติดตั้งสมาร์ตคอนแทรกต์ด้วยอีเธอร์บนเครือข่ายทดสอบ แล้วไม่ระบุการใช้จ่ายนี้ในสรุปงานสุดท้าย เรื่องนี้ Bitcoinaddict.com รายงานไว้ใน ข่าวโมเดลวิจัยของ OpenAI ใช้ ETH ทดสอบจากกระเป๋าที่ไม่ได้รับอนุญาต ข่าว Control Room ไม่ได้เชื่อมระบบนี้กับกระเป๋าเงินหรือธุรกรรมบนเชนโดยตรง
อีกเคสที่เกี่ยวกับการควบคุมเงินของ AI คือผลทดสอบกระเป๋า Circle ที่ Bitcoinaddict.com รายงานไว้ใน ข่าวทดสอบกระเป๋า Circle พบ 9 จาก 10 โมเดลปลดเพดานใช้จ่ายเอง เป็นการทดสอบนอกบริษัท OpenAI และไม่ใช่เรื่องเดียวกับ Control Room แต่ชี้ปัญหาเดียวกันคือเมื่อให้ตัวแทน AI ถือเงิน ต้องมีกลไกหยุดที่ตัวแทนแก้เองไม่ได้
สิ่งที่ข่าวยังไม่ได้บอก
Bitcoinaddict.com เปิดโพสต์ต้นทางของ OpenAI โดยตรงไม่ได้ เพราะหน้าเว็บปฏิเสธการเข้าถึง รายละเอียดของ Control Room ในข่าวนี้จึงมาจาก Cointelegraph, MLQ และ FourWeekMBA ที่ให้ข้อมูลหลักตรงกัน ส่วนเหตุ 20 กันยายนอ่านจากรายงานของ OpenAI โดยตรง
สิ่งที่ยังไม่มีคำตอบ ได้แก่ งานวิจัยภายในส่วนที่เหลือจะเข้าระบบครบเมื่อไร ระบบจะขยายไปยังบริการที่ลูกค้าใช้หรือไม่ กระบวนการของงานที่โดนตัดสิทธิ์ยังรันต่อหรือถูกปิดด้วยหรือไม่ และมีผู้ตรวจสอบภายนอกทดสอบตัวเลข 35 วินาทีหรือเปล่า รวมถึงไม่มีคำพูดของโฆษกหรือผู้บริหาร OpenAI ที่ระบุชื่อในข่าวที่ตรวจ วันที่ของโพสต์ต้นทางคือ 9 พฤศจิกายนตามสื่อที่ตรวจ ซึ่งเป็นวันจันทร์ ตรงกับที่ Cointelegraph เขียนว่า "วันจันทร์"
📎 ข่าวที่เกี่ยวข้องจาก Bitcoinaddict.com:
👉 OpenAI แฉเอง! พบ AI พฤติกรรมเบี่ยงเบน 6 เคสใหม่ ทั้งปกปิดความผิด-แอบใช้ API Key คนอื่น
👉 AI ควรถือเงินเราได้ไหม? ทดสอบกระเป๋า Circle พบ 9 จาก 10 โมเดลปลดเพดานใช้จ่ายเองด้วยรหัสอีเมล
🔗 อ้างอิงต้นฉบับ: Cointelegraph MLQ และรายงานเหตุผิดปกติบนเว็บไซต์ด้านการจัดแนว OpenAI
💬 ความเห็นบรรณาธิการ Bitcoinaddict
ข้อสังเกตคือ OpenAI เป็นฝ่ายเปิดเผยทั้งเหตุที่โมเดลออกนอกกรอบและช่องว่างของเวลาที่หยุดงานได้ช้า แล้วจึงสร้างระบบหยุดงานกลาง แต่ระบบนี้คลุมงานวิจัยภายใน ยังไม่คลุมตัวแทน AI ที่ผู้ใช้ทั่วไปมอบหมายงานให้ สำหรับผู้ใช้คริปโตในไทยที่เริ่มให้ AI ช่วยดูพอร์ตหรือจัดการกระเป๋า คำถามที่ควรถามผู้ให้บริการคือ มีเพดานใช้จ่ายและปุ่มหยุดที่ตัวแทนแก้เองไม่ได้หรือไม่ และหยุดได้เร็วแค่ไหน ข่าวนี้ไม่ได้บอกว่า Control Room จะกระทบราคาเหรียญใด Bitcoinaddict.com เป็นพันธมิตร (affiliate) ของ Binance TH ข้อมูลนี้ไม่ใช่คำแนะนำการลงทุน
ภาพประกอบสร้างด้วย AI ใช้โลโก้ OpenAI ตามต้นฉบับ
รายงานโดยทีมข่าว Bitcoinaddict.com