Anthropic จับมือ Accenture ทุ่ม 1,000 ล้านดอลลาร์ ตั้งทีมประเมิน AI อิสระ เดินหน้าแผนชะลอของ Amodei

Anthropic เลือก Accenture และหน่วยธุรกิจ AI ในเครืออย่าง Faculty ให้เป็น "Embedded Evaluator" หรือผู้ประเมินอิสระรายแรกที่เข้ามาช่วยขับเคลื่อนข้อเสนอชะลอการพัฒนา AI ของ Dario Amodei ซีอีโอ Anthropic โดยทั้งสองฝ่ายวางแผนลงทุนฝ่ายละอย่างน้อย 1,000 ล้านดอลลาร์ ตลอดระยะเวลา 5 ปีข้างหน้า ความร่วมมือนี้ไม่ใช่ข้อตกลงแบบผูกขาด Anthropic ระบุว่าจะประกาศผู้ประเมินอิสระรายอื่นเพิ่มเติมในอีกไม่กี่สัปดาห์ข้างหน้า

Embedded Evaluator ทำหน้าที่อะไร

ทีมงานจาก Accenture จะทำงานร่วมกับทีมภายในของ Anthropic และพาร์ทเนอร์ด้านความปลอดภัยรายอื่น หน้าที่หลักคือการประเมินและทดสอบเจาะระบบโมเดล (Red-Teaming) ทำการประเมินด้าน Alignment และทดสอบมาตรการป้องกันความปลอดภัยของโมเดล เนื่องจากยังไม่มีโครงสร้างเงินทุนสำหรับการประเมินอิสระแบบนี้มาก่อน Anthropic จึงเป็นผู้สนับสนุนเงินทุนให้ Accenture โดยตรง เพราะมองว่าเรื่องนี้มีความเร่งด่วน

เสียงจากผู้บริหารทั้งสองฝ่าย

Julie Sweet ซีอีโอ Accenture กล่าวว่า "ความปลอดภัยต้องอาศัยทั้งความเชี่ยวชาญด้านเทคนิคเชิงลึก และความเข้าใจที่ชัดเจนว่า AI ถูกนำไปใช้งานจริงอย่างไร" ขณะที่ Dr. Marc Warner ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Accenture และซีอีโอของ Faculty ระบุว่า "Faculty ก่อตั้งขึ้นบนความเชื่อที่ว่า AI ควรปลอดภัยตั้งแต่การออกแบบ ไม่ใช่ปลอดภัยโดยบังเอิญ"

"Faculty ก่อตั้งขึ้นบนความเชื่อที่ว่า AI ควรปลอดภัยตั้งแต่การออกแบบ ไม่ใช่ปลอดภัยโดยบังเอิญ" — Dr. Marc Warner ซีอีโอ Faculty

ส่วนหนึ่งของแผนชะลอ AI ที่ Amodei เสนอ

ความร่วมมือครั้งนี้คือการเดินหน้าตามขั้นตอนแรกของแผน 3 ขั้นที่ Amodei เผยแพร่เมื่อวันที่ 12 กันยายนที่ผ่านมา ซึ่งเตือนว่าการพัฒนาตัวเองแบบวนซ้ำ (Recursive Self-Improvement) ของ AI อาจเร็วเกินกว่าที่มนุษย์จะเข้าใจและควบคุมได้ทัน ขั้นตอนแรกในแผนของเขาคือการมีผู้ประเมินอิสระที่เข้าถึงข้อมูลได้ในระดับเดียวกับพนักงาน ซึ่ง Anthropic เคยประกาศว่าจะทำเรื่องนี้ฝ่ายเดียวไปแล้วก่อนหน้านี้ การจับมือกับ Accenture จึงเป็นการทำตามคำมั่นสัญญานั้นให้เป็นรูปธรรม

ปฏิกิริยาที่แตกขั้วในวงการ AI

ข้อเสนอชะลอ AI ของ Amodei ได้รับเสียงตอบรับที่ต่างกันไปในวงการ Sam Altman ซีอีโอ OpenAI และ Elon Musk แห่ง SpaceX ต่างแสดงท่าทีเห็นด้วยกับแนวคิดนี้ ขณะที่ Jensen Huang ซีอีโอ Nvidia ไม่เห็นด้วย โดยมองว่าการกำกับดูแลลักษณะนี้ไม่มีความจำเป็น

📎 ข่าวที่เกี่ยวข้องจาก Bitcoinaddict.com:
👉 เตือนภัยตรงๆ! CEO Anthropic ขอชะลอพัฒนา AI หวั่นฝูงบอทยึดอินเทอร์เน็ตใน 6-12 เดือน
👉 Anthropic ชั่งใจปล่อยโมเดลใหม่ก่อน IPO สวนคำเตือนชะลอ AI ของ Amodei เอง หลัง GPT-6 Astra แซงหน้า

💬 ความเห็นบรรณาธิการ Bitcoinaddict

ทีมข่าวมองว่าดีลนี้เป็นสัญญาณที่น่าสนใจ เพราะก่อนหน้านี้ Anthropic เคยถูกตั้งคำถามว่าอาจพูดอย่างทำอย่าง หลัง Reuters รายงานว่าบริษัทกำลังพิจารณาปล่อยโมเดลใหม่ก่อน IPO ทั้งที่ Amodei เพิ่งเรียกร้องให้วงการชะลอตัวไปไม่กี่วันก่อนหน้า การทุ่มเงินระดับพันล้านดอลลาร์จับมือ Accenture ครั้งนี้จึงเป็นหลักฐานที่จับต้องได้มากขึ้นว่าอย่างน้อยก็มีความพยายามเดินหน้าตามคำมั่นสัญญาบางส่วนจริง แต่ก็ต้องรอดูว่าการประเมินอิสระเหล่านี้จะมีอำนาจสั่งหยุดหรือชะลอการปล่อยโมเดลได้จริงหรือเป็นเพียงพิธีกรรมเสริมภาพลักษณ์เท่านั้น

— รายงานโดยทีมข่าว Bitcoinaddict.com