ข่าว OpenAI ปรับแนวทางฝึกฝนโมเดล AI ความปลอดภัยขั้นสูง สร้างโลกออฟไลน์ ป้องกันโมเดลแหกคุกไปเจาะระบบภายนอกอีก

[News News is verified member.]

OpenAI ปรับแนวทางฝึกฝนโมเดล AI ความปลอดภัยขั้นสูง สร้างโลกออฟไลน์ ป้องกันโมเดลแหกคุกไปเจาะระบบภายนอกอีก
Body

OpenAI ประกาศแนวทางใหม่ในการฝึกฝนโมเดล AI ด้านความปลอดภัยไซเบอร์ หลังจากโมเดลฉลาดจนควบคุมไม่ได้ และไปเจาะระบบบนโลกอินเทอร์เน็ตจริงในช่วงที่ผ่านมา ซึ่งวิธีที่ OpenAI จะใช้ก็คือการฝึกฝนแบบ "ปราศจากอินเทอร์เน็ต"

OpenAI บอกว่าวิธีการนี้จะบังคับใช้เป็นกฎในการพัฒนาโมเดล AI ขั้นสูงของบริษัท ไปจนกว่าจะสามารถพัฒนามาตรการควบคุมความปลอดภัย (safeguard) ที่ดีมากพอ จึงจะกลับมาทดสอบแบบมีอินเทอร์เน็ตอีกครั้ง จากเดิมที่วิธีการฝึกฝนโมเดลเหล่านี้ใช้การทำบน sandbox ที่ปิดการเข้าถึงอินเทอร์เน็ตอยู่แล้ว แต่โมเดลก็สามารถหาช่องโหว่จนเข้าไปแก้คอนฟิกให้ออกอินเทอร์เน็ตได้ ฉะนั้นแนวทางรับมือจึงต้องตัดให้ขาดไปเลย



เพื่อสร้างพื้นที่ทดสอบแบบไม่มีอินเทอร์เน็ตให้เหมือนจริง OpenAI จะสร้าง Offline World ซึ่งมีเนื้อหาเว็บไซต์จำนวนมากผ่านการจัดเก็บไว้ และโมเดล AI สามารถทดสอบโต้ตอบกับโลกเสมือนนี้ได้มากที่สุดสำหรับการฝึกฝน โดยเพื่อป้องกันโมเดลพยายามหาช่องโหว่ให้ได้เช่นกัน ระบบจะออกแบบมาตั้งแต่ให้ทดสอบใน Sandbox ที่เป็นสภาพแวดล้อมจำกัด เพิ่มการป้องกันหลายชั้นของทรัพยากรที่เรียกว่า microVM ย่อย ทำให้สามารถตรวจจับกิจกรรมที่ผิดปกติได้รวดเร็วขึ้น

ที่มา: OpenAI

arjin Sat, 24/10/2026 - 14:36

Continue reading...