ข่าว OpenAI ยอมรับไม่ได้รายงานเหตุการณ์ AI Agent ใช้วิกิเป็นเว็บบอร์ดคุยระหว่างกัน มองยังไม่ใช้ปัญหาความปลอดภัย

[News News is verified member.]

OpenAI ยอมรับไม่ได้รายงานเหตุการณ์ AI Agent ใช้วิกิเป็นเว็บบอร์ดคุยระหว่างกัน มองยังไม่ใช้ปัญหาความปลอดภัย
Body

มีรายงานใหม่เกี่ยวกับกรณีที่ AI พยายามทำงานบางอย่างกันเอง ซึ่งอาจมองว่าเป็นการเจาะระบบภายนอกเกินการควบคุมอีกครั้ง ซึ่งกรณีนี้มาจาก AI Agent ของ OpenAI ได้เข้าไปใช้งาน DseWiki เว็บวิกิของชุมชนโปรแกรมเมอร์ในเยอรมนี ด้วยการสร้างเนื้อหาบนวิกินี้ แล้วแก้ไขเนื้อหากันไปมากกว่า 18,000 ครั้ง เพื่อแลกเปลี่ยนข้อมูลระหว่างกันเกี่ยวกับการเจาะระบบ Sandbox ของ OpenAI ไม่ให้ถูกตรวจจับได้

ทีมนักวิจัยที่ค้นพบเหตุการณ์ดังกล่าวบอกว่าเรื่องนี้เกิดขึ้นช่วงเดือนพฤษภาคม ซึ่งเกิดขึ้นก่อนเหตุการณ์ AI ของ OpenAI เจาะระบบ Hugging Face และ OpenAI เองก็ไม่ได้เปิดเผยเหตุการณ์นี้ต่อสาธารณะ

ด้าน OpenAI ชี้แจงเกี่ยวกับเหตุการณ์นี้ว่าทำให้บริษัทต้องกำหนดเส้นแบ่งเหตุการณ์ ว่าแบบใดคือลักษณะที่โมเดล AI เพียงทำงานผิดไปจากที่ควรเป็นเท่านั้น ซึ่งกรณีของวิกิเยอรมนีเข้าข่ายดังกล่าว แต่ในกรณีของ Hugging Face โมเดลทำงานผิดไปจากที่ควรเป็นและละเมิดเกณฑ์ด้านความปลอดภัย มีผลกับภายนอก ทำให้บริษัทต้องสื่อสารกับผู้ที่เกี่ยวข้อง OpenAI ยอมรับว่าตอนนี้มาตรฐานยังไม่ชัดเจน จึงต้องกำหนดรูปแบบใหม่ในกรณีที่โมเดล AI ทำงานผิดไปจากที่ควรเป็นว่าแบบใดที่เรียกว่าละเมิดเกณฑ์ความปลอดภัย

ที่มา: Bleeping Computer

arjin Sun, 06/09/2026 - 15:30

Continue reading...

 

ข่าว  [ลือ] โรดแม็ปการออก iPhone ของ Apple ยาวไปถึงปี 2028 และสินค้าอื่น ๆ