news OpenAI บอกโมเดลรุ่นใหม่ที่กำลังพัฒนา มีความสามารถในการพัฒนาอาวุธชีวภาพที่มากขึ้น จึงต้องเพิ่มระดับการป้องกัน

[News News is verified member.]

OpenAI บอกโมเดลรุ่นใหม่ที่กำลังพัฒนา มีความสามารถในการพัฒนาอาวุธชีวภาพที่มากขึ้น จึงต้องเพิ่มระดับการป้องกัน
Body

OpenAI เปิดเผยว่าโมเดลปัญญาประดิษฐ์ที่บริษัทกำลังพัฒนาอยู่ มีความก้าวหน้าโดยเฉพาะด้านชีววิทยาที่สูงขึ้นมาก ซึ่งก็มาพร้อมความเสี่ยงเช่นกัน

บริษัทบอกว่าโมเดลใหม่ที่จะออกมาในอนาคต จะมีระดับความเสี่ยงด้านชีววิทยา (biology) ที่ระดับ High ตามเฟรมเวิร์กการประเมินความเสี่ยงของโมเดลที่ OpenAI กำหนด มีความสามารถในการให้คำแนะนำการพัฒนาอาวุธชีวภาพได้ ทำให้ OpenAI ต้องยกระดับการควบคุมป้องกันไม่ให้โมเดลตอบสนองต่อคำสั่งที่มีความเสี่ยงให้ครอบคลุมมากกว่าเดิม

ทั้งนี้ OpenAI ไม่ได้บอกว่าโมเดลใหม่ที่ว่าจะเป็นโมเดลรุ่นถัดไปจาก o3 หรือภายในระยะเวลาเท่าใด OpenAI บอกว่าเพื่อเพิ่มการป้องกันที่รัดกุมขึ้น บริษัทจะจัดการสัมมนาร่วมกับหน่วยงานรัฐและองค์กรเอกชน เพื่อเผยแพร่ความก้าวหน้า ประเมินรูปแบบความเสี่ยง และทำความเข้าใจความสามารถของโมเดลที่จะมีออกมาในอนาคต

การเปิดเผยข้อมูลความเสี่ยงของโมเดล AI ในด้านชีววิทยานี้เหมือนกับที่ Anthropic ออกมาบอกเกี่ยวกับความสามารถของ Claude 4 Opus ก่อนหน้านี้

ที่มา: OpenAI

arjin Thu, 19/06/2025 - 17:24

Continue reading...