news Yoshua Bengio บอกว่า AI Agents อาจเป็นหายนะที่อันตรายที่สุด

[News]

หนึ่งในหัวข้อที่ถูกพูดถึงมากที่สุดในวงการเทคฯ ปีนี้ คือ AI Agents หรือผู้ช่วย AI ทำงานได้ด้วยตัวเอง โดยไม่ต้องมีมนุษย์มาคอยกำกับการทำงาน เช่น หาข้อมูล จองร้านอาหาร หรือแม้แต่ช้อปปิงออนไลน์

ขณะเดียวกัน นักวิจัยด้าน AI หลายคนกำลังรอดูว่า เมื่อไหร่จะถึงจุดที่ AI สามารถทำงานและให้เหตุผลได้เทียบเท่ากับมนุษย์ ซึ่งจะเป็นปักหมุดต่อไปที่สำคัญสำหรับปัญญาประดิษฐ์ความสามารถรอบด้าน หรือ Artificial General Intelligence (AGI)

อย่างไรก็ตาม Yoshua Bengio ผู้บุกเบิกวงการปัญญาประดิษฐ์ บอกในการประชุม World Economic Forum ว่า “ผมขอยกธงแดง (red-flag) ให้กับ AI Agents เพราะมันจะเป็นเส้นทางที่อันตรายที่สุด”

Bengio เชื่อว่าระบบเหล่านี้อาจสร้างหายนะได้ หากพัฒนาไปเป็น AGI เพราะการพัฒนาระบบ AI ที่ทรงพลัง สามารถทำได้ โดยไม่จำเป็นต้องใช้ AI Agents เช่น AI ทางการแพทย์ และวิทยาศาสตร์

นอกจากนี้ Bengio มองว่าจะทำให้เกิดการแข่งขันในบรรดาบริษัทยักษ์ใหญ่ หรือแม้แต่ประเทศต่าง ๆ ที่กังวลว่าตนเองจะตามไม่ทัน ซึ่งหากไม่ได้ศึกษาดีพอ จะเกิดความเสี่ยง สร้างความเสียหาย และอาจมาทำร้ายมนุษย์ได้ในที่สุด

Bengio แนะนำให้สร้างระบบตรวจสอบขั้นสูง เพื่อดูแลและควบคุมระบบ AI Agents แม้จะมีราคาแพงก็ตาม รวมทั้งให้มีกฎระเบียบระดับชาติ เพื่อป้องกันไม่ให้บริษัท AI พัฒนาโมเดล Agents โดยไม่ได้พิสูจน์ความปลอดภัยก่อน

ที่มา: Business Insider

Topics:
World Economic Forum
Artificial Intelligence

Continue reading...

 

news  Reliance วางแผนสร้างดาต้าเซ็นเตอร์ที่ใหญ่ที่สุดในโลกในอินเดีย

news  Threads เริ่มแสดงโฆษณาแล้ว มีผลกับผู้ใช้งานกลุ่มเล็กในอเมริกาและญี่ปุ่นก่อน