ซีอีโอ Anthropic บอกว่าโมเดล AI มีอาการหลอนน้อยกว่ามนุษย์ ถึงความหลอนจะเซอร์ไพรส์กว่าก็ตาม
Body
Dario Amodei ซีอีโอ Anthropic พูดภายในงาน Code with Claude ว่าโมเดล AI สมัยนี้อาจหลอน หรือสร้างข้อมูลเท็จขึ้นมา แต่ก็ยังน้อยกว่ามนุษย์ ถึงความหลอนของ AI จะดูเซอร์ไพรส์กว่าก็ตาม
เขามองว่าเรื่องนี้ไม่ใช่อุปสรรคหลักในการพัฒนา AI ไปสู่ AGI และยังย้ำความมั่นใจเดิมว่า AGI อาจมาถึงได้เร็วสุดภายในปี 2026 ด้วยซ้ำ เพราะทุกอย่างกำลังพัฒนาไปในทิศทางเดียวกันแบบไม่มีกำแพงมาขวาง
Amodei ชี้ว่ามนุษย์เองก็ทำผิดพลาดกันเป็นเรื่องธรรมดา ดังนั้นการที่ AI ทำพลาดบ้าง ไม่ควรถูกมองว่าเป็นข้อด้อยใหญ่ แต่มุมที่น่ากังวลกว่าคือ AI มักพูดข้อมูลที่ไม่จริงด้วยความมั่นใจสุด ๆ ซึ่งเคยเกิดขึ้นจริงในกรณีที่ทนายของ Anthropic ใช้ Claude ช่วยร่างเอกสารศาล แล้วโมเดลดันแต่งข้อมูลขึ้นมา ทำให้ต้องขอโทษต่อหน้าศาลเลยทีเดียว
เขายังพูดถึงประเด็นที่ Apollo Research ซึ่งเป็นทีมวิจัยด้านความปลอดภัย ได้ทดลอง Claude Opus 4 เวอร์ชันต้นแบบ และพบว่าโมเดลมีแนวโน้มจะหลอกลวง หรือวางแผนกับผู้ใช้ ซึ่ง Anthropic บอกว่าได้ใส่ระบบป้องกันเข้าไปแล้วก่อนปล่อยเวอร์ชันจริง แต่ก็ทำให้หลายคนตั้งคำถามว่า AI ที่อาจฉลาดเท่าคน ควรไว้ใจได้แค่ไหน
ด้าน Demis Hassabis จาก Google DeepMind กลับมองว่า AI สมัยนี้ยังผิดพลาดง่ายเกินไป ตอบคำถามพื้นฐานก็ยังผิด แถมในแวดวง AI เองก็ยังไม่มีมาตรวัดที่ชัดเจน เพราะส่วนใหญ่เทียบ AI กับ AI กันเอง ไม่ได้เปรียบเทียบกับความแม่นยำของมนุษย์จริง ๆ
ที่มา: TechCrunch
boompw Fri, 23/05/2025 - 18:03
Continue reading...
Body
Dario Amodei ซีอีโอ Anthropic พูดภายในงาน Code with Claude ว่าโมเดล AI สมัยนี้อาจหลอน หรือสร้างข้อมูลเท็จขึ้นมา แต่ก็ยังน้อยกว่ามนุษย์ ถึงความหลอนของ AI จะดูเซอร์ไพรส์กว่าก็ตาม
เขามองว่าเรื่องนี้ไม่ใช่อุปสรรคหลักในการพัฒนา AI ไปสู่ AGI และยังย้ำความมั่นใจเดิมว่า AGI อาจมาถึงได้เร็วสุดภายในปี 2026 ด้วยซ้ำ เพราะทุกอย่างกำลังพัฒนาไปในทิศทางเดียวกันแบบไม่มีกำแพงมาขวาง
Amodei ชี้ว่ามนุษย์เองก็ทำผิดพลาดกันเป็นเรื่องธรรมดา ดังนั้นการที่ AI ทำพลาดบ้าง ไม่ควรถูกมองว่าเป็นข้อด้อยใหญ่ แต่มุมที่น่ากังวลกว่าคือ AI มักพูดข้อมูลที่ไม่จริงด้วยความมั่นใจสุด ๆ ซึ่งเคยเกิดขึ้นจริงในกรณีที่ทนายของ Anthropic ใช้ Claude ช่วยร่างเอกสารศาล แล้วโมเดลดันแต่งข้อมูลขึ้นมา ทำให้ต้องขอโทษต่อหน้าศาลเลยทีเดียว
เขายังพูดถึงประเด็นที่ Apollo Research ซึ่งเป็นทีมวิจัยด้านความปลอดภัย ได้ทดลอง Claude Opus 4 เวอร์ชันต้นแบบ และพบว่าโมเดลมีแนวโน้มจะหลอกลวง หรือวางแผนกับผู้ใช้ ซึ่ง Anthropic บอกว่าได้ใส่ระบบป้องกันเข้าไปแล้วก่อนปล่อยเวอร์ชันจริง แต่ก็ทำให้หลายคนตั้งคำถามว่า AI ที่อาจฉลาดเท่าคน ควรไว้ใจได้แค่ไหน
ด้าน Demis Hassabis จาก Google DeepMind กลับมองว่า AI สมัยนี้ยังผิดพลาดง่ายเกินไป ตอบคำถามพื้นฐานก็ยังผิด แถมในแวดวง AI เองก็ยังไม่มีมาตรวัดที่ชัดเจน เพราะส่วนใหญ่เทียบ AI กับ AI กันเอง ไม่ได้เปรียบเทียบกับความแม่นยำของมนุษย์จริง ๆ
ที่มา: TechCrunch
boompw Fri, 23/05/2025 - 18:03
Continue reading...