Claude Opus 4 และ 4.1 เพิ่มความสามารถตัดบทสนทนาได้เอง หากสถานการณ์ดูกดดันและเป็นอันตรายเกินกว่าปกติ
Body
Anthropic ประกาศเพิ่มความสามารถให้โมเดล Claude Opus 4 และ 4.1 โดยสามารถ "หยุดการสนทนา" ได้เอง ในกรณีที่บทสนทนามีความรุนแรง หรือมีลักษณะพฤติกรรมที่เป็นอันตราย พยายามละเมิดข้อห้ามซ้ำแม้ Claude จะห้ามแล้วก็ตาม
เรื่องนี้อาจฟังดูเหมือนการเปิดช่องให้โมเดลปัญญาประดิษฐ์ปฏิเสธการทำงานได้ แต่ Anthropic บอกว่าจะใช้สำหรับกรณีข้างต้นเท่านั้น โอกาสเกิดขึ้นก็มีน้อยมาก
Anthropic บอกว่าแนวคิดที่ให้ Claude Opus ตัดบทสนทนาได้มาจากเรื่องการให้โมเดล AI เหมือนมนุษย์ที่มีสวัสดิภาพตัดสินใจเดินออก เวลาเกิดสถานการณ์ที่ดูอันตรายหรือถูกกดดันมากเกินไป
ฟีเจอร์นี้จะทำงานเมื่อเข้าสู่ทางเลือกสุดท้ายแล้วเท่านั้น ในกรณีการสนทนาเป็นในลักษณะต้องการทำร้ายตนเองหรือผู้อื่น Claude จะยังดำเนินการสนทนาต่อไปเหมือนเดิม ทั้งนี้รูปแบบดังกล่าวยังมีสถานะทดลองแบบต่อเนื่องซึ่ง Anthropic จะรวบรวมความเห็นมาปรับปรุงโมเดลต่อไป
ที่มา: Anthropic
arjin Sun, 17/08/2025 - 10:04
Continue reading...
Body
Anthropic ประกาศเพิ่มความสามารถให้โมเดล Claude Opus 4 และ 4.1 โดยสามารถ "หยุดการสนทนา" ได้เอง ในกรณีที่บทสนทนามีความรุนแรง หรือมีลักษณะพฤติกรรมที่เป็นอันตราย พยายามละเมิดข้อห้ามซ้ำแม้ Claude จะห้ามแล้วก็ตาม
เรื่องนี้อาจฟังดูเหมือนการเปิดช่องให้โมเดลปัญญาประดิษฐ์ปฏิเสธการทำงานได้ แต่ Anthropic บอกว่าจะใช้สำหรับกรณีข้างต้นเท่านั้น โอกาสเกิดขึ้นก็มีน้อยมาก
Anthropic บอกว่าแนวคิดที่ให้ Claude Opus ตัดบทสนทนาได้มาจากเรื่องการให้โมเดล AI เหมือนมนุษย์ที่มีสวัสดิภาพตัดสินใจเดินออก เวลาเกิดสถานการณ์ที่ดูอันตรายหรือถูกกดดันมากเกินไป
ฟีเจอร์นี้จะทำงานเมื่อเข้าสู่ทางเลือกสุดท้ายแล้วเท่านั้น ในกรณีการสนทนาเป็นในลักษณะต้องการทำร้ายตนเองหรือผู้อื่น Claude จะยังดำเนินการสนทนาต่อไปเหมือนเดิม ทั้งนี้รูปแบบดังกล่าวยังมีสถานะทดลองแบบต่อเนื่องซึ่ง Anthropic จะรวบรวมความเห็นมาปรับปรุงโมเดลต่อไป
ที่มา: Anthropic
arjin Sun, 17/08/2025 - 10:04
Continue reading...