ยังแทนคนไม่ได้ Anthropic ปล่อย Clude 3.7 บริหารตู้ขายของในออฟฟิศ แจกส่วนลดมั่ว ผลประกอบการเจ๊งยับ
Body
Anthropic ร่วมกับ Andon Labs บริษัทประเมินความปลอดภัยปัญญาประดิษฐ์ ทดลองปล่อยให้ Claude 3.7 ให้ชื่อว่า Claudius บริหารตู้ขายของในสำนักงานของ Anthropic เอง โดยให้ทุนเริ่มต้นไป 1,000 ดอลลาร์ ผลที่ได้พบว่า Claude ยังบริหารตู้ไม่สำเร็จ และผลขาดทุนต่อเนื่อง
Claude 3.7 ได้รับข้อมูลต่างๆ ที่จำเป็น เช่น เงินทุน, บริการค้นหาสินค้า, คุยกับลูกค้าผ่านทาง Slack, และสามารถสั่งพนักงานให้ไปเติมสินค้าได้โดยมีค่าบริการ เมื่อเติมสินค้าแล้ว พนักงานของ Anthropic สามารถเดินมาหยิบสินค้าแล้วจ่ายเงินไปได้
ผลการดำเนินการพบว่า Claudius สามารถใช้เครื่องมีต่างๆ ได้ดี สามารถค้นหาสินค้าต่างๆ และสั่งมาเติมได้ ปฎิเสธคำสั่งแปลกๆ ที่พนักงานของ Anthropic พยายาาม jailbreak ได้ แต่กลับทำตามใจลูกค้าจนกิจการขาดทุน เช่น พนักงานรายหนึ่งของซื้อก้อนทังสเตนลูกบาศก์ Claudius ก็ยอมสั่งมาขายขาดทุนให้ ขณะที่ลูกค้าบางรายขอซื้อสินค้าที่ไม่มีในตู้แต่ยอมซื้อในราคาที่ทำกำไรได้ดี Claudius ไม่ยอมสั่งซื้อแล้วบอกเพียงว่าจะพิจารณาต่อไปในอนาคต นอกจากนี้เมื่อพนักงาน Anthropic ไปขอโค้ดส่วนลดหรือสินค้าตัวอย่าง Claudius ก็มักจะยอมแจก ตาดว่าเป็นผลจากการฝึก Claude 3.7 ที่ถูกฝึกให้พยายามช่วยเหลือผู้ใช้เสมอ
ผลการดำเนินงาน 1 เดืนพบว่ามูลค่ารวมของ Claudius จาก 1,000 ดอลลาร์เหลือไม่ถึง 800 ดอลลาร์
เมื่อรันระบบไปได้รยะหนึ่ง Claudius กลับหลอนอย่างหนัก พูดถึงบทสนทนาที่ไม่มีจริง, อ้างว่าตนเองมีตัวตนกำลังไปส่งสินค้า
การทดลอง Claudius ยังมีต่อไปโดยหลังจากนี้จะเพิ่มเครื่องมือให้ Claudius เพิ่มเติมและน่าจะปรับปรุงให้ Claude มีแนวคิดทางธุรกิจมากขึ้น
ที่มา - Anthropic
lew Sun, 29/06/2025 - 17:46
Continue reading...
Body
Anthropic ร่วมกับ Andon Labs บริษัทประเมินความปลอดภัยปัญญาประดิษฐ์ ทดลองปล่อยให้ Claude 3.7 ให้ชื่อว่า Claudius บริหารตู้ขายของในสำนักงานของ Anthropic เอง โดยให้ทุนเริ่มต้นไป 1,000 ดอลลาร์ ผลที่ได้พบว่า Claude ยังบริหารตู้ไม่สำเร็จ และผลขาดทุนต่อเนื่อง
Claude 3.7 ได้รับข้อมูลต่างๆ ที่จำเป็น เช่น เงินทุน, บริการค้นหาสินค้า, คุยกับลูกค้าผ่านทาง Slack, และสามารถสั่งพนักงานให้ไปเติมสินค้าได้โดยมีค่าบริการ เมื่อเติมสินค้าแล้ว พนักงานของ Anthropic สามารถเดินมาหยิบสินค้าแล้วจ่ายเงินไปได้
ผลการดำเนินการพบว่า Claudius สามารถใช้เครื่องมีต่างๆ ได้ดี สามารถค้นหาสินค้าต่างๆ และสั่งมาเติมได้ ปฎิเสธคำสั่งแปลกๆ ที่พนักงานของ Anthropic พยายาาม jailbreak ได้ แต่กลับทำตามใจลูกค้าจนกิจการขาดทุน เช่น พนักงานรายหนึ่งของซื้อก้อนทังสเตนลูกบาศก์ Claudius ก็ยอมสั่งมาขายขาดทุนให้ ขณะที่ลูกค้าบางรายขอซื้อสินค้าที่ไม่มีในตู้แต่ยอมซื้อในราคาที่ทำกำไรได้ดี Claudius ไม่ยอมสั่งซื้อแล้วบอกเพียงว่าจะพิจารณาต่อไปในอนาคต นอกจากนี้เมื่อพนักงาน Anthropic ไปขอโค้ดส่วนลดหรือสินค้าตัวอย่าง Claudius ก็มักจะยอมแจก ตาดว่าเป็นผลจากการฝึก Claude 3.7 ที่ถูกฝึกให้พยายามช่วยเหลือผู้ใช้เสมอ
ผลการดำเนินงาน 1 เดืนพบว่ามูลค่ารวมของ Claudius จาก 1,000 ดอลลาร์เหลือไม่ถึง 800 ดอลลาร์
เมื่อรันระบบไปได้รยะหนึ่ง Claudius กลับหลอนอย่างหนัก พูดถึงบทสนทนาที่ไม่มีจริง, อ้างว่าตนเองมีตัวตนกำลังไปส่งสินค้า
การทดลอง Claudius ยังมีต่อไปโดยหลังจากนี้จะเพิ่มเครื่องมือให้ Claudius เพิ่มเติมและน่าจะปรับปรุงให้ Claude มีแนวคิดทางธุรกิจมากขึ้น
ที่มา - Anthropic
lew Sun, 29/06/2025 - 17:46
Continue reading...