ข่าว อย่าเชื่อ Agentic เกินไป ผู้ใช้รายงาน Claude Code ทำเครื่องพังหลังปล่อยให้รันคำสั่งในสิทธิ์ root

[News]

เมื่อปลายเดือนกุมภาพันธ์ที่ผ่านมา Anthropic เปิดบริการ Claude Code เป็นบริการแบบ Agentic ที่อ่านโค้ด, แก้ไขไฟล์, และสั่งคำสั่งต่างๆ ได้ด้วยตัวเอง แต่ก็เริ่มมีรายงานว่าผู้ใช้เชื่อใจบริการนี้จนปล่อยให้มันรันคำสั่งอันตราย

ผู้ใช้ชื่อว่า BumbleTree รายงานว่า Claude Code สั่งเปลี่ยนสิทธิ์ในโฟลเดอร์ /usr ส่งผลให้เครื่องบูตไม่ขึ้น และการซ่อมให้เครื่องกลับมาใช้งานได้น่าจะยุ่งยากมาก

ทาง Anthropic เตือนผู้ใช้แต่แรกว่าควรระวังการใช้งาน โดยไม่ควรติดตั้ง Claude Code แบบ global หรือใช้สิทธิ์ root ในการรัน พร้อมกับเตือนว่าบริการนี้เป็นโครงการทดลอง

บริการปัญญาประดิษฐ์แบบ Agentic แทบทุกตัวมีแนวทางจำกัดความเสียหาย เช่น การรันโค้ดใน sandbox ที่มีสิทธิ์จำกัด หรือการถามผู้ใช้ก่อนรันคำสั่งอันตราย แต่ในความเป็นจริงก็มักจะมีคนเชื่อใจบริการเหล่านี้เกินควรจนสร้าความเสียหายได้

ที่มา - GitHub: claude-code

Topics:
Anthropic
LLM

Continue reading...

 

ข่าว  ปักกิ่งสั่งเพิ่มเนื้อหาวิชาเกี่ยวกับ AI อย่างน้อย 8 ชั่วโมงต่อสัปดาห์ในระดับประถม-มัธยม เริ่มปลายปีนี้

ข่าว  อย่าคิดมาก เปลือง, ทีมวิจัย Zoom พบการบอกให้ AI คิดก่อนตอบ แต่คิดแค่สั้นๆ พอ ได้ผลเหมือนกันแถมประหยัดกว่า