AWS เปิดตัวชิปของตัวเอง 2 ตัวพร้อมกันในงาน re:Invent ได้แก่ ซีพียู Gaviton4 และชิปฝึกปัญญาประดิษฐ์ Trainium2
Gaviton4 เป็นซีพียู ARMv9 ภายในเป็นคอร์ Neoverse V2 96 คอร์ เพิ่มขึ้นจาก Gaviton3 ที่เคยมี 64 คอร์ และยังมีแบนวิดท์แรมเพิ่มขึ้น 30% ใส่แรมได้มากขึ้น 3 เท่าตัว ความพิเศษอีกอย่างคือชิปใหม่นี้สามารถเข้ารหัสการส่งข้อมูลออกนอกชิปทั้งหมด
Trainium2 ชิปฝึกปัญญาประดิษฐ์ ออกแบบมารองรับการฝึก LLM ระดับล้านล้านพารามิเตอร์ ประสิทธิภาพการฝึกรวมเพิ่มขึ้นกว่ารุ่นแรก 4 เท่าและรองรับหน่วยความจำได้มากกว่าเดิม 3 เท่า ตอนนี้ Anthropic และ MosaicML ผู้พัฒนา LLM ก็ออกมาแสดงความสนใจจะใช้ Trainium2 ฝึกโมเดล LLM ตัวต่อไป
ที่มา - AWS
Topics:
AWS
CPU
Semiconductor
อ่านต่อ...
Gaviton4 เป็นซีพียู ARMv9 ภายในเป็นคอร์ Neoverse V2 96 คอร์ เพิ่มขึ้นจาก Gaviton3 ที่เคยมี 64 คอร์ และยังมีแบนวิดท์แรมเพิ่มขึ้น 30% ใส่แรมได้มากขึ้น 3 เท่าตัว ความพิเศษอีกอย่างคือชิปใหม่นี้สามารถเข้ารหัสการส่งข้อมูลออกนอกชิปทั้งหมด
Trainium2 ชิปฝึกปัญญาประดิษฐ์ ออกแบบมารองรับการฝึก LLM ระดับล้านล้านพารามิเตอร์ ประสิทธิภาพการฝึกรวมเพิ่มขึ้นกว่ารุ่นแรก 4 เท่าและรองรับหน่วยความจำได้มากกว่าเดิม 3 เท่า ตอนนี้ Anthropic และ MosaicML ผู้พัฒนา LLM ก็ออกมาแสดงความสนใจจะใช้ Trainium2 ฝึกโมเดล LLM ตัวต่อไป
ที่มา - AWS
Topics:
AWS
CPU
Semiconductor
อ่านต่อ...
Attachments
