กูเกิลเปิดตัว TorchTPU รันโค้ด PyTorch บนชิป TPU แบบเนทีฟ
Body
กูเกิลเปิดตัว TorchTPU แบ็คเอนด์ของไลบรารี PyTorch เพื่อรันบน TPU แบบเนทีฟได้เต็มประสิทธิภาพ แบบเดียวกับ Amazon ออก TorchNeuron คอมไพล์โค้ด PyTorch ไปรันบนชิป Trainium
TorchTPU เป็นการร่วมพัฒนาระหว่างกูเกิลกับทีม PyTorch ของ Meta เพื่อขยายการใช้งาน PyTorch ไปยังชิปใหม่ๆ นอกเหนือจาก CPU และ GPU แบบดั้งเดิม กูเกิลยังจับมือกับ Hugging Face ทดสอบการรันโมเดลแบบเปิดหลายๆ ตัวบน TorchTPU ว่าได้ประสิทธิภาพดีจริง รวมถึงร่วมกับไลบรารีดังๆ อย่าง vLLM, SGLang, llm-d, TorchTitan, VeRL, Ray, LiteRT เพื่อทดสอบการใช้งานบน TPU ด้วย
กูเกิลเริ่มพัฒนา TorchTPU มาตั้งแต่ปี 2025 และเปิดตัวเป็นโอเพนซอร์สเต็มรูปแบบบน GitHub ในงาน PyTorch Conference 2026 สัปดาห์นี้
ที่มา - Google Cloud, PyTorch
mk Fri, 23/10/2026 - 07:06
Continue reading...
Body
กูเกิลเปิดตัว TorchTPU แบ็คเอนด์ของไลบรารี PyTorch เพื่อรันบน TPU แบบเนทีฟได้เต็มประสิทธิภาพ แบบเดียวกับ Amazon ออก TorchNeuron คอมไพล์โค้ด PyTorch ไปรันบนชิป Trainium
TorchTPU เป็นการร่วมพัฒนาระหว่างกูเกิลกับทีม PyTorch ของ Meta เพื่อขยายการใช้งาน PyTorch ไปยังชิปใหม่ๆ นอกเหนือจาก CPU และ GPU แบบดั้งเดิม กูเกิลยังจับมือกับ Hugging Face ทดสอบการรันโมเดลแบบเปิดหลายๆ ตัวบน TorchTPU ว่าได้ประสิทธิภาพดีจริง รวมถึงร่วมกับไลบรารีดังๆ อย่าง vLLM, SGLang, llm-d, TorchTitan, VeRL, Ray, LiteRT เพื่อทดสอบการใช้งานบน TPU ด้วย
กูเกิลเริ่มพัฒนา TorchTPU มาตั้งแต่ปี 2025 และเปิดตัวเป็นโอเพนซอร์สเต็มรูปแบบบน GitHub ในงาน PyTorch Conference 2026 สัปดาห์นี้
ที่มา - Google Cloud, PyTorch
mk Fri, 23/10/2026 - 07:06
Continue reading...