news ZLUDA โครงการ CUDA บนจีพียูค่ายอื่นคืบหน้า เริ่มรองรับ llm.c และ llama.cpp

[News News is verified member.]

ZLUDA โครงการ CUDA บนจีพียูค่ายอื่นคืบหน้า เริ่มรองรับ llm.c และ llama.cpp
Body

ZLUDA โครงการแปลง CUDA ของ NVIDIA ให้รันบนจีพียูค่ายอื่นได้ ที่เริ่มโอเพนซอร์สช่วงต้นปี 2024 เริ่มมีความคืบหน้า โดยออกซอฟต์แวร์ ZLUDA เวอร์ชัน 5 มีการเปลี่ยนแปลงดังนี้

• zoc (ZLUDA offline compiler) คอมไพเลอร์ที่ใช้แปลงโค้ด NVIDIA PTX เป็น AMD RDNA เปิดให้เรียกใช้ผ่านคอมมานด์ไลน์ จากเดิมที่ต้องเรียกจากไลบรารีเท่านั้น
• zluda_trace เครื่องมือรัน trace บนจีพียูรุ่นต่างๆ เพื่อเก็บ trace log ให้ทีมพัฒนาใช้เป็นข้อมูล
• llm.c เริ่มต้นรองรับ llm.c ในเบื้องต้น รันงานพื้นฐานได้แล้ว
• llama.cpp รัน CUDA backend ของ llama.cpp บน ZLUDA ได้แล้ว

ทีมพัฒนาบอกว่าเริ่มต้นรองรับ PyTorch ไปบ้างแล้วแต่ยังติดปัญหาอยู่หลายจุด ซึ่งจะโฟกัสเรื่องนี้ในไตรมาส 4 ของปีนี้

ที่มา - ZLUDA via Phoronix

mk Mon, 06/10/2025 - 10:38

Continue reading...