ไลบรารี MLX ของแอปเปิลเริ่มรองรับ CUDA เปิดทางใช้งานกับชิป NVIDIA
Body
โครงการ MLX ของแอปเปิลเริ่ม merge ฟีเจอร์ CUDA backend ชุดใหญ่ หลังจาก Cheng Zhao ผู้สร้าง Electron ส่งแพตช์เข้าโครงการ เปิดทางให้แอปพลิเคชั่นจำนวนมากที่ใช้งาน MLX อยู่สามารถนำไปใช้งานแพลตฟอร์มอื่นๆ รวมถึงพีซีที่ใช้ชิป NVIDIA ได้ด้วย
MLX เป็นไลบรารีระดับสูง คล้ายกับ PyTorch แต่ MLX สร้างขึ้นมาโดยมุ่งรองรับชิป Apple Silicon เป็นหลัก โดยแอปพลิเคชั่นด้านปัญญาประดิษฐ์ต่างๆ ที่รองรับ Apple Silicon ก็มักใช้งานผ่านไลรารี MLX ตัวนี้
Apple Silicon มีความต่างจากชิปเร่งความเร็วอื่นๆ ที่ชิปทุกตัวใช้สถาปัตยกรรมแรมเป็น unified memory ทั้งหมด ทำให้สามารถประมวลผลได้โดยไม่ต้องสำเนาข้อมูลข้ามหน่วยความจำก่อนใช้งาน แต่หากใช้งานกับ CUDA และชิปที่ใช้งานไม่ได้เป็น unified memory ตัวไลบรารีก็จะสำเนาข้อมูลข้ามไปมาให้เองโดยอัตโนมัติ โดยชิปบางตัวของ NVIDIA เป็น unified memory เช่น Jetson หรือชิประดับสูงอย่าง Grace Hopper Superchip
ที่มา - GitHub: ML-Explore
lew Tue, 15/07/2025 - 07:55
Continue reading...
Body
โครงการ MLX ของแอปเปิลเริ่ม merge ฟีเจอร์ CUDA backend ชุดใหญ่ หลังจาก Cheng Zhao ผู้สร้าง Electron ส่งแพตช์เข้าโครงการ เปิดทางให้แอปพลิเคชั่นจำนวนมากที่ใช้งาน MLX อยู่สามารถนำไปใช้งานแพลตฟอร์มอื่นๆ รวมถึงพีซีที่ใช้ชิป NVIDIA ได้ด้วย
MLX เป็นไลบรารีระดับสูง คล้ายกับ PyTorch แต่ MLX สร้างขึ้นมาโดยมุ่งรองรับชิป Apple Silicon เป็นหลัก โดยแอปพลิเคชั่นด้านปัญญาประดิษฐ์ต่างๆ ที่รองรับ Apple Silicon ก็มักใช้งานผ่านไลรารี MLX ตัวนี้
Apple Silicon มีความต่างจากชิปเร่งความเร็วอื่นๆ ที่ชิปทุกตัวใช้สถาปัตยกรรมแรมเป็น unified memory ทั้งหมด ทำให้สามารถประมวลผลได้โดยไม่ต้องสำเนาข้อมูลข้ามหน่วยความจำก่อนใช้งาน แต่หากใช้งานกับ CUDA และชิปที่ใช้งานไม่ได้เป็น unified memory ตัวไลบรารีก็จะสำเนาข้อมูลข้ามไปมาให้เองโดยอัตโนมัติ โดยชิปบางตัวของ NVIDIA เป็น unified memory เช่น Jetson หรือชิประดับสูงอย่าง Grace Hopper Superchip
ที่มา - GitHub: ML-Explore
lew Tue, 15/07/2025 - 07:55
Continue reading...