news เตรียมสู้ NVIDIA ทีม MLX ของแอปเปิลเพิ่มฟีเจอร์ใช้แรมข้ามเครื่อง เปิดทางสร้างคลัสเตอร์เครื่องแมคประสิทธิภาพสูง

[News News is verified member.]

เตรียมสู้ NVIDIA ทีม MLX ของแอปเปิลเพิ่มฟีเจอร์ใช้แรมข้ามเครื่อง เปิดทางสร้างคลัสเตอร์เครื่องแมคประสิทธิภาพสูง
Body

แอปเปิลปล่อยไลบรารี MLX เวอร์ชั่น 0.30.1 แม้จะเป็นเวอร์ชั่นเล็กๆ แต่ก็มีการปรับปรุงสำคัญคือการรองรับ RDMA over Thunderbolt ที่เปิดทางให้คลัสเตอร์เครื่องแมคสามารถแชร์หน่วยความจำข้ามเครื่องกันอย่างมีประสิทธิภาพ

เดิม MLX นั้นรองรับการแชร์แรม RDMA อยู่แล้ว แต่ใช้ ring backend ที่เป็น TCP ทำให้กินเวลาส่งข้อมูลระดับ 300 microsecond รอบนี้ทีมงานแอปเปิลเพิ่มการรองรับ JACCL ที่ทำให้ระยะเวลาเข้าถึงข้อมูลเหลือระดับ 10 microsecond เท่านั้น

ประสิทธิภาพเชื่อมต่อข้อมูลข้ามเครื่องเป็นเงื่อนไขสำคัญในการรองรับโมเดลขนาดใหญ่มากๆ เพราะโมเดลเหล่านี้มักไม่สามารถโหลดขึ้นแรมในเครื่องเดียวได้ทันที แต่หากการเชื่อมต่อช้าลงก็จะทำให้การรันโมเดลทำได้ช้ามากๆ จุดขายสำคัญของ NVIDIA คือระบบเชื่อมต่อข้ามชิปและข้ามเครื่อง NVLink ที่มีประสิทธิภาพสูงมาก

เครื่องที่จะใช้ฟีเจอร์นี้ได้ต้องเป็นเครื่องที่มี Thunderbolt 5 เช่น M3 Ultra, M4 Pro, M4 Max และต้องติดตั้ง Mac OS 26.2 ขึ้นไปเท่านั้น

ที่มา - GitHub: mlx

lew Mon, 22/12/2025 - 10:44

Continue reading...