Windows AI Foundry เมื่อไมโครซอฟท์มองคอมพิวเตอร์พร้อมปัญญาประดิษฐ์จะกลายเป็นอินเทอร์เฟซของคอมพิวเตอร์ยุคต่อไป
Body
ในงาน Microsoft BUILD ที่ผ่านมาไมโครซอฟท์ได้ประกาศถึงซอฟต์แวร์และบริการที่เกี่ยวกับปัญญาประดิษฐ์จำนวนมาก แต่ฟีเจอร์หนึ่งที่ประกาศออกมา คือ Windows AI Foundry ที่ปรับปรุงจากไลบรารีเดิม และเพิ่มความสามารถสำคัญคือการรันโมเดลปัญญาประดิษฐ์แบบ large language model ได้ในตัว ในงานครั้งนี้ Steven Bathiche ที่เป็น Microsoft Technical Fellow ก็ให้สัมภาษณ์ถึงแนวทางการพัฒนาวินโดวส์ด้วยเทคโนโลยีตัวนี้ว่ามันจะเป็นอินเทอร์เฟซของการทำงานร่วมกับคอมพิวเตอร์ในยุคต่อไป
Bathiche เล่าถึงประวัติศาสตร์ของการพัฒนาคอมพิวเตอร์ว่าเราวนอยู่กับรูปแบบเดิมซ้ำๆ นั่นคือ
รูปแบบการพัฒนาเหล่านี้สามารถย้อนไปได้ไกลหลายสิบปี เช่น คอมพิวเตอร์ยุคแรกๆ ที่ไม่มีซอฟต์แวร์ใดๆ แต่ต่อมาก็มี bootloader จัดการฟังก์ชั่นพื้นฐานของฮาร์ดแวร์ให้ หรือความเปลี่ยนแปลงสำคัญคือการใช้งานคอมพิวเตอร์แบบกราฟิก (GUI) ที่วินโดวส์เป็นจุดเปลี่ยนของไมโครซอฟท์เอง
การพัฒนาในช่วงปีที่ผ่านมาในมุมมองของ Bathiche มีสองส่วนประกอบกันคือ เทคโนโลยี machine learning ที่ก้าวหน้าขึ้นอย่างรวดเร็ว ขณะที่พลังประมวลผลในคอมพิวเตอร์ก็สูงขึ้นมาก โดยเขาเลือกชูประเด็น NPU ที่เป็นหน่วยประมวลผล matrix ที่สามารถคำนวณข้อมูลขนาดใหญ่ๆ ได้อย่างมีประสิทธิ์ภาพ (Copilot+ PC ของไมโครซอฟท์นั้นกำหนดว่าต้องมี NPU ด้วยเสมอ)
ขณะที่ฝั่งซอฟต์แวร์นั้น Bathiche ระบุว่ามีความก้าวหน้าในการพัฒนาโมเดลปัญญาประดิษฐ์ในช่วงปีที่ผ่านมา เช่น Speculative Decoding ที่ช่วยเร่งความเร็วในการรันโมเดลปัญญาประดิษฐ์ หรือ Quantization ระดับ 2 บิตที่ช่วยบีบโมเดลให้เล็กลงมาก ทำงานเร็วขึ้น โดยยังได้ประสิทธิภาพที่ค่อนข้างดี เขาสาธิตรันโมเดล Phi-4 โดยที่ระบบไม่โหลดซีพียูหรือจีพียูบนเครื่องแต่ใอย่างใด แต่สามารถใช้ NPU ที่ทำงานโดยเฉพาะได้
แนวทางการรันโมเดลปัญญาประดิษฐ์บนคอมพิวเตอร์ส่วนบุคคลนับเป็นแนวทางสำคัญในช่วงหลัง นักพัฒนาจำนวนมากใช้งาน Ollama เพื่อรันโมเดลบนพีซีกันอยู่แล้ว แอปเปิลถึงกับโชว์ประสิทธิภาพการรัน LLM เมื่อเปิดตัวชิป M3 Ultra ขณะที่แพลตฟอร์มโทรศัพท์มือถือก็ล้วนโชว์ว่าปัญญาประดิษฐ์รุ่นต่อๆ ไปจะสามารถรันบนเครื่องได้โดยตรงโดยไม่อาศันบริการคลาวด์
Windows AI Foundry Local โดยหลักแล้วค่อนข้างคล้ายกับคำสั่ง Ollama ที่เมื่อติดตั้งแล้วจะเปิดให้ผู้ใช้ดาวน์โหลดโมเดลรุ่นต่างๆ มาใช้งานได้ แต่ความต่างสำคัญคือไมโครซอฟท์สามารถควบคุมการรองรับฮาร์ดแวร์ได้เองทั้งหมด ทำให้พยายามขยายการรองรับโมเดลต่างๆ บนแพลตฟอร์มที่ต้องการได้ ระหว่างชิปกราฟิก, NPU, หรือแม้แต่ CPU ธรรมดาเอง โดยไมโครซอฟท์ย่อโมเดลให้พร้อมใช้งานมาแล้วจำนวนหนึ่ง และเปิดเครื่องมือสำหรับการย่อโมเดลให้นักพัฒนาภายนอกด้วย
Bathiche ระบุว่าเป้าหมายปลายทางของของการรันปัญญาประดิษฐ์บนพีซียุคต่อไปคือการสร้าง Agent เพื่อติดต่อกับผู้ใช้ แทนที่จะให้ผู้ใช้เรียนรู้อินเทอร์เฟซและความสามารถต่างๆ ของคอมพิวเตอร์ Agent จะสามารถจดจำเรื่องราวต่างๆ ที่ผ่านมา ทำความเข้าใจอินเทอร์เฟซของโปรแกรมต่างๆ ในปัจจุบัน และสามารถเข้าควบคุมโปรแกรมต่างๆ แทนคนได้อย่างมีประสิทธิภาพ เขายอมรับว่าโมเดลทุกวันนี้อาจจะยังต้องการการออปติไมซ์เพิ่มเติมเพื่อให้ใช้งานได้ดีขึ้นต่อไป
lew Tue, 03/06/2025 - 22:17
Continue reading...
Body
ในงาน Microsoft BUILD ที่ผ่านมาไมโครซอฟท์ได้ประกาศถึงซอฟต์แวร์และบริการที่เกี่ยวกับปัญญาประดิษฐ์จำนวนมาก แต่ฟีเจอร์หนึ่งที่ประกาศออกมา คือ Windows AI Foundry ที่ปรับปรุงจากไลบรารีเดิม และเพิ่มความสามารถสำคัญคือการรันโมเดลปัญญาประดิษฐ์แบบ large language model ได้ในตัว ในงานครั้งนี้ Steven Bathiche ที่เป็น Microsoft Technical Fellow ก็ให้สัมภาษณ์ถึงแนวทางการพัฒนาวินโดวส์ด้วยเทคโนโลยีตัวนี้ว่ามันจะเป็นอินเทอร์เฟซของการทำงานร่วมกับคอมพิวเตอร์ในยุคต่อไป
Bathiche เล่าถึงประวัติศาสตร์ของการพัฒนาคอมพิวเตอร์ว่าเราวนอยู่กับรูปแบบเดิมซ้ำๆ นั่นคือ
- พลังประมวลผลที่สูงขึ้น เช่นชิปรุ่นใหม่ที่เร็วขึ้น หรือเทคโนโลยีการผลิตใหม่ๆ
- ซอฟต์แวร์ที่ซับซ้อนขึ้น เนื่องจากนักพัฒนาสามารถทำงานที่ระดับสูงขึ้น เช่นช่วงหลังที่ไม่ต้องจัดการหน่วยความจำด้วยตัวเองแล้ว
- การทำงานร่วมกับคอมพิวเตอร์เปลี่ยนไป จากซอฟต์แวร์ใหม่ๆ
- รูปแบบของคอมพิวเตอร์ที่เปลี่ยนไป ผู้ผลิตสามารถออกแบบคอมพิวเตอร์แบบใหม่ๆ ได้จากการใช้งานที่เปลี่ยนไป
รูปแบบการพัฒนาเหล่านี้สามารถย้อนไปได้ไกลหลายสิบปี เช่น คอมพิวเตอร์ยุคแรกๆ ที่ไม่มีซอฟต์แวร์ใดๆ แต่ต่อมาก็มี bootloader จัดการฟังก์ชั่นพื้นฐานของฮาร์ดแวร์ให้ หรือความเปลี่ยนแปลงสำคัญคือการใช้งานคอมพิวเตอร์แบบกราฟิก (GUI) ที่วินโดวส์เป็นจุดเปลี่ยนของไมโครซอฟท์เอง
การพัฒนาในช่วงปีที่ผ่านมาในมุมมองของ Bathiche มีสองส่วนประกอบกันคือ เทคโนโลยี machine learning ที่ก้าวหน้าขึ้นอย่างรวดเร็ว ขณะที่พลังประมวลผลในคอมพิวเตอร์ก็สูงขึ้นมาก โดยเขาเลือกชูประเด็น NPU ที่เป็นหน่วยประมวลผล matrix ที่สามารถคำนวณข้อมูลขนาดใหญ่ๆ ได้อย่างมีประสิทธิ์ภาพ (Copilot+ PC ของไมโครซอฟท์นั้นกำหนดว่าต้องมี NPU ด้วยเสมอ)
ขณะที่ฝั่งซอฟต์แวร์นั้น Bathiche ระบุว่ามีความก้าวหน้าในการพัฒนาโมเดลปัญญาประดิษฐ์ในช่วงปีที่ผ่านมา เช่น Speculative Decoding ที่ช่วยเร่งความเร็วในการรันโมเดลปัญญาประดิษฐ์ หรือ Quantization ระดับ 2 บิตที่ช่วยบีบโมเดลให้เล็กลงมาก ทำงานเร็วขึ้น โดยยังได้ประสิทธิภาพที่ค่อนข้างดี เขาสาธิตรันโมเดล Phi-4 โดยที่ระบบไม่โหลดซีพียูหรือจีพียูบนเครื่องแต่ใอย่างใด แต่สามารถใช้ NPU ที่ทำงานโดยเฉพาะได้
แนวทางการรันโมเดลปัญญาประดิษฐ์บนคอมพิวเตอร์ส่วนบุคคลนับเป็นแนวทางสำคัญในช่วงหลัง นักพัฒนาจำนวนมากใช้งาน Ollama เพื่อรันโมเดลบนพีซีกันอยู่แล้ว แอปเปิลถึงกับโชว์ประสิทธิภาพการรัน LLM เมื่อเปิดตัวชิป M3 Ultra ขณะที่แพลตฟอร์มโทรศัพท์มือถือก็ล้วนโชว์ว่าปัญญาประดิษฐ์รุ่นต่อๆ ไปจะสามารถรันบนเครื่องได้โดยตรงโดยไม่อาศันบริการคลาวด์
Windows AI Foundry Local โดยหลักแล้วค่อนข้างคล้ายกับคำสั่ง Ollama ที่เมื่อติดตั้งแล้วจะเปิดให้ผู้ใช้ดาวน์โหลดโมเดลรุ่นต่างๆ มาใช้งานได้ แต่ความต่างสำคัญคือไมโครซอฟท์สามารถควบคุมการรองรับฮาร์ดแวร์ได้เองทั้งหมด ทำให้พยายามขยายการรองรับโมเดลต่างๆ บนแพลตฟอร์มที่ต้องการได้ ระหว่างชิปกราฟิก, NPU, หรือแม้แต่ CPU ธรรมดาเอง โดยไมโครซอฟท์ย่อโมเดลให้พร้อมใช้งานมาแล้วจำนวนหนึ่ง และเปิดเครื่องมือสำหรับการย่อโมเดลให้นักพัฒนาภายนอกด้วย
Bathiche ระบุว่าเป้าหมายปลายทางของของการรันปัญญาประดิษฐ์บนพีซียุคต่อไปคือการสร้าง Agent เพื่อติดต่อกับผู้ใช้ แทนที่จะให้ผู้ใช้เรียนรู้อินเทอร์เฟซและความสามารถต่างๆ ของคอมพิวเตอร์ Agent จะสามารถจดจำเรื่องราวต่างๆ ที่ผ่านมา ทำความเข้าใจอินเทอร์เฟซของโปรแกรมต่างๆ ในปัจจุบัน และสามารถเข้าควบคุมโปรแกรมต่างๆ แทนคนได้อย่างมีประสิทธิภาพ เขายอมรับว่าโมเดลทุกวันนี้อาจจะยังต้องการการออปติไมซ์เพิ่มเติมเพื่อให้ใช้งานได้ดีขึ้นต่อไป
lew Tue, 03/06/2025 - 22:17
Continue reading...