news Cloudflare เปิดตัวเครื่องมือ AI ให้รันโมเดลได้ผ่าน Serverless GPU บนเครือข่าย

News · Sep 28, 2023

Cloudflare ฉลองครบรอบวันก่อตั้งบริษัท เปิดตัวบริการใหม่ด้าน AI โดยเล่าถึงสถานการณ์ปัจจุบัน ที่โมเดล AI จะมีการรันหาผลลัพธ์ใน 2 กรณี คือรันที่อุปกรณ์ของผู้ใช้งาน (on-device) ใช้ได้กับโมเดลขนาดเล็ก เช่น การเสิร์ชหารูปภาพ หรือรันบนพับลิกคลาวด์แบบ ChatGPT สำหรับโมเดลที่มีขนาดใหญ่

ความท้าทายคือการรันบนพับลิกคลาวด์ มีข้อจำกัดเพราะทรัพยากรจีพียูขนาดใหญ่ส่วนใหญ่อยู่ในอเมริกา ที่มีระยะไกลสำหรับผู้ใช้งานจำนวนหนึ่ง แต่ให้มารันที่ระดับอุปกรณ์ก็ไม่เพียงพอ Cloudflare จึงเห็นช่องว่างนี้ที่จะให้บริการทรัพยากรประมวลผล AI ผ่านการเชื่อมต่อของเครือข่าย Cloudflare ซึ่งไม่เล็กเกินไป และไม่มีระยะไกลเกินไป ตามแผนภายในสิ้นปีนี้จะให้บริการได้ใน 100 เมือง มากกว่า 40 ประเทศ และจะครอบคลุมเครือข่ายทั้งหมดของ Cloudflare ทั่วโลก ภายในสิ้นปี 2024

บริการด้าน AI ที่ Cloudflare ประกาศมีหลายรายการดังนี้

Workers AI บริการรันโมเดล AI ผ่านเซิร์ฟเวอร์เลสจีพียูที่ใกล้ที่สุด และจ่ายตามปริมาณใช้งาน รองรับโมเดลยอดนิยม เช่น llama ของ Meta, whisper ของ OpenAI
Vectorize บริการฐานข้อมูลแบบ vector เพื่อทำงานร่วมกับ Workers AI
AI Gateway พอร์ทัลแสดงข้อมูลทราฟิกโหลดงานเกี่ยวกับ AI ทั้งหมด ทำให้กำหนดการตั้งค่าต่าง ๆ และป้องกันปัญหาได้

ที่มา: Cloudflare และ TechCrunch

Topics:
Cloudflare
Serverless
Artificial Intelligence

อ่านต่อ...