ข่าว SCB10X เปิดให้บริการโมเดล Typhoon บน Together.ai ยังไม่ประกาศราคาแต่คิดตามการใช้งานจริง

[News]

SCB10X ร่วมมือกับ Together.ai ผู้ให้บริการ LLM รายสำคัญ เปิดให้บริการโมเดล Typhoon สองรุ่น คือ Typhoon 1.5 8B Instruct และ Typhoon 1.5X 70B-awq (Activation-Aware Weight Quantization - การย่อโมเดลแบบคำนึงถึงความสำคัญของแต่ละพารามิเตอร์)

ตอนนี้ทั้งสองโมเดลใช้งานได้ในหน้า Playground ของ Togeter.ai แล้ว แต่ยังไม่ประกาศราคาที่แน่ชัดออกมา โดยทาง SCB10X ระบุว่าต้องสอบถามทาง Together.ai โดยตรง แต่ยืนยันว่าจะคิดค่าใช้งานเป็นโทเค็น

การเปิดให้บริการ LLM ผ่านคลาวด์แบบคิดค่าใช้งานเป็นโทเค็นสำคัญสำหรับการทดลองความสามารถโมเดล หรือเชื่อมต่อไว้ใช้งานเป็นตัวเลือกเพราะผู้ใช้ไม่ต้องเสียค่าโฮสต์โมเดลตามเวลาซึ่งมักมีราคาแพงและอาจจะไม่คุ้มค่าหากปริมาณการใช้งานไม่มากพอ

Typhoon 1.5X 70B นั้นพัฒนาจาอมาจาก Llama 3 70B ตัวโมเดลเดิมมีให้ดาวน์โหลดบน HuggingFace และใช้สัญญาอนุญาตแบบ Llama 3 Community License

ที่มา - SCB10X

Topics:
SCB10X
LLM

Continue reading...

 

ข่าว  อยากเริ่มต้นใหม่กับ IG เดิม, Instagram เปิดให้รีเซตอัลกอริทึมแนะนำเนื้อหา

ข่าว  ทรู คอร์ปอเรชั่น ร่วมกับ กสทช. ดีอี ปภ. จ.ภูเก็ต นำร่องทดสอบระบบเตือนภัยเสมือนจริง LIVE – Cell Broadcast Service ที่ภูเก็ต