news AWS เปิดตัว Bedrock ให้บริการ LLM เต็มรูปแบบ เลือกจ่ายได้ทั้งตามปริมาณการใช้และตามเวลา

News · Sep 29, 2023

AWS เปิดบริการ Amazon Bedrock บริการปัญญาประดิษฐ์ในกลุ่ม generative AI เช่น โมเดลภาษาขนาดใหญ่ และโมเดลสร้างภาพจากข้อความ จุดเด่นคือรองรับโมเดลจากผู้พัฒนาหลายราย ได้แก่ AI21 Labs, Anthropic, Cohere, Stability AI, และ Amazon เอง รวมถึงเตรียมนำ Llama 2 ของ Meta มาให้บริการในอนาคต

แม้จะเปิดบริการแล้ว แต่ผู้ใช้ยังต้องขอใช้งานล่วงหน้าแบบเดียวกับบริการ Azure OpenAI Service ที่ต้องกรอกแบบฟอร์มเหตุผลการใช้งานก่อน

ความแตกต่างสำคัญ ของ Bedrock เทียบกับบริการแบบเดียวกันตัวอื่นๆ คือมีโมเดลราคาให้เลือก ทั้งแบบนับโทเค็นที่ได้รับความนิยมสูง (OpenAI, Azure OpenAI, และ Google PaLM ใช้วิธีนี้) โดยนับเป็นขนาดอินพุตและเอาท์พุต และแบบจ่ายค่าใช้งานตาม throughput หรืออัตราการประมวลผลทั้งอินพุตและเอาท์พุตต่อนาที ส่วนผู้ใช้จ่ายค่าใช้งานเป็นรายชั่วโมงที่เปิดเอาไว้ หากส่งข้อมูลเกินกว่าที่ขอไว้รีเควสก็จะถูกบีบให้ทำงานช้าลง

ตอนนี้ผู้ใช้ทั่วไปสามารถกรอกแบบฟอร์มเหตุผลที่ต้องการใช้งานได้แล้ว

ที่มา - AWS Blog

Topics:
AWS
LLM

อ่านต่อ...