プロビジョンド・スループットはOpen Model Inferenceの経済性と予測可能性を再定義する

Together AIは、企業向けに予約された推論容量、トークンベースの価格設定、99%のSLA、最大90%のコスト削減を提供するProvisioned Throughputを発表しました。これにより、本番環境におけるAIの課題に対処します。

• Together AIが企業向け推論容量予約サービス「Provisioned Throughput」を発表した。
• トークンベースの価格設定と99%のSLAを提供する。
• 最大90%のコスト削減を実現し、AIの経済性と予測可能性を高める。
• 本番環境におけるAI運用の課題解決を目指す。