ツール/フレームワーク重要度 ★9
TurboBias 2.0:効率的なASRシステムのためのストリーミングコンテキストバイアス
TurboBias 2.0: Streaming Context-Biasing for Production-Efficient ASR Systems
https://export.arxiv.org/api/query·2026/8/21
AI要約
プロダクション効率の良いASRシステム向けストリーミングコンテキストバイアス手法「TurboBias 2.0」を提案。低レイテンシ、バッチデコード、ユーザー固有コンテキストリスト、低ランタイムオーバーヘッドに対応。
AI要点
- TurboBias 2.0は、低遅延が求められる本番環境のASRシステム向けに、効率的なフレーズブースティングを行うフレームワークである。
- GPUアクセラレーションされたTurboBiasを拡張し、大文字・小文字を区別しないブースティンググラフと、ストリームごとのバッチデコーディングを導入した。
- これにより、複数のユーザーからの独立したコンテキストリストを共有・混合することなく、パーソナライズされたコンテキストバイアスが可能になる。
- オフラインおよびストリーミング推論の両方に対応し、GreedyおよびBeam-searchデコーディングで使用できる。
- 実験の結果、TurboBias 2.0は、低遅延と高スループットを維持しながら、コンテキストフレーズ認識を改善することが示された。
なぜ重要か
本番環境のASRシステムにおいて、低遅延・高スループットという制約下で、ユーザーごとの文脈情報を効率的に活用し認識精度を向上させることで、より自然で高精度な音声認識サービスの提供を可能にする。