KAMEをオープンモデルで動かしてMT-Benchでベンチマーク評価した

音声対話モデル「KAME」をオープンモデルで動作させ、MT-Benchでベンチマーク評価したインターンシップ報告。低遅延と高精度を両立するKAMEのアーキテクチャと、LLMの差し替え可能性について触れている。

• 音声対話モデル「KAME」をオープンモデルで動作させるために、LLMとSTTを抽象化するアダプターパターンを導入した。
• これにより、OpenAI APIやGoogle Cloud Speech-to-Textに依存せず、vLLM等を利用して任意のモデルをバックエンドに接続可能になった。
• MT-Benchを用いて、Qwen3-ASR-1.7B (STT)とgemma-4-31B-it (LLM)の組み合わせでベンチマーク評価を実施した。
• バックエンドLLMにツールコールを渡すことで、STSモデルがリアルタイム情報を扱えるかどうかの実験も試行された。