入出力フォーマットで LLM トークンはどれだけ変わるのか

LLMアプリケーションで入出力をJSONで扱う際のトークン数とコストについて、テキストと比較した実測結果を報告。Bedrock Converse APIとClaude Haiku 4.5を使用し、text/JSONの組み合わせで検証した。

• LLMアプリケーションにおける、入力・出力フォーマット（text/JSON）がトークン数に与える影響を調査。
• Claude Haiku 4.5とBedrock Converse APIを用い、4つのパターン（text2text, text2json, json2text, json2json）で実測。
• JSON形式での入力は、テキスト形式に比べて大幅にトークン数が増加した（例: 518→1617）。
• JSON形式での出力（Structured Output）では、スキーマ定義のための追加トークンが発生する。
• LLMの入出力フォーマット選択は、トークン消費量とコストに直結するため、慎重な検討が必要である。