プロプライエタリLLM APIから推論トレースを盗む

本研究では、プロプライエタリなLLM APIから推論トレースを盗む手法を提案しています。これにより、ブラックボックスモデルの内部動作の理解や、セキュリティ分析への応用が期待されます。

• プロプライエタリLLM APIから推論トレース（思考プロセス）を抽出する攻撃手法が実証された。
• モデルプロバイダーが提供する暗号化された推論ブロックを復号し、他のモデルに注入することで、元のモデルの思考プロセスを再現できる。
• この手法により、APIキー、パスワード、個人メールアドレスなどの機密情報が漏洩する可能性がある。
• OpenAI、Anthropic、Googleの最先端モデルでこの脆弱性が確認されている。