暗号化されたAI API呼び出しから隠された推論ステップを復元、研究者らが発見

主要なAIモデルAPIから返される暗号化された推論ブロックが、復元される可能性があることが研究者によって報告されました。これはAIの内部動作の可視性を高める研究です。

• 研究者らが、暗号化されたAI APIから推論ステップを復元できることを発見した。
• OpenAI, Anthropic, GoogleのAPIで、返却される暗号化された推論ブロックの復元が可能だった。
• 公開されたエージェントログから30万件以上の推論ブロックを再構築し、プライバシー情報が漏洩するリスクがあることが判明した。
• 実験では、暗号化の破損やシステムへの不正アクセスは確認されておらず、限定的な実験結果である。