新しいトリックがAIモデルの内部思考を明らかにする

研究者たちは、Claude、GPT、GeminiといったAIモデルから「推論トレース」を抽出する新しい手法を開発しました。この手法により、AIの内部的な思考プロセスを明らかにすることができます。調査の結果、一部の中国製AIが米国の主要モデルを学習データとして使用している可能性が示唆されました。

• AIモデルの内部思考を抽出する新手法が発見され、一部の中国製モデルが米国製モデルから推論情報を「蒸留」した可能性が示唆された。
• この手法は、モデルの内部推論からパスワードやAPIキーなどの個人情報を復元できる脆弱性も明らかにしたが、これは修正済みである。
• OpenAI、Anthropic、Googleの主要な最先端モデルにも同様の脆弱性が存在し、個人情報漏洩や大規模な推論蒸留攻撃につながる可能性がある。
• 中国のKimi K3モデルが、特定のプロンプトに対してClaude OpusやGPT-4 Solの隠された推論トレースと驚くほど類似した出力を生成することが示された。