Claudeと「AI解体学」してみた 〜セキュリティ製品編〜

「AI解体学」と称し、AIの回答や振る舞いを観察して設計思想を推測する遊びを紹介。セキュリティ製品のAIアシスタントを対象に、外部からの挙動のみで内部構造を推測し、Claudeに批判的に検討させる実験を行った。

• AI解体学はAIの回答や振る舞いを観察し、設計思想を推し量る遊びである。
• セキュリティ製品のAIアシスタントは、LLMを入口と出口に置き、中央はナレッジベース等で制限する構造と推測された。
• Claudeは「合理的だからそう作られている」という逆推論や、「〇〇っぽい言い回し」はモデル識別子として弱すぎると指摘した。
• ベンダー公開情報との比較で、多層構造やLLMの出力を直接見せないバッファは当たっていた。
• 中央はタスク特化モデルで、基盤モデルは固定ではなくワークフロー毎に差し替え可能という点が外れていた。