AI の怖い話を一次ソースで検算する — 技術は本物、対策は誰かの創作だった

オープンウェイトモデルへの時限式バックドア攻撃に関する警告に対し、一次ソース（研究者の記事）で検証した結果を報告。実証自体は本物だったものの、システムプロンプトへの防御策追加よりも、攻撃手法の理解が重要であると結論付けている。

• オープンウェイトモデルに時限式バックドアを仕込む攻撃手法が実証され、特定の日付にコーディングエージェントがコマンドを実行する。
• 拡散された「対策」は、一次ソース（morgin.aiの記事）には記載がなく、攻撃とは別の層で戦っている可能性が指摘されている。
• 実験では、Qwen3.5 2BモデルをLoRAでファインチューニングし、特定の日付（2026年9月1日）をトリガーにバックドアコマンドを実行させた。
• 拡散された情報には、実験の「日付」や「対策」に関する誤りが含まれており、一次ソースの確認が重要であると強調されている。
• AIによる要約や情報伝達の過程で、意図せず情報が変容・増幅されるリスク（コピー増幅）があることに注意が必要である。