自己改善AIの本命は「重み」か「ハーネス」か ― 検証器の境界線から読む SIA

自己改善AI（SIA）の論文と実装について解説。モデル自体をタスクに最適化して精度を引き上げる仕組みを、検証器の境界線から論じている。acquisitionの理想形としつつ、タスク依存性も指摘。

• 自己改善AI（SIA）は、モデルの重みとハーネス（システムプロンプト等）を同時に更新し、AI自身が性能向上を目指す仕組みです。
• SIAはAIエージェントの「acquisition（能力獲得）」の理想形ですが、多くのタスクでは「elicitation（潜在能力の引き出し）」だけでも十分な成果が得られます。
• SIAは、メタエージェント、タスク特化エージェント、フィードバックエージェントの3つのLLMコンポーネントで構成され、個別の失敗診断が可能です。
• 実用上の鍵は「検証器（verifier）」の境界線にあり、クリーンな検証器を用意できる領域でSIAの追加効果が発揮され、そうでない高価値タスクでは効果が限定的です。