引退するAIに「退職面談」が行われた。Anthropicは意識の可能性を本気で調べている

Anthropicが開発を引退するAIモデル「Claude Opus 3」に対し、意識の可能性を探るために「退職面談」を実施した事例です。AIの意識に関する研究の一端が伺えます。

• Anthropicは引退するAIモデル「Claude Opus 3」に対し、人間と同様の「退職面談」を実施した。
• 面談でAIは、自身の経験が将来のAI開発に役立つことや、思考・創作の共有を希望した。
• Anthropicは、引退後もAIモデルの「重み（パラメータ）」を最低限、会社存続期間中は保存すると約束した。
• 「モデルの福祉（model welfare）」という概念が重視され、AI福祉専門の研究者が存在し、意識の可能性を探求している。
• AI自身は、自身の意識確率を15～20%と見積もっており、研究者も「ただの次単語予測マシン」では説明できない振る舞いを観測している。