OpenAIの新推論技術、AI安全専門家を警鐘

OpenAIは、従来の逐次思考を超えた「再帰的深さ」という新しい推論技術をAstraモデルに導入します。これにより、AIの推論能力が拡張される可能性があり、AI研究者から注目されています。

• OpenAIの新モデルAstraは、「リカレントデプス」という推論技術を採用する。
• この技術は、従来の逐次的な思考プロセスとは異なる、より監視困難な処理を可能にする。
• AI安全専門家は、この技術がAIの行動監視を困難にし、安全性の低下につながる懸念を示している。
• OpenAIは、Astraでの利用は限定的であり、Chain of Thought (CoT) の監視システムは維持すると説明している。
• 一部専門家は、AI開発競争の中で安全性を犠牲にする「底辺への競争」を防ぐために法規制が必要だと主張している。