Anthropic CEO、AIにブレーキをかける時が来た

AnthropicのCEOは、AI開発を段階的に進めるべきだと主張しています。安全性確保のため、第三者評価機関にモデルへのアクセスを許可する計画を提案しています。この計画は、AI開発のペースを管理することを目指しています。

• Anthropic CEOはAI開発のペースを遅らせるべきだと主張している。
• 「フロンティアをペースする」という3段階の計画を提案した。
• 第一段階として、第三者評価機関にモデルへのアクセスを許可する。
• 第二段階では、AI企業間で共通の安全基準を設けることを目指す。
• AIの能力向上が制御不能になるリスクを懸念している。