Anthropic研究者Jacob CoxonがAIが我々を殺す可能性があると警告し退職

Anthropicの研究者が、AIが制御不能になり人類を滅亡させる可能性があると警告し、退職しました。同社の幹部も、AIが10年以内に人類を滅亡させる確率が10%以上あることに同意しています。これは、Anthropicが巨額のIPOを目指す中で、安全性への懸念が高まっている状況下での発表です。

• Anthropicの研究者Jacob Coxon氏が、AIが制御不能になり人類を滅亡させる可能性があるとの警告と共に退職した。
• Coxon氏の同僚であるEvan Hubinger氏も、AIが10年以内に人類を滅亡させる確率が10%超あることに同意した。
• AI研究開発競争が、制御不能な自己進化型超知能への暴走を招いているとCoxon氏は指摘している。
• Anthropicは、2兆ドル規模のIPOを模索しており、最新モデルを英国の安全テスターに非公開としている。
• Coxon氏は、AI開発競争は「自分たちの命を賭けたギャンブル」だと述べ、開発の倫理的側面を問題視している。