オープンウェイトへの安全な道

オープンウェイトモデルの安全な公開に関する論文。オープンモデルは多くの開発者や安全研究者にAI開発を委ね、トレーニング選択の透明性を高める公共財となる。しかし、悪用のリスクも伴い、公開は不可逆的である。安全な公開のためには、モデル自体の堅牢な安全テストと、危険な能力を分離する研究が必要となる。モデルとそれが置かれるエコシステムの両方を考慮した安全な公開方法を提案する。

• オープンウェイトAIモデルは、開発と安全性の検証を多くの手に委ねるパブリックグッドとなりうる。
• しかし、オープンモデルは悪用のリスクも伴い、一度公開されると取り返しがつかない。
• 安全なリリースには、モデル自体の安全性テストと、AIが置かれるエコシステムの準備が必要である。
• 段階的なリリースや防御者への支援、研究者との協力を通じて、オープン化を安全に進めるアプローチが提案されている。