想像力豊かなエージェントを訓練する
何が起きたか
エージェントが行動結果を予測する能力を強化する「Agima」フレームワークが提案されました。これにより、エージェントは不可逆な行動や稀なフィードバック環境下でも賢明な意思決定が可能になります。
なぜ重要か
この研究は、Sokobanのような複雑なパズルタスクにおいて、エージェントの自律的な問題解決能力を大きく向上させます。
出典
arxiv.org [報道]
NVIDIA、今後 5 年間で英国のエージェント型AIの安全性とセキュリティ研究の推進に 2 億 5,000 万ドル相当の支援を表明
何が起きたか
NVIDIAは、今後5年間で英国のエージェント型AIの安全性とセキュリティ研究に対し、2億5,000万ドル相当の支援を行うと発表しました。この投資はAI研究の発展と安全なAIの実現を目指します。
なぜ重要か
この巨額投資は、エージェント型AIの発展と並行して、その安全性とセキュリティ確保が喫緊の課題であることを示しています。
出典
NVIDIA Blogs [一次情報]
アメリカ国土安全保障省が連邦文民機関に対しDeepSeekの技術を排除するよう命令
何が起きたか
アメリカ国土安全保障省(DHS)は、連邦政府の文民機関に対し、中国のAI企業DeepSeekの製品・サービスの調達禁止を命令しました。国家安全保障上の懸念が理由とみられます。
なぜ重要か
この命令は、国家レベルでAI技術のサプライチェーンとセキュリティリスクが政治・経済に大きな影響を与えることを明確にします。
出典
gigazine.net [報道]
Safety Mid-Training: LLMの安全性を基盤的機能として内製化する
何が起きたか
LLMの安全性アライメントを「訓練中の安全性（Safety Mid-Training）」として、基盤能力の一つに内面化するアプローチが提案されました。これにより、安全性と汎用能力のトレードオフ解消を目指します。
なぜ重要か
このアプローチは、より堅牢で安全なLLMを開発するため、モデル設計の初期段階から倫理と安全性を考慮する重要性を示唆します。
出典
arxiv.org [報道]
データセンターからデスクトップまでオープンに：NVIDIA、最高水準の効率を誇る Super VL と Bolt モデルを追加し、Nemotron ファミリーを拡充
何が起きたか
NVIDIAは、1200億パラメータのオープンモデル「Nemotron 3.5 Super VL」を発表し、既存のNemotronファミリーを拡充しました。これは、特化型エージェント向けに最速のタスク完了と高精度を実現します。
なぜ重要か
このモデルは、データセンターからエッジデバイスまで幅広い環境で、高性能なオープンモデルを活用できる機会を開発者に提供します。
出典
NVIDIA Blogs [一次情報]
急上昇トレンド
エージェント型AIの自律性向上と安全性確保が、技術開発における主要な焦点となりつつあります。同時に、AI技術は国家間の安全保障と経済政策に深く組み込まれ、地政学的な影響を増しています。
エンジニアへの実践的インサイト
- エージェント開発では予測能力と安全性確保を初期設計から重視し、実世界での堅牢性を高めましょう。
- LLMの安全性は事後対策でなく、モデルの訓練プロセスに組み込むことで本質的な強化を目指しましょう。
- オープンソースモデルの採用時には、その出自や供給元の地政学的背景もリスク評価に含めるべきです。
この朝刊はAIが要約しています。誤りを含むことがあるので、重要な判断の前には元記事をご確認ください。 選び方と約束は このサービスについて に書いています。