LLM推論初出 5/19 07:06
Mistral AI、オープンソースLLM「Mixtral 8x22B」をリリース - ITmedia NEWS
Mixtral 10x22B2026/5/19
AI要約
仏Mistral AIが2024年4月10日、オープンソースの大規模言語モデル(LLM)の新版「Mixtral 8x22B」をリリースしました。このモデルは、Sparse Mixture-of-Experts (SMoE) アーキテクチャを採用し、1410億パラメータのうち推論ごとに390億パラメータのみを使用することで、高いコスト効率とパフォーマンスを実現しています。