AIが「だけ」を「только」と書いた — 一つの誤字から学ぶLLMの仕組み

AIが日本語の「だけ」をロシア語の「только」に誤変換した事例を基に、LLMの仕組みと多言語対応における課題を考察する。

• 日本語の文中で「だけ」がロシア語の「только」に置き換わるというLLMの誤字現象が報告されています。
• LLMは単語を意味のベクトルで扱い、多言語学習により意味空間が共有されるため、「only/限定」の意味は保たれました。
• LLMは次の単語を確率的に選択しますが、top-kやtop-pサンプリングにより、低確率の候補は通常除外されます。
• 意味は保たれたものの、表層言語の決定に関わる信号が不安定になり、文脈に合うロシア語の「только」の確率がわずかに上がった可能性が示唆されています。