GenAIはすべてに流暢だが、何も忠実ではない

大規模言語モデル（LLM）は、真実を知らず、知っているかのように振る舞う能力に長けている。この「流暢さ」と「忠実さ」の混同が、現在の混乱の主な原因である。LLMは事実を学習するのではなく、言語パターンを学習するため、ハルシネーション（幻覚）を起こし、世界観を持たない。真実は外部からの入力によって与えられる必要がある。