いまさら理解する Transformer の概要（数式は使いません）

Transformerの概要を数式を使わずに解説。社内輪読会での学びを基に、大規模言語モデル（LLM）の基礎となるTransformerの仕組みを、読者が理解しやすいように説明しています。

• Transformerは、2017年にGoogleが発表したニューラルネットワークアーキテクチャであり、ChatGPTなどのLLMの基盤技術です。
• Transformerは「エンコーダ」と「デコーダ」から構成され、それぞれが共通の構造を持つ「ブロック」を層状に積み重ねています。
• Transformerブロックの主要部品は、単語を数値列に変換する「埋め込みベクトル変換」、単語間の注目度を計算する「アテンションブロック」など5つです。
• 数式を用いずに、埋め込みベクトル変換、アテンションブロック、レイヤー正規化、フィードフォワード層、スキップ接続の役割を説明しています。