Transformer Block(理論編)

Transformerモデルの基礎となるTransformer Blockの理論について解説する。残差接続、層正規化、順伝播ネットワークを用いたEncoder BlockとDecoder Blockの構築方法を説明する。

• Transformerモデルの基本構成要素であるTransformer Blockの理論を解説している。
• Encoder BlockとDecoder Blockの構造と機能の違いについて説明。
• 残差接続（Residual Connection）により、勾配消失を防ぎ学習を安定化させる。
• 層正規化（Layer Normalization）が各層の出力を正規化し、学習効率を高める。
• 順伝播ネットワーク（Feed-Forward Network）が各位置での表現を変換する。