[モデル公開] openai-community/gpt2

openai-community/gpt2は、OpenAIによって開発されたGPT-2モデルのコミュニティ版です。text-generationタスクに広く利用されており、Hugging Faceで1500万以上のダウンロード数を誇ります。強力なテキスト生成能力を持ち、研究やアプリケーション開発の基盤として長年利用されてきた実績があります。その人気は依然として高く、多くの派生モデルも存在します。

• GPT-2は、英語の大規模コーパスで事前学習された生成モデルです。
• Causal Language Modeling (CLM) により、次に来る単語を予測する能力を学習しています。
• 入力シーケンスから次のトークンを予測するタスクで学習し、自己回帰的な生成が可能です。
• 124Mパラメータを持つ、GPT-2ファミリーの最小バージョンです。
• プロンプトからのテキスト生成に優れており、下流タスクへのファインチューニングも可能です。