#👍258

NCP-ArchPreview技術レポート：次概念予測による潜在空間言語モデルへの移行

NCP-ArchPreviewは、標準的な次トークン予測を超えた潜在空間言語モデルを提案する。次概念予測（NCP）により、複数のトークンにまたがる離散概念を予測する。これにより、概念レベルの明示的かつ挑戦的な目的が導入され、標準的なトークンレベルの自己回帰生成が維持される。