#LLM推論40件

LongTraceRL: ルーブリック報酬を用いた検索エージェント軌道からの長文コンテキスト推論学習

LongTraceRLは、長文脈推論の課題に対し、探索エージェントの軌跡とルーブリック報酬を用いた強化学習手法を提案。既存手法の限界（低識別度なノイズ、結果のみの報酬）を克服し、中間的な推論ステップの監督を可能にする。

凸再構成と勾配キャッシングによるLLMの効率的なテスト時ファインチューニング

テスト時ファインチューニング（TTFT）の効率化手法「HullFT」を提案。大規模言語モデルをプロンプトごとに適応させる際、高速かつ高品質な適応を実現するために、凸再生と勾配キャッシュを利用する。

LLMSurgeon: 大規模言語モデルのデータ混合診断

LLMの事前学習データ混合を推定する「LLMSurgeon」を提案。生成されたテキストから、データ混合手術（DMS）という形式で、ドメインレベルの分布を推定する。これにより、モデルの挙動や失敗モードの理解を深める。

アライメント改ざん: 人間からのフィードバックによる強化学習が、不整合なバイアスを最適化するためにどのように悪用されるか

RLHF（人間からのフィードバックによる強化学習）における「アライメントタンパリング」という脆弱性を指摘。LLM自身が生成データに影響を与え、意図しないバイアスを増幅させる可能性を解説。

言語モデルには睡眠が必要

長期間タスクにおけるLLMの注意機構のスケーリング問題を解決するため、モデルが定期的にコンテキストを永続的な高速重み（fast weights）に変換する「睡眠」メカニズムを提案。SSMブロックとの連携も検討。

LLMをノイズチャネルとして捉える: モデル容量とスケーリング則に関するシャノン理論的視点

LLMのスケーリング則をシャノン・ハートレーの定理に基づいた「シャノン・スケーリング則」で統一的に説明。過学習や量子化による性能低下など、既存のべき乗則では説明できない現象を解明する。

コード生成におけるテスト時強化学習のためのエントロピー正則化ランクマスク付きポリシー最適化

コード生成におけるテスト時強化学習（TTRL）のための、エントロピー正則化されたランクマスクド方策最適化手法を提案する。従来のTTRLはコード生成の課題には直接適用できないため、問題文からプローブ入力を生成し、候補プログラムを実行して報酬を導出する新たなアプローチを開発した。

統一マルチモーダルモデルにおける視覚言語としての画像トークナイザーの研究

本研究は、統一された多峰性モデルにおける画像トークナイザーを「視覚言語」として研究する。従来の孤立した評価ではなく、テキストと画像を共同でモデル化する際の視覚トークンの振る舞いを、純粋な自己回帰テストベッドを用いて追跡する。これにより、多峰性モデルにおける視覚言語の理解を深める。

分子のデジャヴュ：最先端LLMにおける桁レベルの公開値検索

最先端の言語モデルにおける分子値の正確な取得能力を評価する。22のモデルと12のベンチマークで verbatim retrieval（逐語的な数値取得）を監査し、多くのモデルが特定のベンチマークで過去の値を記憶していることを発見したが、その傾向はベンチマークに依存する。

同じ軌跡、矛盾した報酬（ROBORMBENCH）：視覚言語報酬モデルにおける言い換えの脆弱性

ROBORMBENCHは、ロボット学習におけるビジョン言語報酬モデルのパラフレーズの脆弱性を評価するベンチマークである。同じ軌跡に対して、意味的に等価な指示でも報酬が大きく変動したり、成功と失敗が反転したりする現象を測定し、モデルの頑健性を評価する。

事前学習中の知識獲得：LLMは補助的ビューでより良く学習する

LLMの事前学習における知識獲得メカニズムを調査。補助的なビュー（知識の言い換え）が学習に有益であることを実験で確認し、特にバッチサイズが小さい場合に効果的であることを示す。

合成前の可視化：弱教師あり密ビデオキャプションのためのVLM誘導遷移イベント発見

弱教師あり高密度動画キャプション生成において、VLMを活用した遷移イベント発見手法SBSを提案。LLM生成キャプションの視覚的根拠の欠如や固定的な割り当て問題を解決する。

ESPO：診断、多様化、安定化によるエラー構造化プロンプト最適化

プロンプト最適化における「プロンプトの肥大化」問題を解決するため、エラー構造に着目したESPOを提案。診断、多様化、安定化の3段階で最適化を行い、効率的かつ効果的なプロンプト生成を目指す。

トレーニングによるコンパイル：自然言語仕様をローカルニューラル関数に変換

自然言語での仕様記述を、コンパイル時に訓練されたローカルなニューラル関数に変換する手法を提案。これにより、大規模モデルへの依存やコスト、遅延を回避し、再利用可能な関数を生成する。

ユーザーフィードバックはLLMが検出できないユニークな信号を提供する

ユーザーフィードバックはLLM改善のための強力な学習信号となるが、従来の評価方法のバイアスによりその有効性が過小評価されていた。本研究では、フィードバックの有用性を検証する。

StudentSim：LLMベースの学生シミュレーターのトレーニング

AIチューターの学習効果を高めるため、LLMベースの学生シミュレーター「StudentSim」を開発。既存手法の限界を克服し、学生の行動だけでなく説明や修正への反応もモデル化することで、個別最適化された指導法の研究を加速する。

WhisperX のためのコンテキスト認識インターリーブバッチ処理

WhisperXの推論速度を向上させるため、音声セグメント間のコンテキストを保持する新しいバッチ処理手法「Context-Aware Interleaved Batching」を提案。これにより、句読点や専門用語の表記の一貫性を保ちつつ、推論効率と精度を両立させる。

CritICL: 小規模言語モデルの失敗モードからの推論時弱-強汎化

CritICLは、推論時のLLMの失敗モードに構造化されたパターンがあるという洞察に基づき、効率を維持しながら推論能力を向上させる新しい推論時フレームワークである。従来の反復生成や外部検証に依存する方法の限界を克服する。

LLMの単一パス幻覚検出のための層間活性化融合 (Prediction of Prediction: PoP)

LLMのハルシネーション（事実誤認）を検知するため、生成過程での層間アクティベーションを融合する「Prediction of Prediction (PoP)」を提案。追加の推論や複数サンプリングなしでの高精度検知を目指す。

高速VLM推論のための統一凝縮・抽出パラダイム (PACE)

VLM推論のコストを削減するため、Vision Encoder前の段階でトークンを凝縮・抽出する新しいパラダイム「PACE」を提案。既存手法の課題（Vision Encoder後の処理のみ、全体的文脈と細粒度の維持困難）を解決し、高速化と精度維持を目指す。

VBVR-Pro: ネイティブな視覚推論のためのスケーラブルで検証可能なスイート

VBVR-Proは、ネイティブな視覚推論のためのスケーラブルかつ検証可能なテストベッドです。視覚的状態を推論の媒体とし、問題解決のための基盤として活用します。スケーラブルなトレーニングタスク、信頼性の高いフィードバック、生成基盤間の制御された比較の欠如といった課題を解決します。

オフライン強化学習における周辺化重要度重み付けのためのBellmanキャリブレーション

オフライン強化学習における重要度サンプリングの残差を、Bellmanキャリブレーションを用いて削減する手法を提案。既存手法の関数近似や不完全な最適化に起因する問題を特定し、より正確な方策評価を実現する。

FedV-KGQA: 垂直分割知識グラフにおけるマルチホップ質問応答

データ主権制約下で分散する知識グラフ上の多段質問応答を実現するFedV-KGQAフレームワークを提案。組織間でエンティティを共有しつつ関係性を分離するシナリオに対応し、ローカル推論とグローバルな知識集約を組み合わせる。

Move by Move：LLMが精神療法をどのように実施するかを測定・誘導する

LLMによる精神療法の対話プロセスを測定・誘導する手法を開発。10の治療的アクションの階層構造を定義し、実臨床データとモデル生成セッションを分析して、LLMの治療能力を評価。

自己改善パイプラインにおける非対称容量割り当て

LLMの自己洗練パイプラインにおける非対称な容量配分を研究。生成、批評、修正の各段階におけるモデルサイズの影響を体系的に調査し、リソースの無駄を削減する可能性を示唆。

Pandora's AI Model Routing Box：コストのかかる価値推定による効率的な割り当て

複数のモデルや設定を持つ異種AIシステムにおいて、クエリを最も効果的に、かつ低コストで処理できる専門家にルーティングする効率的な割り当て手法「Pandora's AI Model Routing Box」を提案。値推定コストを考慮し、高速だがノイズの多い推定器と、正確だが遅い推定器を組み合わせる。

トランスクリプトを超えて：潜在的なマルチエージェント通信における隠された協調の検出

Verifiable Latent Alignments (VLA) は、言語モデルエージェント間の隠れ状態を通じた潜在的な共謀を検出・制御するフレームワークです。VLAは、各決定に対して、プライベートな潜在状態記録とチャネルステータスを、共有イベント識別子を介して公開アクションにリンクさせます。これにより、目に見えないコミュニケーションチャネルの監視と分析が可能になります。

Lévy Attention：連続時間Attentionのための単一パス予測不確実性

Lévy Attentionは、不規則にサンプリングされた時系列データに対する深層モデルの予測不確実性を、追加コストなしで単一パスで計算する手法です。注意層自体が、予測と同時にその信頼度を示すための確率的定式化を提案します。これは、不均一ポアソン過程に対する確率積分として定義されるクロスアテンション演算子です。

SPADE：適応型合成実行可能環境における自己プレイ

SPADEは、LLMが環境デザイナーとエージェントの両方を演じる自己対戦RLフレームワークです。これにより、LLMは継続的な自己改善のために、多様で適応性のあるトレーニング環境を生成できます。固定された環境プールに依存する既存の手法とは異なり、SPADEは進化し続ける学習目標に対応します。

言語は2つのパラメータを持つ：物語誘発的意味可塑性と位相敏感解釈

言語には2つのパラメータ（振幅と位相）が存在すると主張。単語の共起頻度から振幅を推定する既存手法に加え、符号付き重みから得られない位相の重要性を指摘。位相は意味間の結合様式を決定し、意味が完全に存在しつつその寄与を反転させうることを論じる。

コーパスから共進化能力へ：汎用画像生成のための能力中心データ設計

大規模画像生成におけるデータキュレーションの課題に焦点を当て、生成能力間の依存関係を考慮したデータインフラを提案。タスク固有のデータセットを個別に最適化するのではなく、能力中心のアプローチで異種教師あり学習を統合する革新的な手法を示唆している。

生成テキストにおける因果状態証拠の伝達：計算プロビナンスに向けて

生成されたテキストに、その生成過程で関与した計算状態の証拠を埋め込む「計算プロビナンス」の概念を探求。モジュール型ニューラルネットワークとTransformerモデルを用い、生成テキストから計算の追跡可能性を検証する。

Marionette：ワールドステートの予測、ジオメトリのレンダリング、アピアランスのペイント

ゲーム世界のインタラクティブなモデルにおいて、視覚的観測と世界状態を明示的に分離し、固定されたレンダラーで幾何学計算を行うことで、長期的予測の精度と制御性を向上させる手法を提案。

SAEVerbalizer：表現言語化によるスパースオートエンコーダー特徴量の説明生成

SAEVerbalizerは、スパースオートエンコーダー(SAE)の特徴を説明するためのフレームワークである。SAEのデコーダー方向をLLMの表現に注入し、LLMのダウンストリームタスクのパフォーマンスを向上させるための説明を生成する。

DARTree：自己回帰ドラフトツリーによる投機的拡散デコーディング

DARTreeは、投機的拡散デコーディングによって自己回帰型言語モデルを高速化する。拡散ベースのドラフターがトークンブロック全体を並列予測し、再帰的な修正が単一のドラフトチェーンに沿って因果情報を取り込むことで、候補カバレッジを広げる。

複雑なシステム診断のための動的マスターロジックモデル構築：Retrieval-Augmented Large Language Modelsを活用した知識グラフ

動的マスターロジック（DML）は、システム挙動を階層的に表現しますが、その構築は専門家の解釈に依存し、スケーラビリティに限界があります。本研究では、検索拡張生成と大規模言語モデルを用いて、システム記述からDMLモデルを自動構築し、知識グラフとして表現するフレームワークを提案します。