LLM推論2本の記事が同じ件を報じた初出 6/27 03:30
PixelでGemini Nanoモデルを高速化、凍結Multi-Token Predictionを使用
Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction
https://research.google/blog/rss/2026/6/27
AI要約
GoogleがGemini NanoモデルをPixelデバイスで高速化するための研究。具体的には、凍結されたMulti-Token Prediction (MTP) を活用することで、オンデバイスでのLLM推論の効率を向上させている。これにより、Pixelデバイス上でのAI機能のパフォーマンス向上が期待できる。
AI要点
- GoogleはPixelデバイス上でGemini Nanoモデルの推論速度を向上させる新手法を開発した。
- この新手法は、既存の「凍結」されたモデルに「Multi-Token Prediction（MTP）」を適用する。
- これにより、追加の学習や「drafter」モデルなしで、オンデバイスAIの効率を大幅に改善する。
- Pixel 9/10シリーズに導入され、AI通知要約などの機能がより高速かつ低消費電力で動作するようになる。
なぜ重要か
モバイルデバイスでのAI推論速度向上は、ユーザー体験を大幅に改善し、プライバシーを保護したまま高度なAI機能を日常的に利用可能にする上で重要である。