LLM推論重要度 ★8
[514] LiteRT-LM による高速なオンデバイスGenAI
Blazing fast on-device GenAI with LiteRT-LM
On-device AI·2026/5/19
AI要約
Google AI EdgeのLiteRT-LMは、LiteRT(旧TensorFlow Lite)を活用してGemma 4を様々なプラットフォームに最適化し、オンデバイスでの推論体験を提供します。高度な量子化スキームとアクセラレーテッドカーネルをサポートし、CPU、GPU、NPUでの効率的な実行を実現します。