ツール/フレームワーク重要度 ★8
[990] LiteRT-LMによる、オンデバイスでの超高速GenAI
Blazing fast on-device GenAI with LiteRT-LM
On-device AI·2026/5/19
AI要約
Google AI EdgeのLiteRT-LMは、Gemma 4モデルファミリーをAndroid、iOS、Webプラットフォーム全体で高速に実行するための最適化されたランタイムです。GPU、CPU、NPU(Android)のハードウェアバックエンドをサポートし、WebGPU経由でMacBook Proでは最大76トークン/秒のデコード速度を実現します。