LiteRT-LMによる超高速オンデバイスGenAI

LiteRT-LMは、Gemma 4モデルをモバイルおよびエッジ環境で高速に実行するためのインフラストラクチャを提供する。オンデバイスでのマルチモーダルおよびエージェント機能を活用し、メモリ効率の高い動的ロード、マルチトークン予測（最大2.2倍の速度向上）、思考モードや制約付きデコーディングなどの高度なオーケストレーションツールを利用する。Android以外への統合も拡大している。