GPT-OSS-120B、Qwen 30B、Gemma 26BをAndroidフォンで1～5 tok/sで実行：+60GBモデル、11GB RAM、CPUのみ

GPT-OSS-120B、Qwen 30B、Gemma 26Bといった複数のLLMが、Androidスマートフォン上でCPUのみで1～5トークン/秒の速度で動作する事例です。モバイルデバイスでのLLM実行の可能性を示しています。

• GPT-OSS-120B、Qwen 30B、Gemma 26Bといった複数のLLMがAndroidフォンで動作した。
• CPUのみを使用し、1～5トークン/秒の実行速度を達成した。
• 60GBのモデルサイズと11GBのRAMというリソース制約下での実行事例が報告されている。