FlutterGemmaでGemma 4 E4Bが動かない理由を、公式CLIとの比較で切り分けた話

FlutterGemmaでGemma 4 E4Bが動作しない問題の原因を、モデルではなくFlutter側の問題と特定したデバッグプロセスを解説。オフラインでのRAG＋LLM推論実現を目指した経験を共有。

• FlutterGemmaでGemma 4 E4Bモデルが動作しない問題の原因は、Flutter側のランタイムにあることが特定された。
• Gemma 4 E4Bモデル自体は、Google公式のLiteRT-LM CLIでは正常に動作することが確認された。
• SHA256によるモデルファイルの整合性確認、および公式CLIでの動作検証により、モデル破損やCLI側の問題は排除された。
• 最終的に、動作しなかったのはFlutterパッケージが対応していないモデルタイプであったことが判明し、標準版モデルに差し替えることで解決した。
• この事例は、AIモデルのデバッグにおいて、責任範囲を段階的に切り分けることの重要性を示している。