iPhoneでローカル動作する画像生成AI「Bonsai Image 4B」が登場したので使ってみた、FLUX.2 Klein 4Bを1bit版に魔改造してメモリ使用量を8.3分の1に削減

iPhoneでローカル動作する画像生成AI「Bonsai Image 4B」が登場。省メモリ化技術により、スマートフォンでのAI実行を可能にした。LLMの軽量化とデバイス上での推論技術の進展を示す。