Bonsai 27B：iPhone上で3.9GBの270億パラメータ

PrismMLのBonsai 27Bモデルは、270億のパラメータを3.9GBに圧縮しiPhone上で動作可能ですが、ツール呼び出し精度が低下するトレードオフがあることを解説しています。

• Bonsai 27Bは、iPhone上で動作可能な270億パラメータを持つ大規模言語モデルである。
• モデルサイズは3.9GBに圧縮されており、モバイルデバイスでの利用が想定されている。
• このモデルは、iPhoneのような限られたリソースのデバイスでも高度なAI機能を提供できる可能性を示す。