iPhoneで動作しBonsai 27Bと同等性能で13倍高速なAI「Maple-Preview」が登場、ローカルAIがまた1歩前進

iPhoneなどのモバイルデバイスで動作するAIモデル「Maple-Preview」が登場しました。このモデルは、Bonsai 27Bと比較して13倍高速な処理能力を持ち、ローカルAIの性能向上を示しています。DeepGrove社によって発表されたこの軽量かつ高性能なAIは、モバイル環境でのAI活用をさらに進める可能性を秘めています。

• iPhoneで動作するAIモデル「Maple-Preview」がDeepGroveから発表され、Bonsai 27Bと同等の性能で13倍高速とされている。
• Maple-Previewは、既存モデルの量子化ではなく、設計段階から3値（-1, 0, 1）で処理を行うことで小型・高性能を実現している。
• 国際数学オリンピックの問題を正確に解いたり、長大なコンテキスト（13万1000トークン）でも少ないメモリ（7.69GB）で処理できる能力を持つ。