オープンソース化されたRISC-V AIチップET-SoC-1が、llama.cppで動く

オープンソース化されたRISC-V AIチップET-SoC-1がllama.cppで動作することが判明。かつて話題になったAIチップが推論ランタイムのターゲットとして復活した経緯と、その意義について解説する。

• オープンソース化されたRISC-V AIチップET-SoC-1が、llama.cppで動作するようになった。
• ET-SoC-1は、1088個のRISC-Vコア(ET-Minion)を搭載した推論アクセラレータである。
• Esperanto Technologiesの知財と資産がAinekkoにより取得され、RTLや開発ツールと共にオープンソース化された。
• llama.cppのggml-etバックエンドにより、ET-SoC-1上でGemma-4-E2Bなどの小型モデルが動作可能になった。
• システムエミュレーションモードが提供され、実機カードなしでもバックエンドのビルドと挙動確認が可能である。