Tag
#⭐7791
1件
LLM推論初出 8/1 18:29
[GitHub] FareedKhan-dev/kimi-k3-in-c
2.78兆パラメータのKimi K3モデルを、GPUなしでC99言語でCPU上で実行するための実装です。8.24GBのRAMで推論が可能で、BLASやフレームワーク、GPUに依存しないポータブルなコードで実現されています。
https://api.github.com/search/repositories
Tag
1件
2.78兆パラメータのKimi K3モデルを、GPUなしでC99言語でCPU上で実行するための実装です。8.24GBのRAMで推論が可能で、BLASやフレームワーク、GPUに依存しないポータブルなコードで実現されています。