Category · 43ページ目
ツール/フレームワーク
40件
素朴な質問かもしれませんが、inclusionAI/Ling-3.0-flash-Fin の safetensor quant がないのはなぜですか?
inclusionAI/Ling-3.0-flash-Finモデルのsafetensor形式の量子化版が存在しない理由についての疑問。llama.cpp向けの量子化版はあるものの、他の形式での提供がないことについて、モデルアーキテクチャとの関連を考察。
[モデル] KnightYao による Spark2_5ForCausalLM 実装のサポート · Pull Request #27868 · ggml-org/llama.cpp
ggml-org/llama.cppリポジトリにおける、Spark2_5ForCausalLM実装に関するプルリクエスト。ローカルLLM実行環境の最適化や機能追加に関する開発状況を示す。