ツール/フレームワーク初出 9/4 18:15
独自のCUDAカーネルを備えたRust/C++推論エンジンPaddockをオープンソース化 (MIT/Apache-2.0)
We open-sourced Paddock, our Rust/C++ inference engine with its own CUDA kernels (MIT/Apache-2.0)
https://www.reddit.com/r/LocalLLaMA/.rss2026/9/4
AI要約
Rust/C++で書かれた推論エンジンPaddockがMIT/Apache-2.0ライセンスでオープンソース化されました。独自のCUDAカーネルを持ち、OpenAI/Anthropic互換API、GGUF/safetensors形式に対応しています。
AI要点
- Rust/C++で開発された推論エンジン「Paddock」がオープンソース(MIT/Apache-2.0ライセンス)で公開されました。
- Paddockは独自のCUDAカーネルを搭載しており、高い推論パフォーマンスが期待されます。
- OpenAIやAnthropic互換のAPIに対応し、GGUF/safetensors形式のモデルもサポートしています。
なぜ重要か
Paddockは、高性能な推論エンジンをオープンソースで提供することで、多言語・多形式対応のAIモデルのローカル実行やカスタマイズを容易にし、AI技術の民主化と応用の幅を広げる可能性を秘めています。