Category · 23ページ目
ツール/フレームワーク
40件
ICYM: llama.cpp b9455 --SM Tensor KV Cache Fixがマージされた
llama.cppライブラリに、KVキャッシュの量子化に関する修正(--sm Tensor KV Cache Fix)がマージされたという報告。マルチGPU環境でのLLM推論の安定性やパフォーマンス向上に寄与する重要なアップデート。
MCPとは?AIと外部ツールをつなぐ標準規格
LLMと外部データやツールとの連携を標準化するオープン規格「MCP(Model Context Protocol)」について解説。Anthropicが提唱したこの規格は、開発者ごとの実装の違いを解消し、AIアプリケーション開発の効率化と相互運用性を高めることを目指している。