LLM推論初出 5/28 00:39

最大580tps！TokenSpeedによるエージェンティックワークロード向けのGPU上でのQwen3.5-397B-A17Bの新速記録

Up to 580tps! New Speed Record of Qwen3.5-397B-A17B on GPU for Agentic Workloads with TokenSpeed

https://pytorch.org/feed/2026/5/28

AI要約

Qwen3.5-397B-A17BモデルをGPUで実行し、エージェントワークロードにおいて580tpsという新記録を達成したことを報告。この驚異的なパフォーマンスは、メモリコピーの体系的な排除によって実現されたと説明されている。