https://minamism.com/ja/tags/qwen/Recent content in Qwen on minamismHugoja-JPThu, 10 Sep 2026 06:00:00 +0900https://minamism.com/ja/posts/qsa-kv-offload/Thu, 10 Sep 2026 06:00:00 +0900https://minamism.com/ja/posts/qsa-kv-offload/Qwen Sparse Attention は、文脈がどれだけ長くても1ステップで読むトークン数が変わらない。このおかげで、KVキャッシュはホストRAMに置ける。同じGPU 3枚のまま上限が 23.4 万から 314 万トークンになった。