minamismhttps://minamism.com/ja/Recent content on minamismHugoja-JPThu, 10 Sep 2026 06:00:00 +09003090x3で 314 万コンテキスト; KVキャッシュをホストRAMに置けるアーキテクチャの偉大さhttps://minamism.com/ja/posts/qsa-kv-offload/Thu, 10 Sep 2026 06:00:00 +0900https://minamism.com/ja/posts/qsa-kv-offload/Qwen Sparse Attention は、文脈がどれだけ長くても1ステップで読むトークン数が変わらない。このおかげで、KVキャッシュはホストRAMに置ける。同じGPU 3枚のまま上限が 23.4 万から 314 万トークンになった。私についてhttps://minamism.com/ja/about/Tue, 08 Sep 2026 12:00:00 +0900https://minamism.com/ja/about/<p>男性、Minachistというハンドルネームで生きている人間です。</p> <p>LLM / DiTモデルを動かすのが趣味で、そのためのサーバーを持っています。</p>