https://minamism.com/ja/tags/quantization/Recent content in Quantization on minamismHugoja-JPFri, 11 Sep 2026 01:00:00 +0900https://minamism.com/ja/posts/vllm-int5-7-quantization/Fri, 11 Sep 2026 01:00:00 +0900https://minamism.com/ja/posts/vllm-int5-7-quantization/vLLM は INT5/6/7 の重みをネイティブに実行できる。この強さと、 embed_tokens / lm_head を 量子化してもロスが少ない結果を解説する。