Lu.Xing 的个人博客，记录日常所思所想https://lustar-blog.com/zh-CNhttps://lustar-blog.com/posts/awq-reduces-quantization-error/https://lustar-blog.com/posts/awq-reduces-quantization-error/从量化误差的传播路径出发，推导 AWQ 为什么用激活值寻找显著权重、缩放为什么能降低误差，以及缩放系数为什么不能无限大。Thu, 20 Aug 2026 00:00:00 GMThttps://lustar-blog.com/posts/vllm-4gb-memory-gates/https://lustar-blog.com/posts/vllm-4gb-memory-gates/在 RTX 3050 Ti Laptop 4GB + WSL2 上用 vLLM 跑 Qwen2.5-VL-3B-AWQ，把启动期的显存失败拆成三道闸门，用 12 组扫描量出 non_kv、offload 上限与 batching 的真实收益。Fri, 14 Aug 2026 00:00:00 GMThttps://lustar-blog.com/posts/hello-world/https://lustar-blog.com/posts/hello-world/站点第一篇，说明这里会写些什么。Thu, 28 May 2026 00:00:00 GMT