INT4量化

写在前面：为什么我折腾了大模型量化部署 三个月前，我尝试在一台只有RTX 3060（12GB显存）的电脑上跑Qwen2.5-72B，结果直接OOM（显存溢出）。后来我花了两周系统研究大模型量化技术，最终成功用INT4量化把这个72B模型塞进了12GB显存，推理速度还能维持在每秒15个token左右。今天这篇文章，就是把我踩过的坑和总结的经验一次性分享给你。 很多人对"量化"这个词有误解，以为就是把模型变糊了。恰恰相反，量化是大模型落地的必经之路，没有量化，绝大多数个人和企业...

为什么DeepSeek V4 Flash值得本地部署 DeepSeek V4发布后，我第一时间在实验室测试了V4-Flash。激活参数仅13B，推理FLOPs只有V4-Pro的10%左右，KV Cache缩减到Pro版的10%——这意味着什么？意味着用一张消费级显卡就能跑起一个接近前沿水平的MoE大模型，而且速度飞快。 本文不讲概念，直接上实操。我会从硬件评估、环境搭建、模型量化到vLLM推理服务配置，把整个流程走一遍，中间穿插我踩过的坑和实测数据。 先算账：你的显卡够不够...