UP主: 封面: 简介:我在进行DeepSeek-R1的不同蒸馏量化版本,以及包含671b参数的Q4量化版本和1.58,2.22bit动态量化版本的本地部署的尝试,完全使用CPU而非GPU来进行不同参数数量的模型的本地...