10GB显存跑图像模型,误差从9.4%降到4.26%魔搭开源码率可调的权重压缩方案

魔搭社区正式开源名为 EntroPack 的码率可调权重压缩方案,和传统固定 4bit、8bit 档位的量化不一样,这套方案支持自定义任意非整数码