2-bit量化
和「2-bit量化」有关的笔记,共 1 篇。
RTX 3080 + Tesla T10,36G 显存塞下 763B:DeepSeek-V4.1-Flash 2-bit 双卡实测,鹈鹕骑单车对比官方
家用双卡 36G 跑 2.00bpw 的 DeepSeek-V4.1-Flash:魔塔拉 132GB、闲置 300 秒自动卸载、32K 撞顶升 64K、补 sm_75 重编双卡提速到 10.73 tok/s;Harness 自主 15 轮写 SVG 动画,和官方版并排对比,附两份 HTML 下载。