Reddit r/LocalLLaMA短讯
Qwen 3.8 Flash Next-GSQ-RCO-IQ2_XS 在 RTX 3060 12GB + 16GB DDR4 RAM 上实现 ~21 tok/s(无门控剪枝,100% 位精确)
reddit.com作者:/u/zyxciss评测模型AI评分:50/100
作者测试了 Qwen 3.8 Flash Next-GSQ-RCO-IQ2_XS 模型在 RTX 3060 12GB 显卡和 16GB DDR4 内存环境下的推理性能。冷缓存状态下速度约为 21 tok/s,热缓存可达 24+ tok/s。该测试未进行门控剪枝且保持 100% 位精确度,旨在验证 MoE 专家预测对 CPU/GPU 卸载加速的实际效果。