← 返回信息流

Reddit r/LocalLLaMA短讯

Qwen Flash Next 在 RTX 5090 上 Strata 与 Infernix 推理引擎对比测试

reddit.com作者:/u/zipzak评测AI评分:50/100

作者在同一台配备 RTX 5090、192GB RAM 的 Windows 机器上,对 Strata 和 Infernix 两款推理引擎进行了 A/B 测试。使用 Qwen3.8-Flash 模型,在 262k 和 512k 上下文长度下对比性能,结果显示 Strata 达到 137 tok/s,Infernix 预填充速度达 3,497 tok/s,且两者在 Windows 上的部署均较为顺利。

阅读原文