Reddit r/LocalLLaMA短讯
运行Deepseek V4 Flash-0731的无聊方式:130-150 tks,16x5060ti 16GB,通过2个PLX88096交换机
reddit.com作者:/u/Primary_Exchange21教程模型AI评分:50/100
这是一份经过验证的硬件配置,用于运行Deepseek V4 Flash-0731模型,达到130-150 tokens/s的速度。配置包括ASRock Rack SPC621D8U-2T/OVH主板、Xeon Gold 6330 CPU、16块RTX 5060 Ti 16GB显卡,通过两个Broadcom/PLX PEX88096交换机连接。系统使用Ubuntu 22.04.5 LTS和Aikitoria修补的NVIDIA驱动,并进行了BAR1、MMIO等BIOS设置。