Reddit r/artificial新闻

英特尔PC分布式LLM推理研究内幕

3 小时前reddit.com作者：/u/techne98行业模型AI评分：50/100

英特尔研究人员分享了其在PC上实现分布式LLM推理的研究进展，旨在利用多台PC的算力协同运行大模型，提升端侧推理能力。该研究有望降低大模型对云端依赖，推动AI在个人设备上的应用。