← 返回信息流

Reddit r/LocalLLaMA短讯

为什么 Ornith 1.5 35B A3B 带 MTP 这么慢？原因在此

2 小时前reddit.com作者：/u/Max-_-Power模型开源AI评分：50/100

HuggingFace 帖子作者发现 Ornith-1.5-35B-A3B 模型目前附带的 MTP 头从未经过训练，只是随机初始化，这解释了其速度缓慢的原因。