Reddit r/MachineLearning论文
ALHR：一种基于树结构的稀疏注意力系统，实现亚二次方推理并保留精度
reddit.com作者：/u/Alarming-Emotion-894论文AI评分：70/100
提出自适应可学习分层路由（ALHR）机制，利用静态二叉树和可学习函数最小化键读取量。在1024 token测试中，相比密集模型，ALHR将平均键读取量从512降至30，KV压缩比达35.3倍，峰值显存占用显著降低，同时Top-1准确率保持在92.1%（密集模型为94.9%）。