Osprey:与目标无关的预训练使推理解码方面的起草者变得更强
HuggingFace Daily Papers · · 发布于 2026-09-11 · 1 分钟阅读
arXiv:2609.09338v1 公告类型:新 摘要:推测性解码对于加速 LLM 推理至关重要。然而,加速是脆弱的:起草者通常接受针对单一目标模型的狭窄分布的培训,并且他们的接受率在工作中崩溃
要点 1
arXiv:2609.09338v1 公告类型:新 摘要:推测性解码对于加速 LLM 推理至关重要。
要点 2
然而,加速是脆弱的:起草者通常接受针对单一目标模型的狭窄分布的培训,并且他们的接受率在工作中崩溃
SOURCES
共 1 个来源