准确性还不够:一种基于散度的方法来评估量化 LLM 中的保真度损失
HuggingFace Daily Papers · · 发布于 2026-09-11 · 1 分钟阅读
arXiv:2609.07664v2 公告类型:交叉 摘要:在内存受限的边缘设备上部署大型语言模型 (LLM) 在很大程度上依赖于积极的训练后量化。然而,评估这些模型很大程度上是基于零样本任务的准确性,这取决于 sol
要点 1
arXiv:2609.07664v2 公告类型:交叉 摘要:在内存受限的边缘设备上部署大型语言模型 (LLM) 在很大程度上依赖于积极的训练后量化。
要点 2
然而,评估这些模型很大程度上是基于零样本任务的准确性,这取决于 sol
SOURCES
共 1 个来源