FATS：一种利用虚假安全代理进行欺骗性少量学习的提示注入攻击
HuggingFace Daily Papers · · 发布于 2026-09-11 · 1 分钟阅读
arXiv:2410.08776v3 公告类型：替换交叉 摘要：尽管大型语言模型（LLMs）具备先进能力，但仍面临重大安全风险。尽管像人类反馈强化学习（RLHF）这样的技术可以改善伦理对齐，但过度暴露于安全
要点 1
arXiv:2410.08776v3 公告类型：替换交叉 摘要：尽管大型语言模型（LLMs）具备先进能力，但仍面临重大安全风险。
要点 2
尽管像人类反馈强化学习（RLHF）这样的技术可以改善伦理对齐，但过度暴露于安全
SOURCES
共 1 个来源