无需语言预训练的文本到图像生成建模
现代文本到图像（T2I）系统使用互联网规模的语言预训练进行文本条件图像生成。我们提出疑问，语言预训练是否对强大的T2I生成是必要的。我们介绍了Halcyon，这是一个经过预训练的早期融合多模态自回归模型家族。
NEWSFI · PERSONAL RESEARCH
值得你关注的变化
Agent 已从 414 条新增内容中筛出 30 条有效信号OpenVLHarness：具备多模态记忆的现实世界视觉代理工具使用
多模态大型语言模型（MLLMs）在视觉推理方面取得了快速进展，然而许多任务需要通过内部推理难以获得的证据：我们在22个基准上的控制研究显示，仅仅增加基础模型的推理预算
它真的能工作吗？合成功能性CAD机制
虽然大型语言模型代理可以生成视觉上合理的CAD装配，但这些设计往往无法实现其预期的物理功能。我们研究功能性CAD设计，这是一种代理解释不明确请求以构建并迭代修改机制的情境，以满足
具有可视化属性的策略自蒸馏的强化学习
具有可验证奖励的多模态强化学习（RLVR）提供了可靠的任务级监督，但在定位视觉推理中的错误方面提供的指导有限。策略内自蒸馏（OPSD）通过密集的令牌级纠正来补充这一监督
CoopUQ：通过不确定性感知的协作预测实现稳健的多机器人社交导航
强化学习使移动机器人能够在受限的人类共享环境中做出快速且可扩展的导航决策。然而，直接将单机器人方法扩展到多机器人环境通常无法确保安全性和效率，尤其是在存在遮挡的情况下
物理RSI能力来自哪里？一种关于将大型语言模型作为策略的观察性标度规律
在本文中，我们系统地研究了物理递归自我改进的机制、规模行为和泛化能力。我们引入了 PhysRSI-eval，通过五个维度的指标来量化物理递归自我改进：首次尝试性能、效率、成功率、预算和改进。
WeAct：作为代理动作的动态权重切换
长远期代理必须从交织的轨迹中学习异质能力。更新共享参数以学习新能力可能会削弱先前获得的能力，导致灾难性遗忘。随着轨迹展开，不同阶段可能需要不同的
训练一个有想象力的代理
在推箱子中，一个看似合理的推动可能会使谜题无法解决。为了避免这样的错误，智能体必须在执行之前预见其行动的后果，尤其是当来自真实环境的反馈稀少或行动不可逆时。我们介绍了智能体
AnyGoal：超越专家演练的世界模型推广
世界模型的目标是捕捉环境的动态。这具有很大的吸引力，因为它允许智能体在世界模型的帮助下规划和模拟一系列动作。然而，为了让这些用途可靠，学习到的动态必须在超出训练数据的情况下表现良好。
LatComm：用于大型语言模型之间潜在通信的可重复使用上下文压缩
结合多个大型语言模型（LLM）的系统通常对许多问题使用一个上下文。当上下文作为文本在模型之间传递时，接收模型会对每个问题再次处理其所有的标记。要避免这种成本，就需要一种上下文表示
超越下层强凸性的双层优化牛顿法
双层优化为机器学习任务提供了一个框架，例如超参数优化、数据重加权和元学习。现有的基于牛顿方法的双层方法通常依赖于经典的超梯度公式，而当下层问题不可用时，该公式通常不可用。
相同的模拟，不同的证据：检索到的工具输出何时会影响大型语言模型代理的准确性
能够计算出正确答案的LLM代理仍然可能回答错误。代理程序系统越来越多地将长工具输出保存在上下文窗口之外，保存到文件中，供代理按需搜索或读取。我们在使用真实科学工具PHREEQC时，探讨这种做法会在哪里影响准确性。
长上下文线性注意力的克罗内克δ规则
我们提出了KronLSTM，这是一种基于克罗内克增量规则的线性注意力架构，该规则是一种用于关联矩阵记忆的新型更新规则。KronLSTM通过一种记忆修正机制扩展了xLSTM系列，该机制在仅沿着修改记忆的同时纠正目标关联。
使用量子哈密顿嵌入的监督学习
机器学习被广泛认为是量子计算可能提供计算优势的一个有前途的应用。然而，具有可证明的性能、可训练性和高效推理保证的一般量子机器学习模型仍然有限。在这方面
混合架构中的竞争学习
许多现代语言模型采用了混合架构，结合了线性时间循环和 softmax 注意力。现代循环层提供了一种高度表达的混合机制，同时通过将上下文信息压缩到固定长度来确保高吞吐量
ProteinGeoBench：前沿结构生物学代理在查找方面流利，但在几何方面迷失
前沿代理能够很好地获取结构元数据，但从坐标计算几何的可靠性较低。我们探讨了基准得分中有多少反映了这种差距，以及有多少反映了模型周围的评估配置。我们研究了 ProteinGeoBench，这是一个包含 131 个蛋白质结构的套件。
野外的代理世界模型：计算机使用代理环境合成
智能体学习正在从从人类数据中学习转向通过与世界互动学习。然而，直接在现实世界的计算机系统中扩展这种学习具有挑战性，并可能引入大量的安全风险。因此，我们提出了智能体世界模型
KEEP-Bench：评估上下文压缩中的证据保留
上下文压缩提高了长上下文的效率，但可能通过信息瓶颈引入忠实性问题。现有的评估依赖于问答指标，但读者仍然可以从不忠实的压缩中正确回答问题，因此这些指标低估了这种损失。
RefCraft：通过网页开发对视觉参考条件下的自主生成进行基准测试
除了基本的工具使用和编码技能之外，将视觉参考有效地融入代理生成对于将 AI 代理应用于现实世界的生产任务同样至关重要。我们通过网页开发这一实际且易于评估的方式来研究这一关键能力。
MemT-1.0：走向本地记忆演化
记忆原生演化要求将记忆作为基础模型的内在能力，使其能够持续积累和使用信息。为此，我们引入了 MemT-1.0，一种将记忆内化为模块一部分的新型记忆基础模型架构。
SpecMRL：在参数化谱内重新设计套娃表示学习
套娃式表示学习（Matryoshka Representation Learning, MRL）旨在通过联合优化嵌套的前缀来支持灵活的表示大小。虽然这种设计有效，但缺乏明确的约束来确保前导部分提供适当的紧凑编码。为了解决这个问题，
AfriBED：一个针对资源稀缺非洲语言的语音识别偏差评估数据集
尽管自动语音识别系统（ASR）取得了进展，但当前系统仍表现出说话人属性偏差，即它们的语音识别性能会因为说话人的人口属性（如性别、口音和说话人类型）而对某些说话人存在偏差。然而
ASTOR：使用形式文法对软约束优化的自动公式化进行基准测试与改进
现实世界的决策问题结合了两种性质不同的约束：必须满足的要求，称为硬约束，以及可以被违反的偏好，称为软约束。因为这些问题通常以自然形式呈现给决策者
下一最佳行动：面向业务行动目标的因果约束离线强化学习
下一最佳行动（NBA）系统必须在客户干预（例如折扣、促销和生命周期措施）中进行选择，最大化长期经济价值，满足复杂的运营约束，并保持因果基础。现有的方法缺乏严格的框架来
训练中期的安全性：将大语言模型安全性内化为基础能力
大型语言模型（LLM）的安全对齐主要在训练后进行，而近期的研究也开始在预训练中引入安全数据。然而，当后续训练不再包含安全数据时，安全性可能会下降，并且安全性的提升往往只是一部分
用于脑编码的参数高效微调的扩展
大脑编码模型旨在预测神经对刺激的反应。最广泛使用的方法是从冻结的预训练主干中拟合输出。使用神经数据从零训练大型模型或在任务预训练后对其进行完全微调已被证明非常困难，因为神经
视频化呈现：用于多镜头视频生成的细粒度三维控制
最近在文本到视频生成方面的进展使高保真单镜头合成成为可能，然而实际的故事创作需要具有强烈镜头间一致性和精细可控性的多镜头视频。现有的多镜头视频生成方法
学习引用：去中心化联邦学习中的推理时协作
在去中心化的联邦学习中，异构客户端可能会发展出互补的专长，但每个查询通常仅在其到达的客户端进行评估。为了在没有全局协调的情况下利用这种分布式专长，我们提出了推理时的协作方案
教师监督、固定表示与校准：候选评分决策模型的精确风险计算
候选评分决策模型返回给定答案集合的概率分布。其中一个系统Jev及其开源对应系统JevAny的公开文档描述了三个训练要素，这些要素决定了这些概率所估计的内容：软目标
两个隐藏层就足够：毛毛虫网
每个连续分段线性（CPWL）函数都是仿射函数最大值的有限带符号和，这使得最大值表示成为研究 ReLU 网络表达能力的一个核心问题。一个已被证伪的猜想预测了最大值的对数深度。受此启发
继续滚动加载更多