大音频语言模型 (Large Audio-Language Models, LALMs) 可以生成富有表现力的语音，但可靠的情感控制仍然难以实现：转换往往会偏离目标情感，并可能通过拒绝、幻觉或改写而降低语言保真度。据我们所知，这是对语音生成式 LALM 中情感控制的首个神经元级研究，我们证明了紧凑的情感敏感神经元 (Emotion-Sensitive Neurons, ESNs) 具有因果可操作性，能够在推理时实现无需训练的情感操控。ESNs 通过强制情感实现和内容保持的成功过滤激活聚合来识别。在三个 LALM (Qwen2.5-Omni-7B, MiniCPM-o 4.5, Kimi-Audio) 上的实验表明，ESN 干预产生了特定于情感的增益，这些增益可泛化到未见过的说话人，并得到自动和人工评估的支持。可控性取决于选择器设计、掩码稀疏度、过滤和干预强度。我们的结果为语音生成中的训练无关情感控制建立了一个机制框架。

多模态智能体的最新进展改善了计算机使用交互和工具使用，但大多数现有系统仍然是反应式的，孤立地优化动作，而不对未来状态或长期目标进行推理。这限制了规划的一致性，并阻止智能体可靠地解决高级、多步骤任务。我们介绍了 TraceR1，一个两阶段强化学习框架，通过在执之前预测短期轨迹来显式训练预期推理。第一阶段执行轨迹级强化学习，使用强制预测动作序列全局一致性的奖励。第二阶段应用基于执行的强化微调，使用来自冻结工具智能体的执行反馈来优化步骤级准确性和可执行性。TraceR1 在七个基准测试中进行了评估，涵盖在线计算机使用、离线计算机使用基准和多模态工具使用推理任务，在规划稳定性、执行鲁棒性和泛化能力方面相比反应式和单阶段基线取得了显著提升。这些结果表明，预期轨迹推理是构建能够在复杂现实环境中有效推理、规划和行动的多模态智能体的关键原则。

我们提出了 CodecMOS-Accent 数据集，这是一个平均意见得分 (Mean Opinion Score, MOS) 基准测试，旨在评估神经音频编解码 (Neural Audio Codec, NAC) 模型和基于大型语言模型 (LLM) 的文生语音 (Text-to-Speech, TTS) 模型，特别是在非标准语音（如带口音的语音）上的表现。该数据集包含来自 24 个系统的 4,000 个编解码器重合成和 TTS 样本，涵盖 32 位说话人的十种口音。我们进行了一次大规模主观测试，从 25 位听者那里收集了 19,600 条标注，涵盖三个维度：自然度、说话人相似度和口音相似度。该数据集不仅代表了最近语音合成系统性能的最新研究，还揭示了一些见解，包括说话人和口音相似度之间的紧密关系、客观指标的预测能力，以及当听者与说话人共享相同口音时的感知偏差。该数据集有望促进对 NAC 和带口音 TTS 的更人性化评估研究。

大音频语言模型 (Large Audio-Language Models, LALMs) 可以生成富有表现力的语音，但可靠的情感控制仍然难以实现：转换往往会偏离目标情感，并可能通过拒绝、幻觉或改写而降低语言保真度。据我们所知，这是对语音生成式 LALM 中情感控制的首个神经元级研究，我们证明了紧凑的情感敏感神经元 (Emotion-Sensitive Neurons, ESNs) 具有因果可操作性，能够在推理时实现无需训练的情感操控。ESNs 通过强制情感实现和内容保持的成功过滤激活聚合来识别。在三个 LALM (Qwen2.5-Omni-7B, MiniCPM-o 4.5, Kimi-Audio) 上的实验表明，ESN 干预产生了特定于情感的增益，这些增益可泛化到未见过的说话人，并得到自动和人工评估的支持。可控性取决于选择器设计、掩码稀疏度、过滤和干预强度。我们的结果为语音生成中的训练无关情感控制建立了一个机制框架。

我们提出了 CodecMOS-Accent 数据集，这是一个平均意见得分 (Mean Opinion Score, MOS) 基准测试，旨在评估神经音频编解码 (Neural Audio Codec, NAC) 模型和基于大型语言模型 (LLM) 的文生语音 (Text-to-Speech, TTS) 模型，特别是在非标准语音（如带口音的语音）上的表现。该数据集包含来自 24 个系统的 4,000 个编解码器重合成和 TTS 样本，涵盖 32 位说话人的十种口音。我们进行了一次大规模主观测试，从 25 位听者那里收集了 19,600 条标注，涵盖三个维度：自然度、说话人相似度和口音相似度。该数据集不仅代表了最近语音合成系统性能的最新研究，还揭示了一些见解，包括说话人和口音相似度之间的紧密关系、客观指标的预测能力，以及当听者与说话人共享相同口音时的感知偏差。该数据集有望促进对 NAC 和带口音 TTS 的更人性化评估研究。

现代大型语言模型 (LLMs) 在不同语言上继续表现出显著的行为差异，例如能够在某些语言中回忆事实信息而在其他语言中则不能。虽然这通常被研究为一个需要缓解的问题，但在本工作中，我们提出利用这种跨语言不一致性作为混合专家 (Mixture-of-Experts, MoE) 大型语言模型的可解释性工具。我们的知识定位框架对比了模型正确回忆信息的语言集合与失败回忆时的路由。这使我们能够隔离在回答特定知识时发挥功能作用的模型组件。我们的方法分两个阶段进行：(1) 用多样化的语言集合向模型查询困难的事实性问题，生成"成功"和"失败"激活桶，然后 (2) 对 MoE 路由器 logits 应用统计对比分析，以识别对知识重要的专家。为了验证这小部分专家对回答知识问题的必要性，我们停用它们并重新提问。我们发现，尽管只停用了约 20 个专家 (共 6000 个)，模型在超过 40% 的情况下不再正确回答。总的来说，该方法提供了一种现实且可扩展的知识定位方法，以应对日益复杂的大型语言模型。

超参数迁移已成为现代大规模训练方案的重要组成部分。现有方法（如 muP）主要关注模型大小之间的迁移，而跨批量大小和训练范围的迁移通常依赖于经验缩放规则，这些规则基于时间尺度保持、二次代理和连续时间近似等见解。我们通过最近基于线性最小化预言机 (Linear Minimization Oracle, LMO) 方法的收敛界视角，研究现代一阶优化器的超参数缩放定律，该框架包括归一化 SGD、signSGD（近似 Adam）和 Muon。将文献中的界作为代理并在不同调优方案中最小化它们，产生了学习率、动量和批量大小作为迭代或 token 预算函数的闭式幂律调度。我们的分析在固定模型大小的情况下，在统一且原则性的视角下恢复了文献中的大部分见解和观察结果，并为未来研究提供了明确的方向。我们的结果特别关注动量与批量大小缩放之间的交互，表明最佳性能可能通过多种缩放策略实现。

多模态智能体的最新进展改善了计算机使用交互和工具使用，但大多数现有系统仍然是反应式的，孤立地优化动作，而不对未来状态或长期目标进行推理。这限制了规划的一致性，并阻止智能体可靠地解决高级、多步骤任务。我们介绍了 TraceR1，一个两阶段强化学习框架，通过在执之前预测短期轨迹来显式训练预期推理。第一阶段执行轨迹级强化学习，使用强制预测动作序列全局一致性的奖励。第二阶段应用基于执行的强化微调，使用来自冻结工具智能体的执行反馈来优化步骤级准确性和可执行性。TraceR1 在七个基准测试中进行了评估，涵盖在线计算机使用、离线计算机使用基准和多模态工具使用推理任务，在规划稳定性、执行鲁棒性和泛化能力方面相比反应式和单阶段基线取得了显著提升。这些结果表明，预期轨迹推理是构建能够在复杂现实环境中有效推理、规划和行动的多模态智能体的关键原则。