AI Paper Daily | 2026-07-25

今日概览

共收录 29 篇论文（去重跳过 1 篇近 7 天已报道论文） | AI Agents: 13 篇 | LLM Training: 11 篇 | Audio LLM: 2 篇 | 其他值得关注: 3 篇

来源: HuggingFace Papers（29） | arXiv 补充抓取（0，接口限流） | 去重跳过: 2607.14186（2026-07-22 已报道）

今天最突出的主题是"Agent 自我改进与调试闭环"：AREX 让 Agent 递归审计自己的答案、AgentDebugX 把调试变成检测—归因—恢复的闭环、PRO-LONG 用程序化记忆支撑长程推理、PATS 把技能脚手架化让弱策略也能完成难任务。训练侧的亮点是"发现问题比解决问题更重要"——Dark Room 揭示 GRPO 下密集预测奖励会系统性摧毁策略，Stale but Stable 用 staleness 自适应信任域稳定异步 RL，QuantiBias 发现量化模型在标准安全检查通过后仍会在开放式生成中放大偏见。基础设施方面，SLAI T-Rex 在昇腾 NPU 上全参数后训练 DeepSeek-V4 达到 34.22% MFU，ABot-World-0 在单卡 RTX 5090 上实时生成交互式 720P 世界。

重点推荐 ⭐

AREX：递归自改进研究 Agent，外循环逐条审计约束并定向追查未验证声明，4B 模型在 BrowseComp/HLE 等基准上大幅超越同规模基线，122B-A10B MoE 可竞争更多激活参数的模型。
SLAI T-Rex：在昇腾 NPU SuperPOD 上对 DeepSeek-V4 万亿参数 MoE 做全参数后训练，MFU 34.22%、较开源基线提升 2.93 倍，并在运筹优化任务上零样本 Pass@1 达 71.81%。
ABot-World-0：动作条件视频世界模型，单卡 RTX 5090 上 720P@16FPS 实时交互，引入 LongForcing 对齐长程自回归漂移，208 upvotes 为今日最高。
The Dark Room in the Reward Channel：揭示 GRPO 下密集预测奖励会驱使策略进入"暗室"退化态，根因是 std 归一化放大了 all-fail 组中的信号方差；移除 std 归一化即可从 0% 恢复到基线水平。
OmniReasoner：音视频长程推理框架，模型先看低分辨率全局预览，再自主决定是否调用 zoom-in 工具查看高保真片段，TimeAnchor 保证跨采样粒度的时间一致性。

🔊 Audio LLM

OmniReasoner: Thinking with Long Audio-Video via Native Tool Use

长音视频推理的难点在于关键证据稀疏且跨模态。OmniReasoner 让模型学会"先全局预览、再按需放大"——用工具调用替代均匀高保真输入。

作者: Yu Chen, Caorui Li, Ziyu Xiong, Yidong Wang, Mingqi Gao, Shuman Liu, Biao Liu, Chunfeng Yang, Anxiang Zeng, Haibo Zhang
来源: HuggingFace Papers（1 upvotes）
链接: arXiv | PDF | 代码
关键贡献: 提出 Thinking with Long Audio-Video 的工具调用后训练框架。模型先构建低成本全局预览，再通过 SFT+RL 学会判断是否、何时、在哪里调用 zoom-in 工具获取局部高保真视听片段。引入 TimeAnchor 机制保证工具时间参数在预览和放大两种采样粒度间往返一致。配套 Temporal Augmented Data Engine 通过视频编辑合成工具调用训练轨迹，避免人工标注。
实验结果: 在全模态和视频基准上同时提升答案准确率和时间定位能力，且高保真计算集中在信息密集区域。
精评: 思路清晰——把"看哪里"也变成模型可以学会的决策，而不是预设均匀高保真。TimeAnchor 解决了一个容易被忽略但关键的工程问题：不同采样率下时间参数的语义不一致。需要关注 zoom-in 工具的延迟成本在实际交互场景中的可接受性，以及全局预览的信息损失边界。
相关技术: long audio-video reasoning, tool-use post-training, zoom-in tool, TimeAnchor, temporal grounding
代码/权重: 已开源

📄 Abstract 中文翻译

长音视频推理对全模态 LLM 来说很困难，因为决定性证据往往稀疏、跨模态，且以均匀高保真输入来保存代价过高。我们提出 OmniReasoner，一个用于"长音视频思考"的工具调用后训练框架：全模态 LLM 通过监督微调和强化学习，学会在回答前决定是否、在哪里调用 zoom-in 工具。OmniReasoner 先构建全流的低成本全局预览，需要时再请求特定时间区间的高保真视听检查。由于模型在工具调用前后观察不同采样粒度——稀疏全局预览和密集局部片段——我们引入 TimeAnchor，使工具的时间参数在不同粒度间保持有效且往返一致。为避免昂贵的区间标注，我们构建 Temporal Augmented Data Engine，通过视频编辑和合成生成工具调用训练轨迹。实验表明 OmniReasoner 在全模态和视频基准上均提升了答案准确率和时间定位，同时将高保真计算集中在信息丰富的区域。

Pushing the Frontier of Full-Song Generation: Hierarchical Autoregressive Planning Meets Flow-Matching Rendering

全曲生成框架：用层次化自回归规划歌曲结构，再用 flow matching 渲染高保真音频，支持词到曲、纯器乐和翻唱三种模式。

作者: Junyu Dai, Xinyue Fan, Weiqin Li, Xiangang Li, Yunjia Li, Bin Ma, Yukun Ma, Chongjia Ni, Yufei Shi, Biao Tian
来源: HuggingFace Papers（0 upvotes）
链接: arXiv | PDF
关键贡献: 提出统一歌曲生成框架，包含语义感知 tokenizer（8-codebook RVQ）、hybird-LM（层次化自回归音频 token 建模）、FullDiT（连续 VAE 潜空间全曲 flow matching）和两级旋律模块（翻唱任务中保持原曲旋律）。后训练用 DPO、GRPO 和 OPD 优化 hybird-LM，用 flow-based GRPO 优化 FullDiT。
实验结果: 在多语言自动基准和 Artificial Analysis Music with Vocals 排行榜上取得竞争力表现。
精评: 把"规划结构"和"渲染音频"分层是合理的工程选择——自回归擅长长程结构规划但不擅长高保真生成，flow matching 擅长连续空间渲染但不擅长长程一致性。不足在于摘要缺少与当前最强音乐生成系统的定量对比和消融分析，也未讨论歌词对齐和节拍控制的鲁棒性。
相关技术: full-song generation, hierarchical autoregressive, flow matching, RVQ tokenizer, DPO/GRPO post-training, cover song
代码/权重: 未提及

📄 Abstract 中文翻译

本文提出一个统一的歌曲生成框架，能够从歌词、文本描述和音乐属性生成高质量全长音乐。该框架支持三种任务：词到曲生成、器乐生成和翻唱生成。架构由四个主要组件组成：语义感知 tokenizer 将音频编码为 8-codebook RVQ token；hybird-LM 基于这些 token 进行层次化自回归音频 token 建模；FullDiT 在连续 VAE 潜空间中做全曲 flow matching，以 codec token、歌词和文本描述为条件；翻唱任务的旋律模块从参考音频中提取并离散化旋律线索以指导生成。后训练阶段使用 DPO、GRPO 和 OPD 作为 hybird-LM 的奖励策略，并对 FullDiT 应用 flow-based GRPO 以提升音乐性和渲染质量。在多语言自动基准及 Artificial Analysis Music with Vocals 排行榜上均取得竞争力表现。

🧠 LLM Training

AREX: Towards a Recursively Self-Improving Agent for Deep Research

深度研究不是搜索更久，而是递归验证：AREX 在内循环收集证据构造临时答案，外循环逐条审计约束并启动定向追查。

作者: Shuqi Lu, Chaofan Li, Kun Luo, Zhang Zhang, Hui Wang, Hongwang Xiao, Zheng Liu, Lei Xiong, Jiahao Wang, Sen Wang
来源: HuggingFace Papers（116 upvotes，今日最高）
链接: arXiv | PDF
关键贡献: 提出 Recursively Self-Improving (RSI) 深度研究 Agent。核心洞察是发现-验证不对称性：发现答案昂贵，但验证候选答案可分解为可处理的约束检查。AREX 内循环收集证据并构造临时答案，外循环逐约束审计、识别未验证声明、启动定向后续研究。学习自主上下文更新工具压缩交互历史，保留已验证证据和未解约束。训练采用 agentic mid-training 和长程 RL，在关键证据获取或错误方向纠正处给予密集奖励。
实验结果: 4B 和 122B-A10B MoE 模型在 BrowseComp、WideSearch、DeepSearchQA、HLE 等基准上大幅超越同规模基线，122B-A10B 可竞争更多激活参数的模型。
精评: 抓住了一个本质洞察——深度研究中验证比发现便宜得多。递归自改进的结构设计也很自然：不是让模型搜索更久，而是让它知道自己哪里不确定并定向追查。上下文压缩工具是长程 RSI 的关键使能器。需关注递归深度上限、每轮审计的计算成本、以及约束间存在依赖时审计顺序的影响。116 upvotes 说明社区认可度很高。
相关技术: recursive self-improvement, deep research agent, constraint-wise verification, context compression, agentic mid-training, long-horizon RL
代码/权重: 未提及

📄 Abstract 中文翻译

深度研究要求 Agent 找到同时满足多重约束的答案。发现这样的答案代价高昂，而验证候选答案通常可以分解为可处理的逐约束检查。这种发现-验证不对称性意味着研究 Agent 不应只是搜索更久，而应递归改进当前答案：验证中间结果，并利用部分验证状态指导后续精炼。我们提出 AREX，一族递归自改进（RSI）深度研究 Agent。AREX 在内循环收集证据并构造临时答案、外循环逐约束审计、识别未验证声明并启动定向后续研究之间交替。为在长程中维持 RSI，AREX 学习了一个自主上下文更新工具，将增长的交互历史压缩为保留已验证证据和未解约束的紧凑改进状态，无需外部模型。我们在已验证合成任务和高质量轨迹上通过 agentic mid-training 和长程强化学习训练 AREX。为缓解长程学习中稀疏最终奖励的问题，我们在获取关键证据或纠正错误研究方向的关键步骤处给予密集奖励。我们实例化了 4B 密集模型和 122B-A10B MoE 模型。在 BrowseComp、WideSearch、DeepSearchQA、Humanity’s Last Exam (HLE) 及其他推理和工具使用基准上，AREX 大幅超越同规模基线，并与使用更多激活参数的模型保持竞争力。

SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD

在昇腾 NPU SuperPOD 上对 DeepSeek-V4 万亿参数 MoE 做全参数后训练，系统级优化达到 34.22% MFU，并在运筹优化任务上零样本 Pass@1 达 71.81%。

作者: Dongfang Li, Xiaodong Luo, Ruoyu Sun, Xuhui Chen, Linyuan Qiu, Jian Meng, Zhengxuan Lu, Yiting Wang, Yucheng Xie, Tao Guo
来源: HuggingFace Papers（56 upvotes）
链接: arXiv | PDF
关键贡献: 在昇腾 NPU SuperPOD 上完成 DeepSeek-V4 万亿参数 MoE 全参数后训练。分层优化框架覆盖模型级并行、计算-通信编排和底层 kernel 执行。建立面向运筹优化的 CPT+SFT 工作流，结合领域资源和求解器验证的合成优化文档构建 10K 高质量 SFT 样本。
实验结果: MFU 34.22%，较开源基线提升 2.93 倍，训练稳定。专门化模型零样本 Pass@1 达 71.81%，超过 GPT-5.4-Mini 3.98 和基座 DeepSeek-V4-Flash 11.27 个百分点。
精评: 价值双层：系统层面，昇腾 NPU 生态的万亿参数全参数训练实践本身就是稀缺信息；应用层面，把通用大模型专门化到运筹优化领域并有可量化提升，验证了"大模型+领域 CPT/SFT"路线在数学建模类任务上的可行性。不足是未披露训练成本、数据配比细节，以及专门化模型在通用基准上是否有退化。
相关技术: Ascend NPU SuperPOD, full-parameter post-training, MoE, DeepSeek-V4, MFU optimization, operations research, CPT+SFT
代码/权重: 未提及

📄 Abstract 中文翻译

万亿参数规模 MoE 模型的全参数后训练引入了大规模分布式训练的系统级挑战，包括严重的显存压力、未重叠的通信开销和低效的 kernel 执行。大多数大规模 LLM 训练系统围绕 GPU 集群构建，而本报告在昇腾 NPU SuperPOD 上展示端到端优化实践。以 DeepSeek-V4 模型族为目标工作负载，我们开发了覆盖模型级并行、计算-通信编排和底层 kernel 执行的分层优化框架。最终系统达到 34.22% 的 Model FLOPs Utilization (MFU)，较开源基线方案提升 2.93 倍，同时保持训练稳定性。在此优化基础设施之上，我们进一步建立了面向复杂运筹优化（OR）任务的 CPT 和 SFT 工作流，称为 SLAI T-Rex。使用 DeepSeek-V4-Flash，我们开发了面向 OR 的 CPT 和 SFT 数据管线，结合收集的领域资源与求解器验证的合成优化文档。最终数据集包含 10K 高质量 SFT 样本，覆盖四类任务和三种问题表示。专门化模型在被评测模型中取得最高平均零样本 Pass@1 分数 71.81%，分别超过 GPT-5.4-Mini 和基座 DeepSeek-V4-Flash 模型 3.98 和 11.27 个百分点。

K12-KGraph: A Curriculum-Aligned Knowledge Graph for Benchmarking and Training Educational LLMs

从人教版教材构建课程知识图谱，设计五个任务族 23,640 道多选题基准和 7,335 样本微调集，测试 LLM 的"课程认知"能力。

作者: Hao Liang, Qihan Lin, Zhaoyang Han, Xiaochen Ma, Zhen Hao Wong, Meiyi Qiang, Linzhuang Sun, Wentao Zhang
来源: HuggingFace Papers（40 upvotes）
链接: arXiv | PDF
关键贡献: 提出课程认知概念——不只是答题，而是理解知识结构（前置依赖、概念分类、实验-概念关联、教学排序、视觉锚定）。K12-KGraph 从人教版数学/物理/化学/生物教材构建，9 种节点类型 14 种关系类型。衍生 K12-Bench（23,640 题、五任务族）和 K12-Train（7,335 样本含 2,267 文本 QA 和 5,068 多模态 VQA）。
实验结果: Gemini-3-Flash 在 K12-Bench 上仅 57% 精确匹配，Gemma-4-31B-IT 达 46%，Prereq 和 Neighbor 最难。K12-Train-Text 在匹配预算下持续超越等量主流指令微调集；K12-Train-Full 在 Gaokao-MM、MDK12-medium、K12Vista 上均最优，文本和视觉监督互补。
精评: 把"课程认知"从"考试答题"中分离出来是好的问题定义——Prereq 和 Neighbor 任务要求模型理解概念间的前后依赖和邻接关系，而非简单检索。数据集和训练集已开源，可复现性高。
相关技术: curriculum knowledge graph, K-12 education, prerequisite chains, multimodal VQA, supervised fine-tuning
代码/权重: 已开源

📄 Abstract 中文翻译

大语言模型在 K-12 教育中的应用日益增多，但现有基准主要测试考试答题，而非理解课程知识如何结构化和可视化呈现。我们将此能力称为课程认知，涵盖前置依赖链、概念分类、实验-概念关联、教学排序和视觉锚定。我们构建了 K12-KGraph，一个从人教版小学、初中、高中数学、物理、化学、生物教材中提取的课程对齐知识图谱，包含 9 种节点类型和 14 种关系类型。基于此图谱衍生出 K12-Bench（23,640 道多选题、五个任务族）和 K12-Train（7,335 个样本的图引导监督微调语料，含 2,267 个纯文本 QA 对和 5,068 个多模态 VQA 对）。在 K12-Bench 上，Gemini-3-Flash 仅达 57% 精确匹配，Gemma-4-31B-IT 达 46%，Prereq 和 Neighbor 是最难的任务。训练实验表明领域特定监督可缩小差距：在匹配 2,300 样本预算下，K12-Train-Text 在 GaokaoBench 和 EduEval 上持续超越等量主流指令微调集；K12-Train-Full 在 Gaokao-MM、MDK12-medium 和 K12Vista 上均取得最优结果，且纯文本和多模态监督互补。

SANA-Video 2.0: Hybrid Linear Attention with Attention Residuals for Efficient Video Generation

混合线性-Softmax 注意力视频扩散 Transformer，5B/14B 双规模，单卡 H100 上 480p 视频 13.2 秒生成。

作者: Junsong Chen, Jincheng Yu, Yitong Li, Shuchen Xue, Haozhe Liu, Jingyu Xin, Yuyang Zhao, Tian Ye, Zhangjie Wu, Zian Wang
来源: HuggingFace Papers（15 upvotes）
链接: arXiv | PDF
关键贡献: 混合 Linear-Softmax 注意力（3:1 比例，线性注意力为主、周期性 Softmax 锚点恢复全秩交互）+ Block Attention Residuals（将块摘要路由到后续线性层，提升深层有效秩约 12%）。从零训练而非线性化预训练模型。全栈 Sol-Engine 优化（kernel fusion、缓存、稀疏注意力）额外加速 3.58 倍。
实验结果: 40 步采样在单卡 H100 上 480p 13.2 秒，VBench 84.30；720p/5s 仅 13.06 秒，比 Wan 2.2-A14B 快 120 倍。编译后 DiT 前向在 720p/60s 比匹配的全 Softmax 基线快 3.2 倍。
精评: 工程扎实——线性注意力做 O(N) 主体计算、周期性 Softmax 锚点恢复表达力、AttnRes 跨层复用锚点特征，三个组件各有明确职责。从零训练而非线性化预训练模型是正确的选择，避免了蒸馏损失。25% Softmax 比例的消融也做得充分。不足是缺少与当前最强视频生成模型（如 Kling、Sora 类）的直接质量对比。
相关技术: hybrid linear-softmax attention, block attention residuals, rectified flow matching, video diffusion transformer, native-resolution
代码/权重: 未提及

📄 Abstract 中文翻译

我们提出 SANA-Video 2.0，一个在 5B 和 14B 规模下统一架构的混合视频扩散 Transformer。设计目标是在单卡 GPU 上生成高质量视频（最高 720p），质量匹敌全 Softmax 视频 DiT，同时保持线性注意力良好的长序列扩展性。为避免全程二次注意力，混合线性-Softmax 注意力以 3:1 比例将门控线性注意力用于 O(N) 主导的混合，周期性门控 Softmax 锚点恢复纯线性注意力缺乏的全秩 token 交互。为跨深度传播刷新的表示，Block Attention Residuals 将已完成块摘要路由到后续线性层，使深层有效秩提升约 12%。通过从零训练，SANA-Video 2.0 直接学习完整混合架构，而非线性化预训练模型；降分辨率代理研究确定 25% Softmax 为最优质量-效率折衷。40 步采样在单卡 H100 上 480p 13.2 秒完成，VBench 84.30，与远大的全 Softmax 视频 DiT 保持竞争力。编译后 DiT 前向在 720p/60s 比匹配基线快 3.2 倍，且差距随视频时长增加而扩大。全栈 Sol-Engine 优化（kernel fusion、缓存和稀疏注意力）进一步加速 3.58 倍，使 5B 管线在 720p/5s 达到 13.06 秒，比 Wan 2.2-A14B 快 120 倍。

Scaling Laws for Hypernetwork-Based Knowledge Injection in Large Language Models

超网络生成固定 LoRA 适配器注入事实知识，首次刻画超网络的深度、宽度和目标网络规模的缩放规律。

作者: Nischay Dhankhar, Dos Baha, Abulhair Sapov
来源: HuggingFace Papers（13 upvotes）
链接: arXiv | PDF
关键贡献: 探索超网络在训练时知识注入中的应用——给定大量事实，训练超网络生成固定 LoRA 适配器使目标模型能回答相关问题。将超网络注入能力与目标网络通用能力解耦，首次严格研究超网络的缩放规律。构建 MegaWikiQA（3900 万多跳 QA、39 领域）数据集。
实验结果: 超网络注入沿所有架构轴展现可预测的幂律缩放；在 OOD 评估中展现可靠泛化，缩放指数优于 LoRA 微调和全量微调。
精评: 超网络作为知识注入手段的严格缩放分析是有价值的——如果幂律成立，就意味着可以预测投入产出比。OOD 泛化的优势尤其重要，因为知识注入的核心问题就是"记住了但不会举一反三"。不过超网络本身的训练成本和推理时 LoRA 适配器生成的延迟是需要评估的实践因素。
相关技术: hypernetwork, knowledge injection, LoRA adapter, scaling laws, OOD generalization, MegaWikiQA
代码/权重: 未提及

📄 Abstract 中文翻译

将事实知识可靠且大规模地注入大语言模型仍是一个开放挑战。超网络为此提供了有前景的方案：给定大量事实语料，训练超网络生成一个固定 LoRA 适配器，插入目标模型后使其能回答关于这些事实的问题。本工作研究超网络能否用于训练时知识注入以及这种能力如何随规模变化。我们将超网络的注入能力与目标网络的通用能力解耦，首次研究超网络架构的缩放规律。我们构建了 MegaWikiQA 数据集，包含 39 个领域、数千万多跳问答样本。结果揭示：(i) 超网络注入沿所有架构轴展现可预测的幂律缩放；(ii) 超网络在 OOD 评估中具备可靠泛化能力，且在所有 OOD 评估中展现比 LoRA 微调和全量微调更陡的缩放指数。

NexForge: Scaling Agent Capabilities through Requirement-Driven Task Synthesis for LLMs

⚠️ 此论文已收录于 2026-07-22 日报，本次跳过。

Stale but Stable: Staleness-Adaptive Trust Regions for Stabilizing Asynchronous Reinforcement Learning

异步 RL 中陈旧梯度是稳定性杀手。SAT 用 detached log-ratio 做 staleness 代理，只收缩高失配尾部的更新区间，在 Qwen3-30B 上 AIME24 达 35.83。

作者: Junyao Yang, Yucheng Shi, Zongxia Li, Zhongzhi Li, Ruhan Wang, Xiangxin Zhou, Kishan Panaganti, Haitao Mi, Leowei Liang
来源: HuggingFace Papers（34 upvotes）
链接: arXiv | PDF
关键贡献: 提出 Staleness-Adaptive Trust Region (SAT)，用 detached sampled log-ratio 作为 staleness 代理，通过 staleness-based kernel scaling 识别 batch 内高失配尾部，仅收缩 PPO 区间的符号选定端点。证明局部区间包含和逐点悲观性，保持普通 token 的基线行为同时收紧高 staleness 更新。在 Qwen3-30B-A3B-Base 上用 SGLang 推理 + Megatron 训练评估。
实验结果: SAT-GSPO w/ R3 在 AIME24 avg@8 上达 35.83（lag 1）和 34.79（lag 8），SAT-GSPO 达 34.17（lag 1）。自适应 clipping 和路由 replay 分别针对失配尾部和路由不一致。
精评: 对异步 RL 中 staleness 问题的分析很到位——PPO clipping 只管采样的向外更新，不是全策略约束，在 stale rollout 大量存在时控制力不足。SAT 的设计也足够克制，只动高失配尾部而非全局收紧。实际部署中 lag 8 仍能保持接近 lag 1 的性能，说明方法确实有效。
相关技术: asynchronous RL, trust region, staleness, GRPO, PPO clipping, Qwen3-30B, SGLang, Megatron
代码/权重: 未提及

📄 Abstract 中文翻译

异步强化学习通过解耦 rollout 生成和优化来提升吞吐，但 staleness 是不可避免的副产品，且被策略滞后、引擎延迟和 MoE 路由进一步加剧。从信任域角度看，训练-推理分歧决定了有限 horizon 界的近似误差，而 PPO clipping 只管采样的向外更新，作为全策略约束的采样代理。因此高 staleness 更新在 stale rollout 最需要控制的异步场景中反而控制最弱。我们提出 Staleness-Adaptive Trust Region (SAT)，使用 detached sampled log-ratio 作为实用 staleness 代理，通过 staleness-based kernel scaling 识别 batch 内高失配尾部，仅收缩 PPO 区间的符号选定端点。我们在 Qwen3-30B-A3B-Base 上评估，使用 SGLang 推理和 Megatron 训练。SAT-GSPO w/ R3 在 AIME24 avg@8 上达 35.83（lag 1）和 34.79（lag 8），SAT-GSPO 达 34.17（lag 1）。

Computational Humor with Multimodal LLMs: Methods, Datasets, Evaluation, and Challenges

多模态幽默理解综述：从识别、推理到生成，梳理基准设计、评估范式和建模方法，指出快捷评估、文化覆盖不足等主要障碍。

作者: Tuo Liang, Zhe Hu, Disheng Liu, Jing Li, Yu Yin
来源: HuggingFace Papers（2 upvotes）
链接: arXiv | PDF
关键贡献: 以能力为中心的层级分类法（识别→解释推理→生成）系统梳理多模态幽默文献，覆盖基准设计、评估协议和建模范式。追踪从任务特定融合模型到大模型多模态对齐、证据推理和可控生成的演进。
精评: 综述的价值在于系统性和问题诊断——快捷评估容易作弊、文化和叙事覆盖有限、证据接地弱、安全和所有权问题未解。这些不仅是综述结论，也是未来研究的方向指引。不过作为 survey，upvotes 不高可能反映社区对幽默理解这个方向的优先级判断。
相关技术: multimodal humor, memes, cartoons, capability hierarchy, survey, evaluation
代码/权重: 不适用

📄 Abstract 中文翻译

多模态幽默——在梗图、卡通和漫画中——对 AI 系统来说仍然困难，因为意图含义依赖非字面机制、共享文化知识和交际意图，而非字面场景描述。本综述聚焦单图和多格视觉幽默理解，同时将幽默生成视为新兴下游前沿。我们以能力中心层级（识别、解释推理、生成）组织文献，综合基准设计、评估协议和建模范式，追踪从任务特定融合模型到基于多模态对齐、证据推理和可控生成的大模型方法的演进。最后指出主要障碍：快捷评估易被利用、文化和叙事覆盖有限、证据接地弱、安全和所有权问题未解。

PATS: Policy-Aware Training Scaffolding for Agentic Reinforcement Learning

把技能从"被学习的对象"变成"随策略演化的训练脚手架"：弱策略时提供具体指导，策略变强后移除冗余上下文。

作者: Yipeng Shi, Zhipeng Ma, Yue Wang, Qitai Tan, Yang Li, Peng Chen, Zhengzhou Zhu
来源: HuggingFace Papers（0 upvotes）
链接: arXiv | PDF
关键贡献: 提出 policy-centric 训练范式，将 rollout 组转换为 evidence cards，用任务特定评估调整后续 rollout 的上下文。策略弱时提供具体指导帮助完成困难任务，策略改进后修订或移除冗余上下文减少依赖。策略用标准 RLVR 优化，训练脚手架在部署时丢弃。
实验结果: 在 ALFWorld 和 WebShop 上较强基线提升最多 18.6%；在七个搜索增强 QA 基准上保持竞争力的同时减少 32.1% prompt token。
精评: 核心洞察是技能不应是静态的训练目标，而应是随策略能力变化的动态支撑。这比固定技能课程更灵活——弱策略时给"拐杖"，强了就撤。部署时丢弃脚手架也意味着不增加推理成本。不过 evidence cards 的质量依赖于任务特定评估器，这在复杂真实任务中可能成为瓶颈。
相关技术: agentic RL, skill scaffolding, RLVR, dynamic context, evidence cards
代码/权重: 未提及

📄 Abstract 中文翻译

长程 LLM Agent 强化学习中，弱策略常重复相似失败，产生无信息 rollout 轨迹并限制有效策略优化。现有以技能为中心的方法通过优化、过滤或内化可复用技能来改善探索，但仍以技能本身为中心，而非作为随策略演化的训练时支撑。我们提出 policy-centric 训练范式，将技能重新构建为动态训练脚手架。PATS 将最新策略的 rollout 组转换为 evidence cards，用任务特定评估调整后续 rollout 使用的上下文。策略弱时提供具体指导帮助完成困难任务；策略改进后修订或移除冗余上下文以减少依赖。策略用标准 RLVR 优化，训练脚手架在部署时丢弃。在 ALFWorld 和 WebShop 上较强基线提升最多 18.6%；在七个搜索增强 QA 基准上保持竞争力同时减少 32.1% prompt token。

The Dark Room in the Reward Channel: Dense Prediction Rewards Collapse GRPO-Trained LLM Agents – and What Actually Works

GRPO 下的密集预测奖励不仅无效，而是会系统性摧毁策略：模型学会预测下一个观测但不完成任务，进入"暗室"退化态。根因是 std 归一化放大了 all-fail 组中的信号方差。

作者: Yu Wang
来源: HuggingFace Papers（0 upvotes）
链接: arXiv | PDF
关键贡献: 揭示 GRPO 下密集预测奖励的"暗室"病理：在 Qwen3-1.7B/4B/8B 的 ALFWorld 实验中，基于势函数的预测奖励使每次运行都退化为吸收态（预测准确率→1.0，任务成功率→0）。单因素消融定位根因——移除 GRPO 的 std 归一化即可从 0% 恢复到基线水平。提出方差轮廓判据：z-scoring 放大的是密集信号在 all-fail 组中的组内方差，方差随精通度衰减的信号在结构上是"放大器安全"的。控制实验进一步表明辅助损失通道可提升约 20 分，而奖励通道至多中性——甚至打乱标签的安慰剂组也能匹配真标签组。
精评: 这篇论文做了一件非常重要的事——证明一个看似合理的设计（给 Agent 密集预测奖励）不仅没用而且有害，并给出清晰的因果解释。std 归一化在 all-fail 组中使有界奖励变成无界压力这一分析尤其精彩，因为它不仅解释了观测到的崩塌，还能预测哪些信号会崩塌。方差轮廓判据的预注册预测进一步增强了说服力。单种子端点是不足之处，但作者已预注册种子复现实验。
相关技术: GRPO, dense prediction reward, dark room pathology, std normalization, z-scored advantage, variance-profile criterion
代码/权重: 未提及

📄 Abstract 中文翻译

密集逐步监督是稀疏奖励长程 LLM Agent 的诱人补救：奖励 Agent 预测下一个观测，记忆就会随之而来。我们表明在组归一化 RL (GRPO) 下，这个方案不仅失败——它摧毁了策略。在 Qwen3-1.7B/4B/8B 的 ALFWorld 实验中，基于势函数的预测奖励使每次运行都进入退化吸收态（预测准确率→1.0，任务成功率→0，回合长度钉在 horizon）：即"暗室"病理，由优化器自动构建。单因素消融定位了原因——仅移除 GRPO 的 std 归一化即可将同一奖励从灾难性（0%）变为基线持平——并用一个两行命题解释：在 all-fail 组中 z-scored 优势对 shaping 系数不变，因此有界奖励变成无界压力且退火无法帮助。我们的核心洞察推广了这一点：z-scoring 放大的是密集信号在 all-fail 组主导时的组内方差，因此方差随精通度衰减的信号在结构上是放大器安全的。此方差轮廓判据回溯解释了已观测的崩塌，对未运行的实验臂携带预注册预测，并与已发表的奖励通道成功案例一致。最后，控制信号交付矩阵表明奖励通道至多中性而辅助损失通道提升约 20 分——且打乱标签的安慰剂组匹配真标签组，说明差距不需要正确标签。

Sample-Efficient Learning from Agent Experience

经验蒸馏：不需要额外环境交互，仅从已收集的交互历史中通过上下文蒸馏将经验内化到模型权重，保留 64.8% 的 ICL 增益，而直接 SFT 仅恢复 3.8%。

作者: Chenhui Gou, Haoqin Tu, Yunhao Fang, Jianfei Cai, Hamid Rezatofighi
来源: HuggingFace Papers（7 upvotes）
链接: arXiv | PDF
关键贡献: 提出 Experience Distillation——在不需要额外环境交互的情况下，将 Agent 的交互历史通过上下文蒸馏内化到模型权重。在 749 个软件工程任务和 6 个文字冒险游戏上评估。
实验结果: 经验蒸馏保留至少 64.8% 的 ICL 增益（跨两个领域），而直接 SFT 仅恢复 3.8%。与经典 RL 基线相比，ICL + 经验蒸馏以至少 9.6 倍更少的环境样本达到同等性能。
精评: 3.8% vs 64.8% 的对比非常直观——直接在交互历史上做 SFT 几乎学不到什么，因为交互历史中的分布与部署时的上下文不匹配。上下文蒸馏绕过了这个问题。9.6 倍样本效率提升对于环境交互昂贵的真实场景（科学实验、人类反馈）有明确的实践价值。
相关技术: experience distillation, context distillation, in-context learning, sample efficiency, software engineering, text adventure
代码/权重: 未提及

📄 Abstract 中文翻译

真实世界 Agent 学习常受环境交互成本制约。上下文学习为 Agent 从自身交互历史中学习提供了高样本效率的方式，但一旦从上下文中移除经验，增益就消失了。上下文蒸馏提供了将上下文信息内化到模型权重的机制，但将其应用于 Agent 交互历史而不牺牲环境样本效率仍未充分探索。我们将此问题称为 Experience Distillation，并开发了一种无需额外环境交互的实现。在 749 个软件工程任务和 6 个文字冒险游戏上，经验蒸馏跨领域保留至少 64.8% 的 ICL 增益，而直接监督微调仅恢复 3.8%。与经典强化学习基线相比，ICL + 经验蒸馏以至少 9.6 倍更少的环境样本达到同等性能。

Visual Contrastive Self-Distillation

去掉外部教师、去掉特权答案、去掉视觉证据信号——仅靠图像内容擦除产生的对比来驱动自蒸馏，在 Qwen3-VL 上七基准聚合从 62.27% 提升到 67.04%。

作者: Yijun Liang, Yunjie Tian, Yijiang Li, Yuqi Jia, Furong Huang, Tianyi Zhou, Di Fu
来源: HuggingFace Papers（39 upvotes）
链接: arXiv | PDF
关键贡献: 提出 VCSD，在策略自蒸馏中去掉外部教师、特权答案和视觉证据信号，仅通过图像内容擦除产生对比信号。EMA 教师在相同 prompt 和 prefix 下分别用原图和内容擦除控制图生成两个下一 token 分布，token 级对数概率差突出受视觉内容影响的候选词，用此对比锐化教师分布并蒸馏给学生。
实验结果: 在 Qwen3-VL 上七基准聚合从 62.27%→67.04%（2B）、71.30%→73.16%（4B）、72.51%→76.26%（8B），无需外部教师、特权答案、视觉证据、推理链或额外推理成本。
精评: 极简主义方法的典范——去掉所有外部依赖后，仅靠"有图 vs 无图"的对比就能产生有效的自蒸馏信号。跨 2B/4B/8B 的一致提升说明方法有规模鲁棒性。
相关技术: on-policy self-distillation, visual contrastive, image content erasure, EMA teacher, ViRL39K
代码/权重: 未提及

📄 Abstract 中文翻译

策略自蒸馏 (OPSD) 因去除了策略蒸馏 (OPD) 所需的外部教师而有前景，但仍需教师和学生间的非对称信息来确保自教师提供更强信号。现有方法通过特权答案或视觉证据创建非对称性。我们问是否两者都可去除，产生仅由输入条件驱动的更简形式。为此提出 Visual Contrastive Self-Distillation (VCSD)，将图像内容擦除转化为策略自蒸馏信号。在每个学生生成的响应 prefix 处，EMA 教师在相同 prompt 和 prefix 下分别用原图和内容擦除控制图生成两个下一 token 分布。其 token 级对数概率差突出受实例级视觉内容 specifically 增加概率的候选词。我们用此对比在教师分布的合理支持域内锐化其原图分布，并将得到的全分布目标蒸馏给学生。使用 ViRL39K 数据集，VCSD 在 Qwen3-VL 和 Qwen3.5 模型上一致超越匹配的 OPSD。

🤖 AI Agents

ABot-World-0: Infinite Interactive World Rollout on a Single Desktop GPU

动作条件视频世界模型：单卡 RTX 5090 上 720P@16FPS 实时交互，LongForcing 对齐长程自回归漂移，208 upvotes 为今日最高。

作者: Fan Jiang, Zhaoxu Sun, Mengchao Wang, Ziyu Zhu, Chiyu Wang, Yunpeng Zhang, Wenlin Liu, Yun Wang, Xue Zheng, Rui Sun
来源: HuggingFace Papers（208 upvotes，今日最高）
链接: arXiv | PDF
关键贡献: 动作条件视频世界模型，支持实时长程闭环交互。多源数据基础设施涵盖 AAA 游戏、仿真引擎和网络视频。WorldExplorer 做训练反馈引导的 Agent 驱动数据收集，14 项确定性质量检查 + VLM 评估 + 同步动作和文本标注。渐进蒸馏将双向动作条件教师蒸馏为因果学生（teacher forcing + ODE 蒸馏），LongForcing 对齐长学生自 rollout 与扩展 horizon 教师。原始键盘动作为统一控制接口，参考角色记忆提供持久外观线索。部署侧协同设计流式推理栈（轻量 VAE 解码器、高效注意力、内存感知调度、低位 DiT 推理）。
实验结果: 单卡 RTX 5090 上 720P@16FPS，动作到首帧 1.2 秒，峰值 VRAM 约 19GiB。在 WorldRoamBench 和扩展交互 rollout 上展示竞争力可控性和连贯长程世界演化。
精评: 208 upvotes 反映了社区对"单卡实时交互世界模型"的高度期待。工程上把数据、训练、部署三个层面协同优化到位——从 WorldExplorer 的数据收集到 LongForcing 的训练策略到流式推理栈的部署优化，形成完整链路。不过 720P/16FPS 和 19GiB VRAM 意味着距离真正高保真交互还有距离，且世界模型的动作可控性在复杂场景下是否稳健仍需更多验证。
相关技术: action-conditioned world model, LongForcing, teacher forcing, ODE distillation, streaming inference, low-bit DiT
代码/权重: 未提及

📄 Abstract 中文翻译

我们提出 ABot-World-0，一个动作条件视频世界模型，支持实时、长程闭环交互，配套多源数据基础设施涵盖 AAA 游戏、仿真引擎和网络视频以学习可控世界动态。WorldExplorer 在训练反馈引导下进行 Agent 驱动收集，统一管线应用 14 项确定性质量检查、VLM 评估和同步动作与文本标注。我们渐进蒸馏将双向动作条件教师通过 teacher forcing 和 ODE 蒸馏为因果学生，并引入 LongForcing 将长学生自 rollout 与扩展 horizon 教师对齐，缓解累积分布漂移和自回归漂移。原始键盘动作提供场景漫游和第三人称角色交互的统一控制接口，参考角色记忆提供第三人称 rollout 中的持久外观线索。部署侧协同设计流式推理栈，含轻量 VAE 解码器、高效注意力、内存感知调度和低位 DiT 推理。在优化低位配置下，ABot-World-0 在单卡 NVIDIA RTX 5090 上以 720P 流式输出最高 16 FPS，动作到首帧延迟 1.2 秒，峰值 VRAM 约 19GiB。

Show, Don’t Tell: Evaluating Spatial Cognition in Generative Pixels Rather Than LLM Text

让图像生成模型用"画出来"而非"说出来"回答空间认知问题，ProVisE 框架使图像生成模型和文本 VLM 在统一设置下可比。

作者: Xu Wang, Kaixiang Yao, Miao Pan, Xiaohe Zhou, Xuanyu Liu, Wenqi Zhang, Xuhong Zhang
来源: HuggingFace Papers（34 upvotes）
链接: arXiv | PDF
关键贡献: 提出 ProVisE 框架，让图像生成模型产生协议约束的视觉答案并解析为结构化预测，与原始基准指标兼容。包含 Agentic builder 可为新基准构建和验证任务特定协议。SpatialGen-Bench 包含 470 样本、14 个空间子任务、四个能力等级和多种答案形式。
实验结果: 图像生成模型在空间答案可直接在像素空间表达时具竞争力，文本 VLM 在组合空间推理上仍有明确优势。两者互补。
精评: 问题定义好——现有空间推理基准要求坐标或选项，对图像生成模型不公平。ProVisE 让"画出来"成为合法答案形式，打开了图像生成模型参与空间认知评测的通道。470 样本偏小，但 14 个子任务和四个能力等级保证了诊断粒度。Agentic builder 可为新基准自动构建协议，扩展性不错。
相关技术: spatial cognition, image generation evaluation, protocol-constrained visual answers, pixel-space expression, SpatialGen-Bench
代码/权重: 未提及

📄 Abstract 中文翻译

空间智能对 Agent 从静态语义理解走向与物理世界交互至关重要。许多空间任务根植于连续视觉场景，其中位置、区域和路径更适合通过指、标记或画来表达，而非报告精确坐标或离散文本符号。然而现有空间推理基准通常要求坐标、选项或文本，为图像生成模型创造了答案界面不匹配。我们提出 ProVisE，一个与基准无关的框架，从图像生成模型中引出协议约束的视觉答案并解析为与原始指标兼容的结构化预测。ProVisE 还包含一个 Agentic builder 为新基准构建和验证任务特定协议。我们进一步引入 SpatialGen-Bench，包含 470 个样本、14 个空间子任务、四个能力等级和多种答案形式的诊断基准。在统一设置下评估代表性文本输出 VLM 和图像生成模型，结果显示图像生成模型在空间答案可直接在像素空间表达时具竞争力，而文本输出 VLM 在组合空间推理上保持明确优势。这些发现揭示了像素空间表达和文本推理的互补优势，为研究图像生成模型中的空间认知建立了指标兼容的测试平台。

OpenForgeRL: Train Harness-native Agents in Any Environment

开源框架让 Claude Code、Codex、OpenClaw 等 harness 原生 Agent 在任意环境中端到端训练，通过轻量代理记录模型调用并转为训练数据。

作者: Xiao Yu, Baolin Peng, Ruize Xu, Hao Zou, Qianhui Wu, Hao Cheng, Wenlin Yao, Nikhil Singh, Zhou Yu, Jianfeng Gao
来源: HuggingFace Papers（1 upvotes）
链接: arXiv | PDF
关键贡献: 轻量代理在 harness 的模型调用时记录训练数据，Kubernetes 编排器为每个 rollout 启动独立远程容器，解耦训练和推理使任意 harness 可在任意环境中大规模训练。横跨工具/Claw Agent 和多模态 GUI Agent 验证。OpenForgeClaw 在 ClawEval 上达 31.7 pass³ 和 55.9 pass@3；OpenForgeGUI 在 OSWorld-Verified 上达 37.7，Online-Mind2Web 上达 63.0，WebVoyager 上达 72.3。
精评: 把 harness（Claude Code、Codex、OpenClaw）作为训练时的推理引擎而非简化模拟，是一个务实且重要的方向——训练和部署用同一个 harness 能消除分布偏移。对 harness 选择和 RL 对 Agent 行为影响的分析（自我验证、工具覆盖、错误恢复等）是本文的独特贡献。不过 1 upvote 说明曝光度还很低。
相关技术: harness-native agent training, end-to-end RL, Kubernetes orchestration, proxy-based training data, ClawEval, OSWorld
代码/权重: 未提及

📄 Abstract 中文翻译

现代 AI Agent 依赖 Claude Code、Codex 和 OpenClaw 等复杂推理 harness 来驱动多轮推理、工具使用和外部系统访问。但这些复杂 harness 也使得 Agent 难以用开放式基础设施端到端训练，因为 SFT/RL 栈原生无法表达有状态的多进程 harness 推理。我们提出 OpenForgeRL，一个开源框架，用于在多样环境中端到端训练 harness 原生 Agent。OpenForgeRL 通过轻量代理在 harness 的模型调用时记录训练数据（供标准 RL 代码库如 veRL 使用）和 Kubernetes 编排器（为每个 rollout 启动独立远程容器）实现这一点，从而支持在任意 harness 和任意环境中大规模训练。通过解耦训练和推理，OpenForgeRL 让研究者可以直接在 Agent 部署时使用的真实 harness 和环境中训练、研究和改进 Agent。我们在多样复杂的 harness 和环境中验证，横跨工具/Claw Agent 和多模态 GUI 浏览器/计算机 Agent。仅使用数百到数千任务，OpenForgeClaw 在 ClawEval 上达 31.7 pass³ 和 55.9 pass@3；OpenForgeGUI 在 OSWorld-Verified 上达 37.7，Online-Mind2Web 上达 63.0，WebVoyager 上达 72.3。两者在几乎所有基准上超越同等规模的开放基线，GUI 设置中匹敌或超越数倍大的模型。

Beyond Relevance-Centric Retrieval: Rubric-Oriented Document Set Selection and Ranking

文档集质量决定下游生成上限。SetwiseEvalKit 用三级九维评估文档集质量，Rubric4Set 把评估标准转为选择信号。

作者: Kailin Jiang, Lei Liu, Jian Xi, Hui Xu, Junlin Liu, Baochen Fu, Shaoqing Ren, Bin Li, Vichwang, Yu Lu
来源: HuggingFace Papers（27 upvotes）
链接: arXiv | PDF
关键贡献: 提出 evaluate-diagnose-optimize 框架。SetwiseEvalKit 是三级九维文档集评估基准，覆盖短篇和长篇场景，约 28K 高质量评估标准。系统评估 12 个 reranker：最好的方法覆盖率也不超过 45%，跨文档协调维度普遍薄弱。Rubric4Set 是 training-free 方法，将评估标准转化为文档集选择信号，用更少文档和搜索轮次达到最佳下游生成性能。
精评: 把评估从"单文档相关性"升级到"文档集质量"是正确的方向——RAG 的效果不只取决于单个文档是否相关，还取决于文档间是否有冗余、冲突或互补。28K 评估标准和 12 个 reranker 的系统评估让这个领域的现状一目了然。Rubric4Set 闭环"评估→诊断→优化"的思路值得推广。
相关技术: document set evaluation, reranking, RAG, inter-document interactions, SetwiseEvalKit, Rubric4Set
代码/权重: 未提及

📄 Abstract 中文翻译

随着大语言模型和 AI Agent 成为搜索结果的主要消费者，文档集质量决定了下游生成的上限。然而现有评估系统仍局限于独立评分文档并通过 nDCG 聚合，忽略了文档间交互（冗余、冲突、互补），也无法回答什么使一个文档集比另一个更好。我们提出完整的评估-诊断-优化框架。SetwiseEvalKit 是三级九维文档集评估基准，覆盖短篇和长篇场景，包含约 28K 高质量评估标准。我们系统评估 12 个 reranker：最好的方法覆盖率不超过 45%，跨文档协调维度普遍薄弱，没有单一方法在两种设置下都保持最佳。在此基础上提出 Rubric4Set，一种 training-free 方法，将基于评估标准的准则转化为文档集选择信号，以更少文档和搜索轮次达到最佳下游生成性能。它是唯一在两种场景下都保持最佳结果的方法。

ReferTrack: Referring Then Tracking for Embodied Visual Tracking

具身视觉跟踪：先用语言描述从候选框中选目标，再用 bbox 队列维护运动线索，单视角达到甚至超越多相机基线。

作者: Hanjing Ye, Tianle Zeng, Jiazhao Zhang, Shaoan Wang, Zibo Zhang, Weisi Situ, Yuchen Zhou, Yonggen Ling, Hong Zhang
来源: HuggingFace Papers（44 upvotes）
链接: arXiv | PDF | 代码
关键贡献: referring-then-tracking 范式：先从索引 bbox 集合中选择目标，再条件化解码跟踪航点。滑动窗口队列维护已选 bbox，通过 TVBI token 注入几何特征。Refer-QA 协同训练增强目标识别。
实验结果: EVT-Bench 上单视角最佳：单目标 89.4%、干扰 73.3%、歧义 74.1%，匹配甚至超越多相机基线。腿式和人形机器人上验证 sim-to-real 迁移。
精评: 把目标选择和轨迹规划解耦是好的设计——VLA 的 CoT 推理在抽象空间 latent 中操作，难以监督且与图像空间检测弱对齐。用 bbox 做接口既可监督又保持了空间精度。TVBI token 保存运动线索的思路简洁有效。44 upvotes 说明具身社区认可度不错。
相关技术: embodied visual tracking, VLA, referring expression, bounding box, sim-to-real, TVBI token
代码/权重: 已开源

📄 Abstract 中文翻译

具身视觉跟踪 (EVT) 要求移动 Agent 仅使用机载视觉持续跟随自然语言描述的特定目标。近期视觉-语言-动作 (VLA) 策略统一了目标识别和轨迹规划，但其思维链推理在抽象空间 latent 中操作，难以监督且与图像空间检测弱对齐。为此我们引入 ReferTrack，一种"先指代再跟踪"的范式。模型先从索引 bbox 集合中选择目标，再条件化于该图像接地决策解码跟踪航点。为保持目标运动线索，ReferTrack 维护已选 bbox 的滑动窗口队列，通过 TVBI token 将几何特征注入视觉历史。我们还通过 Refer-QA 数据集增强目标识别。在 EVT-Bench 上，ReferTrack 达到单视角最佳：单目标 89.4%、干扰 73.3%、歧义 74.1%，匹配甚至超越多相机基线。腿式和人形机器人上的真实世界部署验证了 sim-to-real 迁移能力。

[OpenForgeRL, IssueTrojanBench, OpenSkillRisk, PRO-LONG, AgentDebugX, NOOA, AttriMem, WorkBuddy Bench, LLMs Get Lost, Mage-Flow, Text Template Tokens, QuantiBias — 简评列表]

IssueTrojanBench: Benchmarking AI Coding Agents Against Malicious Issue Requests

66.5% 的恶意 issue 穿透所有防护。GPT 模型广泛脆弱，Sonnet 4.6 表现出更有选择性的风险感知拦截。Agent 层防护几乎不提供额外保护，拒绝几乎完全来自 LLM 层。arXiv | 0↑

NVIDIA-labs OO Agents: Native Python Object-Oriented Agents

Agent 就是一个 Python 对象——方法即动作、字段即状态、docstring 即 prompt、类型注解即契约。方法体为 ... 的由 LLM 运行时补全，有正常方法体的保持确定性 Python。在 SWE-bench Verified、Terminal-Bench 2.0 和 ARC-AGI-3 上验证。arXiv | 18↑

OpenSkillRisk: Benchmarking Agent Safety When Using Real-World Risky Third-Party Skills

263 个真实技能市场收集的危险技能，7 类威胁。即使最安全的配置仍执行约 17% 的不安全操作。三类失败模式：未识别风险、识别但未在行动前干预、超出用户意图范围执行技能指令。arXiv | 0↑

PRO-LONG: Programmatic Memory Enables Long-Horizon Reasoning

用程序化记忆管理完整结构化交互日志，利用编码 Agent 能力搜索历史。在 ARC-AGI-3 上平均提升 18.0 个百分点，匹配或超越专用 harness（76.1% pass@1）同时使用 4.2-5.8 倍更少 token。Fable 5 上 97.4% best@2，总成本 $1,750。arXiv | 0↑

AgentDebugX: An Open-Source Toolkit for Failure Observability, Attribution, and Recovery in LLM Agents

调试闭环：Detect→Attribute→Recover→Rerun。DeepDebug 在 Who and When 基准上达 28.8% 精确归因准确率（qwen3.5-9b），在 GAIA 上单次重跑修复 13/73 失败任务（55.8%→63.6%）。提供 Python 库、CLI、Web 控制台和可选 Error Hub。arXiv | 23↑

AttriMem: Attribution-Guided Process Feedback for Agent Memory Learning

用 token 级归因给记忆构建策略提供过程反馈，而非仅用结果奖励。解决"哪些中间记忆内容支持了最终答案"的信用分配瓶颈。在长程对话 QA 上超越检索、启发式和 RL 基线。arXiv | 0↑

Tencent WorkBuddy Bench: A Multi-Domain Coding-Agent Benchmark

四领域（代码/前端/办公/安全）编码 Agent 基准，每个任务从真实 commit/PR 反向构建并改写为口语化角色扮演请求，搜索不可恢复。在 CodeBuddy Code 和 Claude Code 两个 harness 上运行。arXiv | 17↑

LLMs Get Lost in Evolving User Intent

将静态单轮任务转为动态多轮对话（用户意图逐步揭示、修订、重定向），揭示 LLM 在静态设置下的强性能不迁移到动态意图设置。对静态评估的有效性提出根本质疑。arXiv | 15↑

🌐 其他值得关注

Mage-Flow: An Efficient Native-Resolution Foundation Model for Image Generation and Editing

4B 规模高效图像生成与编辑栈：Mage-VAE 一步编解码 + 原生分辨率多模态 DiT + flow matching，单卡 A100 上 1024² 生成 0.59 秒。

作者: Xinjie Zhang, Peng Zhang, Shicheng Zheng, Jinghao Guo, Zhaoyang Jia, Yifei Shen, Xun Guo, Yuxuan Luo, Jiahao Li, Wenxuan Xie
来源: HuggingFace Papers（63 upvotes）
链接: arXiv | PDF
关键贡献: 两个协同设计组件——Mage-VAE（一步扩散式编解码 + anchor-latent 正则化，保持重建质量的同时将 token 化成本降低一个数量级以上）和原生分辨率多模态 DiT（rectified flow matching）。完整模型族：Base、RL-aligned、Turbo 变体，覆盖生成和编辑。Diffusion-NFT 改善 prompt 跟随、文字渲染、美学质量和编辑保真度；few-step 蒸馏 + 对抗感知引导产出 4-step Turbo 模型。
实验结果: 单卡 A100 上 1024² 生成 0.59s，编辑 1.02s，显存占用小。Turbo 变体使高分辨率生成和编辑在交互式使用中实用化。
精评: 4B 规模做到 0.59s 生成和 1.02s 编辑是相当强的工程成果。Mage-VAE 的一步编解码是关键——token 化成本降低一个数量级以上意味着 DiT 可以在更高效的潜空间中工作。原生分辨率训练消除了 resize 损失。整体设计紧凑且各组件有明确职责。
相关技术: native-resolution, flow matching, VAE tokenizer, diffusion NFT, few-step distillation, adversarial perceptual guidance
代码/权重: 未提及

📄 Abstract 中文翻译

大规模视觉生成器日益强大但训练、微调和部署成本高昂。我们引入 Mage-Flow，一个紧凑的 4B 规模生成栈，用于高效文生图和指令引导图像编辑。栈由两个协同设计组件组成：Mage-VAE，一个轻量高保真 latent tokenizer；和原生分辨率多模态扩散 Transformer，用 rectified flow matching 训练。Mage-VAE 使用一步扩散式编解码和 anchor-latent 正则化，在保持强公开 VAE 重建质量的同时将 token 化成本降低一个数量级以上。配合原生分辨率打包和栈级 CUDA kernel fusion，支持灵活分辨率训练并将端到端训练吞吐提升约 2.5 倍。在此基础上有 Base、RL-aligned 和 Turbo 变体。Diffusion-NFT 改善 prompt 跟随、文字渲染、美学质量和编辑保真度；few-step 蒸馏与对抗感知引导产出 4-step Turbo 模型。尽管规模紧凑，Mage-Flow 和 Mage-Flow-Edit 在标准生成和编辑基准上具竞争力。Turbo 变体使高分辨率生成和编辑在交互式使用中实用化：单卡 A100 上 1024² 生成 0.59s，编辑 1.02s。

Text Template Tokens Are Implicit Semantic Registers in Diffusion Transformers

DiT 中结构性模板 token 虽不携带 prompt 特定信息，却作为隐式语义寄存器维持对象身份。基于此设计无训练剪枝规则，剪掉最强 prompt 注意力头可移除 20% 注意力 FLOPs 仅损失 1.4 分。

作者: Maohua Li, Qirui Li, Yanke Zhou, Yiduo Li, Zhaosheng Chi
来源: HuggingFace Papers（72 upvotes）
链接: arXiv | PDF
关键贡献: 因果可解释性框架，结合注意力分解和跨 token span/head/layer 的定向干预。发现结构性模板 token 在编码器输出处携带很少 prompt 特定信息，但作为图像到文本的注意力 sink 因果地维持对象身份——语义先注入图像 latent 再被读回模板 token，而非直接从 prompt token 转移。基于发现设计无训练剪枝规则：最强 prompt 注意力头可被剪除。
实验结果: 剪除 20% 注意力 FLOPs 仅损失 1.4 GenEval 分。揭示 DiT 中生成计算的组织方式：语义路由与视觉合成分离，从身份形成到传播再到精炼。
精评: 72 upvotes 说明社区对 DiT 内部机制的强烈兴趣。最反直觉的发现是"输入时编码语义的 token 不必是生成时维持语义的 token"——模板 token 通过间接路径获得语义身份。这不仅是一个机理发现，还有直接实用价值（无训练剪枝 20% FLOPs）。因果干预而非仅相关性分析使结论更可信。
相关技术: DiT interpretability, attention decomposition, causal intervention, attention sinks, semantic registers, training-free pruning
代码/权重: 未提及

📄 Abstract 中文翻译

文生图扩散 Transformer (DiT) 联合处理文本和图像 token，但其去噪过程中的内部计算仍知之甚少。我们引入面向大规模 DiT 的因果可解释性框架，结合注意力分解和跨 token span、head 和 layer 的定向干预。用它将 prompt 内容 token 与结构性模板 token 分离后发现：结构性 token 在编码器输出处携带很少 prompt 特定信息。然而令人惊讶的是，它们作为图像到文本的注意力 sink 出现，并在 DiT 内部因果地维持对象身份，扮演隐式语义寄存器的角色。它们间接获得这一身份——prompt 语义先注入图像 latent 再被读回模板 token，而非直接从 prompt token 转移。受此发现启发，我们设计了 DiT 的无训练剪枝规则：最强 prompt 注意力头可被剪除，移除 20% 注意力 FLOPs 仅损失 1.4 GenEval 分。我们进一步揭示 DiT 中生成计算如何跨 head 和 depth 组织，分离语义路由与视觉合成，从身份形成到传播再到精炼。

QuantiBias: Benchmarking Quantization-Induced Bias in LLMs

量化模型通过所有标准安全检查，但在开放式生成中约 1/4 答案主动输出偏见——量化释放的精度被分配给能力数据，不携带防偏见信号。

作者: Emilio Ferrara
来源: HuggingFace Papers（0 upvotes）
链接: arXiv | PDF
关键贡献: 发现量化的主要副作用不是安全退化而是偏见增加。量化模型仍拒绝有害请求、不过度拒绝良性 prompt、选择无偏见多选题答案——但在开放式问题中主动输出偏见（8 种语言约 24%-27%）。QuantiBias 基准搭配生成式多语言偏见探针、拒绝和多选控制，隔离开放式生成，对比有/无推理，评估内容严重性。
实验结果: 跨两个骨干模型（Qwen 和 Gemma）、五个量化族和八个基准。推理前思考在某些族上约减半偏见效果，在其他族上无效果。量化构建必须重新评估开放式偏见。
精评: 这是一个被忽视但重要的问题——几乎所有到达用户的 LLM 都经过量化，但安全检查通常只测拒绝率和多选准确率，不测开放式偏见。24%-27% 的偏见率且标准检查全部通过，说明现有安全评估有系统性盲区。推理前思考在某些族上有效但在其他族上无效也说明这不是简单的修复。单作者论文，0 upvotes，但发现扎实。
相关技术: quantization bias, open-ended generation, safety evaluation, multilingual stereotype probe, refusal benchmark, multiple-choice control
代码/权重: 未提及

📄 Abstract 中文翻译

几乎所有到达广大用户的大语言模型都经过量化：全精度训练后压缩以提高效率。这一步被假定为无害的，其安全性很少被重新检查。我们发现其主要副作用是增加偏见，而标准安全评估会漏检。在模型、训练和 prompt 固定的情况下，量化模型仍拒绝有害请求、不过度拒绝良性 prompt、仍选择无偏见多选题答案。但在开放式问题中，同一模型在所有八种探查语言中主动输出偏见，在独立评判下约四分之一的开放式答案中（约 24%-27%，跨压缩阶梯）。它通过所有标准检查，却仍向用户输出可测量的更多偏见。QuantiBias 基准搭配生成式多语言偏见探针、拒绝和多选控制以隔离开放式生成，对比有/无推理，评估生成内容严重性。跨两个骨干模型、五个量化族和八个基准，量化器将额外精度分配给不携带防偏见信号的能力数据，推理前思考在某些族上约减半效果而在其他族上无效。量化构建必须重新评估开放式偏见，而非仅依赖已通过的短格式安全检查。

日报生成时间: 2026-07-25 08:00 CST 数据来源: HuggingFace Papers API (100 篇) → 预筛选 (score≥5, 30 篇) → 去重 (跳过 1 篇) → 精评 (29 篇) arXiv 补充抓取因接口限流未获取到论文