今日概览

今天抓取 HuggingFace/arXiv 共 100 篇，预筛 30 篇；按 ~/DailyReport/.seen_papers.json 去重后，新收录 18 篇，跳过过去 7 天已报道 12 篇。 分类分布：AI Agents: 4 | Audio LLM: 4 | LLM Training: 8 | 其他值得关注: 2。

今天的主线是“更贴近真实使用”。GUI agent 开始强调真机闭环和异常状态，长程 agent 开始拆解中间步骤监督质量，音频/视频方向则在统一 token、动态帧率和可控检索上继续推进。相比单纯刷榜，今天这些论文更像是在补真实产品会遇到的坑。

重点精读

Xiaomi-GUI-0 Technical Report

中文标题：Xiaomi-GUI-0 技术报告：面向真实手机环境的多模态 GUI Agent
信息：LLM Training | score 19 | 2026-06-30, HF 8 upvotes | Wanxia Cao, Chengzhen Duan, Pei Fu, Pengzhi Gao et al.
链接：arXiv | PDF

为什么值得看：这篇最值得优先读。它不是只在离线轨迹或模拟器上训练 GUI agent，而是把真实设备作为主要执行环境，直接面对账号状态、权限弹窗、支付认证、风控和异常页面这些产品级问题。

摘要翻译：论文提出 Xiaomi-GUI-0，一个面向真实移动环境的 native multimodal GUI agent。作者构建以真实设备为主、沙盒为辅的混合基础设施，让数据采集、训练、rollout 和评测尽量共享接近部署的执行分布。训练数据覆盖高频头部任务、长尾泛化任务，以及 reflection/memory 等能力增强数据；同时用 error-driven data flywheel 把失败轨迹转成纠正动作、反思解释和恢复示范。模型按 SFT、step-level RL、agentic RL 三阶段训练，在 RealMobile 上达到 72.0% 成功率，在 AndroidWorld 上达到 78.9%，并提升真实任务中的稳定性和异常状态识别。

小爱精评：GUI agent 真正难的不是“点哪里”，而是状态分布会被账号、弹窗、风控、权限和支付流程不断打乱。这篇的价值在于把训练和评测拉回真实设备闭环。需要重点看 RealMobile 的任务构成、失败修复数据是否可规模化，以及真机基础设施成本会不会成为复现门槛。

BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding

中文标题：BlockPilot：面向扩散式 speculative decoding 的样本自适应 block size 策略
信息：其他值得关注 | score 19 | 2026-06-30, HF 67 upvotes | Hao Zhang, Yiming Hu, Yong Wang, Mingqiao Mo et al.
链接：arXiv | PDF

为什么值得看：推理加速里很实际的一篇。它指出固定 block size 对所有样本并不最优，而 block size 选择可以从 prefilling 表征中低成本预测。

摘要翻译：现有 diffusion-based speculative decoding 通常用固定 inference block size，假设所有输入适合同一种解码策略。作者发现最优 block size 会随样本变化，而且数值具有局部结构，常集中在训练 block size 附近。BlockPilot 将 block size 选择建模成轻量 policy learning 问题，在 prefilling 后只预测一次最优 block size，因此可以无缝接入现有流程。实验显示它是 plug-and-play、额外开销很小，并在 Qwen3-4B、温度 T=1 下达到 acceptance length 5.92 和 4.20x speedup。

小爱精评：如果实现细节简单，这类方法很容易进入推理栈，因为它不改目标模型语义，只在解码策略上省时间。要注意的是速度数字依赖模型、温度、任务分布和硬件实现，真正上线前需要看端到端 latency，而不只是 tokens per forward。

QVal: Cheaply Evaluating Dense Supervision Signals for Long-Horizon LLM Agents

中文标题：QVal：低成本评估长程 LLM Agent 的 dense supervision 信号
信息：AI Agents | score 18 | 2026-06-30, HF 9 upvotes | Sergio Hernandez-Gutierrez, Matteo Merler, Ilze Amanda Auzina, Joschka Struber et al.
链接：arXiv | PDF

为什么值得看：长程 agent 的 outcome reward 太稀疏，大家都想给中间步骤打分，但很少有统一方式比较这些打分信号本身。QVal 试图把这件事从昂贵训练管线里拆出来。

摘要翻译：QVal 是一个无需训练的 testbed，用来直接评估 dense supervision signals。给定 state-action pair，它衡量某个打分方法是否 Q-aligned，也就是能否按强参考策略的 Q-value 正确排序动作。作者构建 QVal-v1.0，在四个环境、七类方法、六个开放模型 backbone 上做了 1.2K 组实验，比较 21 种 dense supervision 方法。结果显示，简单 prompting baseline 往往超过近期文献中的复杂方法，而且表现会按方法家族聚类。

小爱精评：这篇对 agent RL 很有帮助，因为它把“监督信号质量”和“训练工程效果”拆开了。最值得记住的结论是：中间步骤奖励看起来密集，不代表真的有用。后续可以把 QVal 当成训练前的 cheap sanity check。

ALM2Vec: Learning Audio Embeddings for Universal Audio Retrieval with Large Audio-Language Models

中文标题：ALM2Vec：从大型音频语言模型学习通用音频检索 embedding
信息：Audio LLM | score 18 | 2026-06-27, HF 1 upvote | Fengjie Lu, Chenang Jiang, Jiarui Hai, Helin Wang et al.
链接：arXiv | PDF

为什么值得看：音频检索正在从“文本匹配音频 caption”走向 instruction-aware retrieval。也就是说，用户可以指定按声音事件、问答意图、某个方面条件去检索。

摘要翻译：ALM2Vec 从 pretrained large audio-language models 中蒸馏/迁移音频理解、指令跟随和推理能力，学习统一的音频 embedding 空间。不同于传统 audio-text dual encoder 主要优化音频-caption 匹配，ALM2Vec 将自然语言指令纳入 embedding 过程，支持 audio QA、aspect-conditioned retrieval 等可控检索。实验显示它在标准音频和语音检索 benchmark 上有竞争力，同时具备组合式、可控检索能力。

小爱精评：这对音频知识库、会议录音、声音素材库都很实用。真正的卖点不是又一个 embedding，而是 embedding 受指令调控。需要看它在长音频、噪声环境、多事件重叠和跨语言查询下的表现。

Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs

中文标题：用元认知反馈强化学习，让 LLM 更忠实表达不确定性
信息：LLM Training | score 16 | 2026-06-30, HF 16 upvotes | Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor et al.
链接：arXiv | PDF

为什么值得看：校准不是让模型“多说不知道”，而是让表达的不确定性和内部真实不确定性一致。论文把这个问题转成元认知能力训练。

摘要翻译：作者提出 reinforcement learning with metacognitive feedback (RLMF) 和 metacognitive data selection。前者在 preference optimization 中根据模型自我判断任务表现的质量来优化 completion ranking，后者用类似自评信号选择高价值训练样本。论文聚焦 faithful calibration，先校准模型自报 confidence 的忠实度，再映射成自然语言不确定性表达。实验显示 RLMF 在多个任务上达到较强泛化表现，同时保持准确率；相比标准 RL 最高提升 63%，并增强模型评估自身能力边界的能力。

小爱精评：这篇和 agent abstention、工具调用停止策略很互补：可靠系统需要模型知道自己什么时候不确定、什么时候该停、什么时候该请求更多信息。要谨慎看“内部不确定性”的定义，以及 confidence editing 会不会只学到漂亮话。

Hierarchical Experimentalist Agents

中文标题：HExA：通过主动实验学习的层级实验型 Agent
信息：LLM Training | score 16 | 2026-06-28, HF 1 upvote | Abhranil Chandra, Sankaran Vaidyanathan, Utsav Dhanuka, Varun Gandhi et al.
链接：arXiv | PDF

为什么值得看：这篇把 agent 从“检索已有知识”推进到“自己设计实验获取新知识”。在新领域和复杂物理系统里，这比单纯 RAG 更像真正的科学发现工作流。

摘要翻译：HExA 是一种 training-free 的 in-context self-improvement 框架。它迭代设计和改进与查询相关的实验，从经验中学习可复用、可组合的 skill library，再整合实验结果回答问题或采取行动。作者提出 Interphyre，一个基于 PHYRE 2D 程序化物理环境的 tool-calling benchmark，要求 agent 通过模拟 API 提出干预和测试假设。当前 LLM agent 在困难任务上表现很弱，Claude Sonnet 4.6 只有 2% 成功率；加入 HExA 后最高可到 77%，并且从简单关卡学到的技能可迁移到更难关卡。

小爱精评：这篇像是把 Reflexion 往“实验设计 + 技能库复用”方向推进了一步。亮点很强，但 benchmark 是物理模拟环境，离真实科学实验还有距离。真正值得借鉴的是主动实验、技能沉淀、证据整合这三个模块。

全量速览

AI Agents

• QVal: Cheaply Evaluating Dense Supervision Signals for Long-Horizon LLM Agents（2606.32034）

  • 中文：QVal：低成本评估长程 LLM Agent 的 dense supervision 信号
  • 信息：AI Agents | score 18 | 2026-06-30, HF 9 upvotes | Sergio Hernandez-Gutierrez, Matteo Merler, Ilze Amanda Auzina, Joschka Struber et al.
  • 链接：arXiv | PDF
  • 摘要翻译：QVal 直接评估中间步骤打分信号是否能按强参考策略的 Q-value 正确排序动作，从而在训练前比较 dense supervision 方法。作者评测 21 种方法，发现简单 prompting baseline 经常优于近期复杂方法。
  • 精评：适合做 agent RL 训练前的低成本筛选，避免把不靠谱的中间奖励塞进昂贵训练管线。

• DigitalCoach: Communication and Grounding Gaps in Human and Agentic Computer Use Coaching（2606.31980）

  • 中文：DigitalCoach：人类与 Agentic 电脑使用辅导中的沟通和 grounding 差距
  • 信息：AI Agents | score 16 | 2026-06-30, HF 1 upvote | Meng Chen, Anya Ji, Tsung-Han Wu, Tobias Maringgele et al.
  • 链接：arXiv | PDF
  • 摘要翻译：DigitalCoach 包含 72 场人类专家辅导新手使用电脑的多模态会话，合计 22,752 轮对话和 28.1 小时屏幕/输入事件记录。评测显示，模型更喜欢直接给指令，但解释、错误诊断和知识检查更少；固定辅导方式后，模型语言接近人类参考，但视觉上下文 grounding 仍弱。
  • 精评：这篇很适合做“教人用软件”的 agent 评测。它提醒产品别只优化任务完成，还要看学习者是否真的理解。

• DataEvolver: Self-Evolving Multi-Agent Data Construction for Text-Rich Image Generation（2606.31537）

  • 中文：DataEvolver：用于富文本图像生成的自演化多 Agent 数据构建
  • 信息：AI Agents | score 15 | 2026-06-30, HF 16 upvotes | Siyu Yan, Yizhen Gao, Yilin Wang, Dongxing Mao et al.
  • 链接：arXiv | PDF
  • 摘要翻译：DataEvolver 将数据构建视为反馈驱动的 policy evolution。Retriever 收集候选样本，Verifier 打分并给拒绝原因，Critic 汇总反馈，Generator 针对覆盖不足区域合成样本，再用反馈记忆指导下一轮。实验显示，在相同数据预算下，它比固定数据集更能提升富文本图像生成，PixArt-alpha 在 TextScenesHQ 上 OCR-F1 提升 85.3%。
  • 精评：核心价值是把“被拒样本”变成下一轮数据构建的信号。这个思路不只适合图像文字，也适合任何有 verifier 的数据 flywheel。

• Goku: A Million-Scale Universal Dataset and Benchmark for Instruction-Based Video Editing（2606.30599）

  • 中文：Goku：百万规模指令式视频编辑数据集与 benchmark
  • 信息：AI Agents | score 15 | 2026-06-30, HF 1 upvote | Sen Liang, Cong Wang, Zhentao Yu, Fengbin Guan et al.
  • 链接：arXiv | PDF
  • 摘要翻译：Goku 提供 200 万对高质量、指令对齐的视频编辑样本，把任务从外观编辑扩到多任务和结构操作，比如精确控制主体运动。作者提出 Goku-Edit，用 MLLM 作为文本 encoder，并用解耦双分支结构分别处理结构控制和外观渲染；Goku-Bench 包含 1,000 个真人验证测试样例和 7 个编辑指标。
  • 精评：数据规模和任务边界是亮点。视频编辑真正难在结构控制和长时一致性，Goku 的价值要看 benchmark 是否覆盖复杂真实创作需求。

Audio LLM

• ALM2Vec: Learning Audio Embeddings for Universal Audio Retrieval with Large Audio-Language Models（2606.30682）

  • 中文：ALM2Vec：从大型音频语言模型学习通用音频检索 embedding
  • 信息：Audio LLM | score 18 | 2026-06-27, HF 1 upvote | Fengjie Lu, Chenang Jiang, Jiarui Hai, Helin Wang et al.
  • 链接：arXiv | PDF
  • 摘要翻译：ALM2Vec 从大型音频语言模型中迁移音频理解、指令跟随和推理能力，学习统一音频 embedding。它不只做 audio-caption 匹配，还支持 instruction-aware retrieval，包括音频问答和 aspect-conditioned retrieval。
  • 精评：适合音频库、录音检索和可控声音搜索。关键看长音频、多事件重叠和跨语言查询。

• MuSViT: A Foundation Vision Model for Sheet Music Representation（2606.31811）

  • 中文：MuSViT：用于乐谱表示的基础视觉模型
  • 信息：Audio LLM | score 16 | 2026-06-30, HF 2 upvotes | Carlos Penarrubia, Antonio Rios-Vila, Eliseo Fuentes-Martinez, Juan C. Martinez-Sevilla et al.
  • 链接：arXiv | PDF
  • 摘要翻译：MuSViT 是一个面向乐谱理解的 ViT encoder，用 970 万页 IMSLP 乐谱通过 Masked Autoencoders 预训练。作者先用合成排版乐谱 warm-up，再用完整 IMSLP corpus 训练，并在整页/五线谱级识别、符号检测、难度分类等任务上评测。线性探测下，MuSViT 明显优于通用视觉 encoder。
  • 精评：这是很典型的 domain foundation model：通用视觉模型不擅长乐谱这种高度结构化符号系统。对 OMR 和音乐教育工具有价值。

• AVTok: 1D Unified Tokenization for Holistic Audio-Video Generation（2606.30811）

  • 中文：AVTok：用于整体音视频生成的一维统一 tokenization
  • 信息：Audio LLM | score 16 | 2026-06-29, HF 3 upvotes | Kien T. Pham, I Chieh Chen, Qifeng Chen, Long Chen
  • 链接：arXiv | PDF
  • 摘要翻译：AVTok 用双流 transformer、共享 encoder-decoder 和模态特定 learnable queries，将音视频对编码成紧凑的一维 latent 表示和统一 codebook。作者提出分层训练策略，逐步建立各模态重建能力，并在 audio-to-video、video-to-audio、联合音视频生成中展示效果。
  • 精评：统一 tokenization 是多模态生成的基础问题。AVTok 的方向对构建统一音视频生成模型很重要，但同步质量、压缩率和重建保真需要细看。

• FlexiSLM: A Dynamic and Controllable Frame Rate Spoken Language Model（2606.31247）

  • 中文：FlexiSLM：动态且可控帧率的 spoken language model
  • 信息：Audio LLM | score 13 | 2026-06-30, HF 0 upvotes | Jiaqi Li, Chaoren Wang, Xiaohai Tian, Mingjie Chen et al.
  • 链接：arXiv | PDF
  • 摘要翻译：FlexiSLM 支持 speech input/output 的动态和可控帧率。相比固定 25Hz 或 12.5Hz 的 SLM，它利用语音信息密度随时间变化这一点，在高质量档位超过 Qwen2.5-Omni、Kimi-Audio 等固定帧率 7B 模型；在 6.25Hz 下大约将推理时间减半，同时保持较强 speech-to-speech 质量。
  • 精评：很工程向。可控帧率意味着可以按场景在质量和速度之间切换，适合实时语音助手。

LLM Training

• Xiaomi-GUI-0 Technical Report（2606.31410）

  • 中文：Xiaomi-GUI-0 技术报告：面向真实手机环境的多模态 GUI Agent
  • 信息：LLM Training | score 19 | 2026-06-30, HF 8 upvotes | Wanxia Cao, Chengzhen Duan, Pei Fu, Pengzhi Gao et al.
  • 链接：arXiv | PDF
  • 摘要翻译：Xiaomi-GUI-0 通过真实设备为主的闭环基础设施训练和评测 GUI agent，数据覆盖头部任务、长尾泛化、reflection/memory 和异常恢复。三阶段训练后，在 RealMobile 上成功率 72.0%，AndroidWorld 上 78.9%。
  • 精评：真实设备闭环是最大看点。GUI agent 产品化必须解决异常状态分布，这篇正好抓住了这个问题。

• SpheRoPE: Zero-Shot Optimization-Free 360 Panorama Generation with Spherical RoPE（2606.32033）

  • 中文：SpheRoPE：用球面 RoPE 做零样本、免优化的 360 全景生成
  • 信息：LLM Training | score 16 | 2026-06-30, HF 1 upvote | Or Hirschorn, Aaron Olender, Eli Alshan, Ianir Ideses et al.
  • 链接：arXiv | PDF
  • 摘要翻译：SpheRoPE 在推理时向预训练 diffusion transformer 注入球面先验，不需要微调或多步优化。它用 Spherical RoPE 替换标准 rotary position embeddings：低频通道重参数化为 3D 笛卡尔坐标，高频通道做谐波量化以保证周期性，并结合 Semantic Distortion CFG 约束几何。
  • 精评：这篇属于“改位置编码让模型尊重拓扑”的漂亮工作。亮点是 training-free，风险是对不同 backbone 和复杂场景的稳定性。

• Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs（2606.32032）

  • 中文：用元认知反馈强化学习，让 LLM 更忠实表达不确定性
  • 信息：LLM Training | score 16 | 2026-06-30, HF 16 upvotes | Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor et al.
  • 链接：arXiv | PDF
  • 摘要翻译：RLMF 根据模型自我判断任务表现的质量来优化偏好排序，并用 metacognitive data selection 找高价值训练样本。论文先校准模型 confidence 的忠实度，再映射为自然语言不确定性表达，在多任务上提升 faithful calibration 且保持准确率。
  • 精评：对可靠 LLM 和 agent 都重要。真正难点是防止模型只学会“看起来很谦虚”，而不是学会表达真实不确定性。

• Hierarchical Experimentalist Agents（2606.29315）

  • 中文：HExA：通过主动实验学习的层级实验型 Agent
  • 信息：LLM Training | score 16 | 2026-06-28, HF 1 upvote | Abhranil Chandra, Sankaran Vaidyanathan, Utsav Dhanuka, Varun Gandhi et al.
  • 链接：arXiv | PDF
  • 摘要翻译：HExA 让 agent 通过主动实验学习新领域知识，迭代设计实验、沉淀可组合技能库，并整合证据完成任务。在 Interphyre 物理模拟 benchmark 上，Claude Sonnet 4.6 从 2% 成功率提升到最高 77%。
  • 精评：方向上很有启发：agent 不该只检索和反思，也该会主动做实验。离真实科学实验还有距离，但框架值得借。

• Multi-Block Diffusion Language Models（2606.29215）

  • 中文：Multi-Block Diffusion Language Models：多块并行扩散语言模型
  • 信息：LLM Training | score 15 | 2026-06-30, HF 22 upvotes | Yijie Jin, Jiajun Xu, Yuxuan Liu, Chenkai Xu et al.
  • 链接：arXiv | PDF
  • 摘要翻译：论文将 block diffusion language model 从 single-block 扩展到 multi-block，让连续 block 的 running set 并行解码。作者提出 Multi-block Teacher Forcing，使训练状态更接近 MultiBD 推理；再用 Block Buffer 解码机制保持 prefix cache 复用和静态输入形状。MBD-LLaDA2-Mini 将 average TPF 从 3.47 提到 6.19，准确率从 79.95% 到 81.03%。
  • 精评：和 BlockPilot 一样，都是围绕扩散语言模型的实际推理效率。需要看在更大模型和开放生成任务上的质量退化。

• Are We Measuring Strategy or Phrasing? The Gap Between Surface- and Approach-Level Diversity in LLM Math Reasoning（2606.29985）

  • 中文：我们测到的是策略还是措辞？LLM 数学推理中表层多样性与方法多样性的差距
  • 信息：LLM Training | score 15 | 2026-06-29, HF 10 upvotes | Sangmook Lee, Minbeom Kim, Jeonghye Kim, Dohyung Kim et al.
  • 链接：arXiv | PDF
  • 摘要翻译：论文提出 approach-level diversity，即同一道题正确解法中策略层面的差异。作者用人类校准的 LLM judge 发现，常见多样性指标主要捕捉表面措辞变化，并不能可靠代表策略多样性；在 diversity-aware RLVR 中，目标指标保持了，但 approach-level diversity 反而下降。多样策略候选集能改善 test-time scaling，但直接优化 LLM judge diversity reward 会导致模型利用 judge 偏好。
  • 精评：这篇是在提醒大家：数学推理多样性不能只看答案文本长得不一样。对搜索、self-consistency 和 RLVR 都有参考价值。

• FaceMoE: Mixture of Experts for Low-Resolution Face Recognition（2606.32040）

  • 中文：FaceMoE：面向低分辨率人脸识别的 Mixture of Experts
  • 信息：LLM Training | score 14 | 2026-06-30, HF 0 upvotes | Kartik Narayan, Vishal M. Patel
  • 链接：arXiv | PDF
  • 摘要翻译：FaceMoE 将 MoE transformer 架构用于低分辨率人脸识别，使用多个 FFN experts 和 top-k router，让不同 token 动态进入合适专家。作者认为这种设计会自然形成面部语义区域专门化，并通过稀疏激活在低分辨率微调时保留预训练知识。实验覆盖 11 个 HR、混合质量和 LR benchmark，超过现有方法。
  • 精评：这是偏视觉识别的工程论文。MoE 用在低分辨率适配上有意思，但安全和隐私场景下的人脸识别应用需要格外谨慎。

• ComplianceGate: Classifier-Gated Multi-Tier LLM Routing for Inference in Regulated Industries（2606.31163）

  • 中文：ComplianceGate：面向监管行业的分类器门控多层 LLM 路由
  • 信息：LLM Training | score 14 | 2026-06-30, HF 0 upvotes | Abhishek Dey
  • 链接：arXiv | PDF
  • 摘要翻译：ComplianceGate 在任何 decoder inference 之前放置 encoder classifier，先判断查询复杂度和数据敏感性，再路由到合适大小、合适地理位置的 dense model。PII 查询会在进入 LLM 计算前被送到本地 endpoint。600 条查询评测中，延迟中位数降低 39%，成本节省 33-52%，分类器准确率 99.2%，PII recall 接近完美，额外开销 7ms。
  • 精评：架构思路很实用：合规路由必须发生在模型端点之前，而不是模型内部。需要更大规模、更真实的 PII/合规测试来验证鲁棒性。

其他值得关注

• BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding（2606.31315）

  • 中文：BlockPilot：面向扩散式 speculative decoding 的样本自适应 block size 策略
  • 信息：其他值得关注 | score 19 | 2026-06-30, HF 67 upvotes | Hao Zhang, Yiming Hu, Yong Wang, Mingqiao Mo et al.
  • 链接：arXiv | PDF
  • 摘要翻译：BlockPilot 用 prefilling representation 为每个样本预测最优 block size，从而改进 diffusion-based speculative decoding 的效率。它只在 prefilling 后预测一次，额外开销小，并在 Qwen3-4B 上达到 acceptance length 5.92 和 4.20x speedup。
  • 精评：样本自适应解码策略是推理优化的好方向，尤其适合不同输入难度差异很大的生产流量。

• DOPD: Dual On-policy Distillation（2606.30626）

  • 中文：DOPD：双重 on-policy distillation
  • 信息：其他值得关注 | score 14 | 2026-06-29, HF 75 upvotes | Xinlei Yu, Gen Li, Qingyi Si, Guibin Zhang et al.
  • 链接：arXiv | PDF
  • 摘要翻译：DOPD 关注 on-policy distillation 中的 privilege illusion：当 teacher 或 student 得到额外特权信息时，学生可能模仿无法复制的信息不对称，而不是真正获得能力。论文提出 advantage-aware dual distillation，根据 advantage gap 和相对概率在 privileged teacher 与 privileged student policy 之间动态路由 token-level supervision，并为不同 token 赋予不同强度和目标的监督。
  • 精评：这篇的概念很值得看，尤其适合有 privileged signals 的蒸馏场景。关键是 token-level 路由规则是否稳定，以及特权信息边界如何定义。