我们提出 Freya-TTS，这是一款紧凑、无需 tokenizer、以土耳其语为首要目标的文本转语音模型，旨在提供高度可靠且高效的对话语音合成。Freya-TTS 是一个包含 1.832 亿参数的非自回归条件流匹配 Diffusion Transformer（扩散 Transformer，DiT），运行在 AudioVAE2 冻结的连续潜空间中（以 16 kHz 编码、48 kHz 解码），从而让模型能够把容量集中用于从文本到潜变量的映射，同时继承高质量的 48 kHz 重建能力。我们从三个关键方向推进了这一框架：（1）基于 92 个符号的土耳其语字符词表进行无规则端到端建模，不使用音素器、字素到音素前端或离散语音 tokenizer；（2）采用非自回归并行去噪，在预测得到的时长范围内同时预测整段潜变量序列；（3）提出面向生产的两阶段后训练方案，包括单说话人音色锁定和短语句覆盖，从而改善说话人一致性与短输入上的鲁棒性。在 Freya-TR-Eval 基准上，Freya-TTS 的同频段 Word Error Rate（词错误率，WER）为 8.0%，Character Error Rate（字符错误率，CER）为 3.0%；它只使用更大开源系统的一小部分参数，表现却明显更好。模型在消费级 GPU 上的实时因子为 0.11，并可在笔记本 CPU 上以快于实时的速度运行，因此非常适合资源受限的边缘部署。我们以 Apache-2.0 许可证发布模型权重、训练与推理代码以及评测基准。

随着音视频生成模型逐步演化为世界模拟器，跨模态同步成为评估生成内容中世界动态与因果一致性的关键代理指标。然而，现有评测指标预设生成结果在结构上是正确的，因此把同步问题简化为纯粹的时间对齐。结果是，这些指标在生成式输出上表现不佳，尤其难以处理结构幻觉和不对称的跨模态关系；目前评估这类同步问题仍需要专家进行人工标注。这种依赖带来了一个关键悖论：人类评估者依靠相对的、依赖参考的比较，而自动化指标则要求无参考的绝对标量。我们提出一个框架，通过把人类的相对感知蒸馏为连续、全局一致的指标来解决这一悖论。首先，我们提出 SynthSync，这是一个通过成对人工标注对生成失效案例进行排序的数据集。其次，我们对配备连续潜变量投影的 Omni-LLM 进行适配，将相对的人类排序转换成连续的绝对数值。第三，我们提出 Real-Valued Group Relative Policy Optimization（实值组相对策略优化，R-GRPO），通过列表式分数分布把同步关系中的全局因果结构内化到模型中。实验表明，我们的指标在对齐人类偏好方面达到当前最佳水平。我们进一步利用这一估计器建立标准化基准，推动音视频生成评估从低层信号相关性迈向以视觉内容为依据的因果一致性评估。

直接从音乐生成长时、高分辨率且节奏同步的舞蹈视频仍是一项重大挑战，主要原因在于现有扩散模型受时间建模能力限制，通常在超过 20 秒后便会失效。现有方法无论依赖中间的三维骨架，还是采用端到端视频合成，在扩展到更长时间范围时都会遭遇时间漂移、身份不一致和动作模式重复等问题。为解决这些局限，我们提出一种面向分钟级连贯音乐舞蹈生成的新型分层框架。该方法把生成过程解耦为全局关键帧规划与局部时间细化，并利用完整曲目的音乐上下文保证长程一致性。关键创新包括：通过映射到时间的 RoPE 嵌入动态调整帧率，以实现精确对齐；使用基于光流的损失函数增强动作连续性；引入运动速度控制，在快速运动时保留高保真细节。大量实验表明，该框架突破了传统的时长限制，能够以更好的时间稳定性生成超过一分钟的稳定 720p/30fps 视频。此外，模型可同时接受音频和文本提示作为条件，并在五种不同舞蹈类型上展现出良好的通用性，在连贯长视频舞蹈生成方面建立了新的最佳水平。

我们提出 MulTTiPop，这是一个由流行音乐片段及其对应的多轨 MIDI 录制组成的数据集，用于评估自动音乐转录模型。MulTTiPop 包含 572 段流行音乐，总计 3.5 小时音频，所含歌曲跨越多种风格与年代，时间范围从 1930 年代延伸至 2000 年代。为了收集这一数据集，我们首先根据元数据，对 Lakh MIDI 和 TheoryTab 数据集中的歌曲片段进行匹配；随后人工确定音频与 MIDI 之间的一个锚点节拍，再对音频进行节拍跟踪，并对 MIDI 做时间扭曲，使其速度和时序与音频匹配。我们在 MulTTiPop 上评估了当前最佳的自动音乐转录模型，结果显示仍有很大的提升空间：表现最好的模型也只达到 38% 的 Onset F1（起音 F1）。关于 MulTTiPop 的更多细节和声音样例可访问 https://gclef-cmu.org/multtipop。

我们提出 Soofi S 30B-A3B，这是一个面向德语和英语的主权开源基础模型，采用 Mixture-of-Experts（混合专家，MoE）与 Mamba-Transformer 混合架构。该混合设计在每个 token 上只激活 300 亿总参数中的 30 亿，并在上下文增长时让推理缓存保持近似恒定，因此在长上下文、高并发部署中相较稠密模型具有显著吞吐优势。Soofi S 在约 27 万亿 token 上完成预训练，其中有意提高了德语数据的权重；它在英语和德语综合基准上的表现可匹配 140 亿至 270 亿参数的稠密模型，并且在 17 个开放基础模型中取得两种语言最佳的代码能力综合成绩。在我们的对比中，它还超过所有欧洲主权模型基线，包括一些激活参数规模远大于它的模型。在完全开放的模型中，Soofi S 获得最高的英语和德语评测分数，领先 Olmo 3 32B 和 Apertus 70B。Soofi S 的全流程构建均在德国工业 AI 云上完成；这是由德国电信在慕尼黑运营的主权高性能计算规模 AI 基础设施。Soofi S 将以高度宽松的开放访问条款发布，包括权重、部分中间检查点、完整的分来源数据统计、超参数以及训练与评测代码。在数据源许可证允许的情况下，数据构建产物也会采用宽松许可证发布；对于商业授权的数据源，则会提供汇总统计和精确的数据混合比例说明。

大型基础模型的快速进展主要由大规模文本语料预训练推动。然而，许多类型的知识通过视觉表征传达，其中图表、排版公式和页面布局承载着丰富信息，这些信息无法仅靠文本忠实或完整地表达。尽管如此，当前预训练方法通常会把文档和网页等视觉信息丰富的来源转换为纯文本来学习语言智能，从而丢弃这些视觉线索。本文对“语言模型必须在纯文本表征上训练”这一默认假设提出挑战，并证明 Visual Pretraining（视觉预训练）是一种可扩展的基础模型智能学习方式。为此，我们系统研究了无需文本抽取、直接利用视觉文档的无监督视觉预训练范式。在多种骨干网络和评测基准上，基于相同底层语料的视觉预训练持续优于纯文本预训练，为可扩展语言智能提供了一条高效路径。

我们提出 Mach-Mind-4-Flash，这是一个包含 350 亿参数、每次激活 30 亿参数的 Mixture-of-Experts（混合专家，MoE）智能体模型。仅通过后训练优化、无需扩大预训练计算量，模型便达到或超过百亿参数级模型的表现。通过引入可扩展的智能体交互环境以开展大规模强化学习，模型在真实应用任务上获得显著提升。我们的流水线包含三个阶段：（1）统一的 RL/OPD 训练基础设施，配备动态多教师调度和算子级加速，使端到端训练速度提升 17%；（2）在推理、通用和智能体三个方向并行训练多个领域强化学习专家，再通过 Multi-Teacher On-Policy Distillation（多教师在策略蒸馏，MOPD）将它们融合成单个通用模型；MOPD 采用带路由的反向 KL 目标，消除了混合奖励强化学习中的跷跷板式性能退化；（3）Hybrid Median-length Policy Optimization（混合中位长度策略优化，HMPO），这是一种单阶段 token 效率优化方法，能把推理链压缩 19%–46%，而准确率损失不超过 0.7 个百分点。Mach-Mind-4-Flash 在 AIME'26、IFBench、Behavioral-SafetyBench、BFCL-v4、BrowseComp-zh 和 ClawBench 上分别取得 92.70、82.82、80.74、75.80、72.31 和 84.20 分；其性能领先或匹配激活规模为自身 10–30 倍的模型，而推理成本仅为后者的一小部分。

大规模文本到图像模型是很有吸引力的密集预测骨干网络，因为 RGB 生成预训练能够学习丰富的语义、结构和几何先验。现有生成式和编辑式方法通过把密集预测转化为目标生成来复用这些先验：深度、法线、Alpha 蒙版、掩码和热图等标注先被编码到针对 RGB 训练的 VAE 潜空间，再解码为类似图像的目标。我们认为，这种做法继承了超出密集预测所需的生成输出接口：与 RGB 合成不同，密集预测需要的是与输入位于同一图像平面、逐像素准确且符合任务原生表示的场，而不是渲染新的 RGB 内容。我们的关键观察是，预训练 DiT 已经通过图像平面上的“图像块—token—图像块”格点来组织 RGB 输入，因此每个 token 都索引一个固定输出图像块；这些 token 的通道可以承载任务原生量，而非 RGB 外观。我们把这一思路实现为 ReChannel：保留 VAE 编码器以维持 DiT 的输入分布，但移除目标侧解码器；使用面向任务的 LoRA 适配冻结的 DiT，并通过共享的 token 局部线性头，把每个 token 映射成其 p×p×K_t 的像素空间图像块。该输出头约含 3.3 万个参数，不进行空间混合。我们以 FLUX-Klein 为基础，在六项密集预测任务和十多个基准上进行评估。这个极简接口在无需 trimap 的图像抠图、KITTI 深度估计和指代分割上取得新的最佳结果，并在法线、显著性和姿态任务上保持竞争力。在匹配的 4B 设置中，它比“编辑加潜变量解码”的对照方案更准确且快 2.48 倍——这说明密集感知可以从生成预训练中获益，而无需继承其输出接口。

医学天然具有多模态属性，临床医生需要综合多种数据流中的信息。然而，多模态基础模型的发展受限于难以获得大规模、高质量的临床数据。尽管 PubMed Central（PMC）提供了由专家撰写的图文数据这一互补来源，现有从 PMC 派生的数据资源在保真度、可复现性和临床验证方面仍然不足。我们提出 MedPMC，这是一个自动化、可持续更新的框架，可将采用宽松许可证的文献转化为面向医学多模态模型的高保真基础设施。MedPMC 应用于 610 万篇 PMC 论文后，整理出 1100 万组医学图文对。各组件评测显示：初步筛选 F1 为 93.2，多面板图像检测 F1 为 96.5，图像拆分 mAP 为 89.8，图注拆分与对齐的 F1 和 ROUGE-L 分别为 81.4 与 85.3，医学图像分类 F1 为 96.5。五名标注者（其中三人具有医学训练背景）的人工审查发现，MedPMC 图像中有 95.3% 与医学相关，而此前一个 PMC 派生数据集的这一比例仅为 19.7%。在覆盖 11 个专科的 26 个基准上，使用 MedPMC 训练的 CLIP 式模型虽然采用的图文对数量不到最强同架构生物医学 CLIP 基线的一半，其平均零样本 AUC 仍提高了 7.1 个百分点。作为多模态大语言模型的视觉编码器时，它在两个医学视觉问答基准上分别提高了 1.9 和 16.9 个百分点。在耶鲁纽黑文医疗系统的 10,524 张皮肤科照片上，它让“形态描述到图像”的检索 Recall@5 提高了 11.7 个百分点。这些结果表明，高保真文献整理能够在基准与临床环境中增强医学多模态基础模型。我们公开发布该框架、语料库、基准和预训练模型。

随着 AI 让代码生成成本持续下降，软件工程的新瓶颈已转移到意图说明与验证。要解决 AI 驱动编码中的持久可靠性危机，仅靠传统模糊测试并不够：每个候选属性既必须在模型上被证明正确，也必须在真实实现上得到验证，因此形式化证明与系统化的 Property-Based Testing（基于属性的测试，PBT）是互补的。然而，要大规模地用这种方式验证属性，需要解决两个子问题：验证候选属性，以及在不受 AI 幻觉影响的情况下把 PBT 落地执行。我们提出假设：如果把重复出现的属性模式表达为属性模板——即带有待填参数位置的抽象参数化形式——就能同时解决这两个问题。

本文研究 Apache Spark 中反复出现的属性模式。在数据密集型可扩展计算系统中，正确性属性源于数据分区、计算分解和数据流计算的基本原理。例如，聚合分解把在完整数据集上执行的全局函数，与先执行局部函数、再使用重组器的过程关联起来。我们设计了一个智能体双轨验证框架：一条轨道使用属性模板在 Lean 4 定理证明器中进行形式化正确性验证；另一条轨道把 PBT 模板实例化为可执行的 PySpark 测试。评估表明，属性模板可让智能体证明工程的成功率最高提升 2.6 倍、平均提升 1.6 倍，并将证明幻觉减少 59%。模板引导的 PBT 合成把意图错配从 22 次减少到 1 次，并使合成成本最高降低 5.7 倍、平均降低 3.8 倍。模板引导的合成在代码覆盖率上还超过当前最佳的 Spark 模糊测试器，并接近不受引导的 LLM 式 PBT。最后，对比两条轨道本身也很有信息价值：当形式化证明成功、但 PBT 找到反例时，这种不一致会暴露形式模型与真实实现之间的缺口。

AI 智能体已经能够自主完成简短且定义明确的任务。然而，现有终端基准主要关注几分钟内即可完成的简单问题，并且只根据最终结果进行评估。这种设置忽视了中间进展和部分解决方案，因此奖励信号稀疏，也无法完整反映智能体能力。我们提出 Long-Horizon-Terminal-Bench，这是一个包含 46 个长时程任务的终端基准，覆盖九个类别，包括实验复现、软件工程、多模态分析、交互式游戏和科学计算。每项任务都沿用 Terminal-Bench 风格的设置，配有参考解法或模拟引擎，同时进一步分解为可细粒度评分的子任务。该设计支持密集的中间奖励和部分得分，使评测不仅能判断智能体是否达到最终目标，还能衡量它在开放式工作流中究竟推进了多远。Long-Horizon-Terminal-Bench 中的任务通常需要数百个 episode，执行时间从数分钟到数小时不等；它所考验的是长时程规划、长上下文管理和迭代调试，而非一次性问题求解。我们评估了 15 个前沿模型，发现智能体每项任务平均消耗 990 万 token，执行约 231 个 episode，单次运行耗时 85.3 分钟，因此该基准比以往终端类基准要求更高。即使表现最强的模型，在部分奖励阈值为 0.95 时 pass@1 也只有 15.2%，在完美奖励阈值 1.0 时则为 10.9%；所有模型在两个阈值下的平均通过率分别只有 4.3% 和 1.7%。这些结果显示该方向仍有很大的提升空间。我们还进一步分析了失效模式和错误规律，并发布 Long-Horizon-Terminal-Bench，以支持未来长时程终端智能体研究。

通过多轮工具使用生成代码的智能体式 LLM 系统面临一个根本性的上下文问题：每个会话都从零开始，丢弃了让之前会话高效工作的配置选择、领域约束、数据模式和工具使用方式。简单地持久化完整对话历史既浪费 token，也可能适得其反，因为无关上下文会降低生成质量。我们提出 Shared Selective Persistent Memory（共享选择性持久记忆），这是一种识别并保留四类可复用上下文——任务规范、数据模式、工具配置和输出约束——同时丢弃会话特有推理轨迹的架构。关键在于，这种记忆是共享的：封装选择性记忆的工作区可以通过基于角色的访问控制在用户之间传递，从而支持协作复用，无需反复说明相同要求。我们在一个已部署的协作工作区平台中实现该架构；其中，LLM 智能体从 CSV、SQL、REST API 和 MCP 服务器等异构来源生成、编辑并维护采用 git 进行版本管理的产物，包括仪表盘、报告和数据驱动文档。配套的零 token 数据刷新机制将生成程序与运行时数据解耦，使产物无需再次调用 LLM 即可复用。在三个企业场景中，共享选择性持久记忆实现了 96% 的任务完成率，而无记忆和保留完整历史的方案分别为 79% 和 71%。零 token 刷新消除了周期更新中的 LLM 重复调用，使任务耗时缩短 14 倍；摘要驱动生成则相较注入原始数据，把每次调用的 token 成本降低 97 倍。在四个公开数据集上的复现实验验证了其泛化能力，零 token 刷新在 12 次试验中全部成功。值得注意的是，简单保留完整历史会用过时轨迹误导智能体，主动降低完成率；选择性记忆则优于“完全不记忆”和“全部记忆”这两个极端。

长上下文处理对 Large Language Models（大语言模型，LLM）日益重要，但仅仅扩展上下文窗口并不能保证模型有效利用长输入。随着输入长度增长，准确率往往会下降，这说明模型仍难以识别并使用与问题最相关的证据。改善长上下文利用的一种有前景的方法是 Test-Time Training（测试时训练，TTT），它把测试上下文视作训练样本，对参数进行面向当前实例的适配。然而，在完整长上下文上应用 TTT 的成本高得难以承受，而在随机采样片段上做适配又会引入严重噪声。由于长上下文中的大多数片段与具体问题无关，在这些片段上训练甚至可能降低基础模型表现。我们的初步研究表明，TTT 对训练片段质量极其敏感：在 LongBench-v2 上，对随机片段做 TTT 会损害性能，而对 oracle 片段做 TTT 则能显著改善性能。受此启发，我们提出一个简单方法 Self-Guided TTT（自引导测试时训练，S-TTT）：在适配之前，模型先识别自己应该学习的证据片段，随后只对这些选中的片段应用标准语言建模训练目标。在 LongBench-v2 和 LongBench-Pro 两个具有挑战性的长上下文推理基准上，S-TTT 都提高了 Qwen3-4B-Thinking-2507 与 Llama-3.1-8B-Instruct 的准确率，最高实现 15% 的相对提升。