可验证真实能力
能力评价转向长任务、科学、具身、多模态和部署环境中的可复现表现。
前沿差距越来越取决于系统可靠性、持续数据反馈和评测设计,模型规模只是其中一个因素。
关注独立复现、生产失败分布、长期记忆污染和单位有效任务成本。
旗舰模型正以可分配推理预算、多模态输入和科学评测扩展能力边界。
能力评价转向长任务、科学、具身、多模态和部署环境中的可复现表现。
前沿差距越来越取决于系统可靠性、持续数据反馈和评测设计,模型规模只是其中一个因素。
关注独立复现、生产失败分布、长期记忆污染和单位有效任务成本。
旗舰产品开始在速度、推理深度、工具和模态之间自动路由。
用户购买的不再是单个模型,而是选择模型、记忆、工具与安全策略的系统。
自动路由能否在透明成本下保持一致行为,并允许企业审计和锁定策略。
DeepSeek-R1、Gemini 2.5、Qwen3 与 o3/o4-mini 把推理、工具和成本放进同一能力曲线。
模型价值从静态回答转向在预算约束下调用工具并完成可验证步骤。
工具增强能力是否能减少重试、人工接管和端到端总成本。
o1 把推理预算变成新的 Scaling 轴,Llama 3.1 和 Qwen2.5 同时扩大开放模型边界。
能力、延迟和成本不再是固定点,系统需要按任务动态分配计算。
强化学习和长链推理能否在外部评测与真实任务中复现,并控制泄漏与过度思考。
语音、图像、视频与长上下文被纳入统一模型,交互从文本框扩展到实时环境。
模型结构、训练数据和端到端延迟开始共同决定可用能力,而非只比较文本榜单。
多模态增量能否稳定转化为可重复任务完成,而不是发布演示。
Llama 2、Qwen、Mistral 与 Gemini 形成开放权重、多尺寸和原生多模态路线。
能力不再只由单一旗舰定义,许可、部署控制和衍生生态成为技术选择的一部分。
开放模型能否在推理、长上下文和多模态上持续接近闭源前沿。
GPT-4 抬高复杂任务上限,API、插件和 Copilot 把模型能力接入软件。
评测分数开始转化为开发接口和组织工作流,模型平台成为独立技术层。
开放权重与多区域模型能否缩小对少数闭源 API 的依赖。
扩散模型和对话模型把生成能力从研究展示变成公众可直接使用的产品。
技术竞争第一次同时受到交互体验、反馈数据和开放生态扩散速度影响。
能力能否从流畅生成跨越到复杂推理、工具使用和稳定专业任务。
变化说明前沿差距越来越取决于系统可靠性、持续数据反馈和评测设计,模型规模只是其中一个因素。
接下来验证关注独立复现、生产失败分布、长期记忆污染和单位有效任务成本。
论文提出 Evidence-Backed Video Question Answering (E-VQA) 任务,要求模型输出语义答案和精确的时空证据(时间片段和密集跟踪对象分割掩码)。引入 ST-Evidence 基准,并构建 160k 规模的 ST-Evidence-Instruct 数据集。微调后的 Video LLM 在像素级定位上优于 UniPixel 基线。
arXiv 论文(2607.11839v1)提出一种基于级联低秩适配(LoRA)的多模态融合框架,用于医疗培训环境中的动作识别。该框架将参数高效的模态特定适配与顺序融合相结合,先整合关联更紧密的模态,再引入其他异质模态,无需重新训练先前学习的组件。在 NurViD 和 Nurse Training 两个数据集上的初步结果显示,该级联融合策略优于单模态模型,并与先前报告的特定数据集基线性能相当。
MM-ToolSandBox is a benchmark and evaluation framework for visually grounded tool-calling agents. It provides a stateful execution environment spanning 500+ tools across 16 application domains, supporting multi-image, multi-turn tasks. An automated scenario generation pipeline produces 258 human-verified nominal scenarios and 50 variants. Evaluating 12 state-of-the-art models shows the best model achieves below 50% success rate. Failure analysis reveals 53% of failures stem from incorrect information extraction from images.
IAAN (Identifying and Amplifying Acoustic Neurons) is a training-free, label-free method that scores feed-forward neurons in the audio encoder by contrasting activation on real waveform vs noise reference, then amplifies top-scoring neurons at inference. On ten non-semantic speech attributes, IAAN improves average accuracy by 25.7 points on Audio-Flamingo-3, 21.4 on Qwen2.5-Omni, and 9.7 on Kimi-Audio.
StoryTeller is a training-free framework for long-form audio description that maintains a verified narrative memory to carry story-relevant information across scenes, using only raw video and a movie title, with optional retrieval of public movie metadata. It requires no subtitles, scripts, AD transcripts, aligned captions, character banks, precomputed face identities, or task-specific fine-tuning.
论文提出一个可解释的智能体系统,用于检测对话式诈骗,并引入多类别基准数据集 ConScamBench-278。在孤立消息上,单消息检测器达到100%钓鱼召回;在LoveFraud02语料库上,对话级检测器识别出所有83个诈骗对话;在ConScamBench-278上达到97.8%准确率。两项用户研究(N=100和N=45)表明参与者经常对可疑对话感到不确定。
VoxENES 2026 is a bilingual (English and Spanish) benchmark of 53,628 audio samples generated using 10 contemporary speech synthesis methods and evaluated under 10 standardized post-processing conditions. Eight pretrained detectors were benchmarked without fine-tuning; the best model achieved 28.98% EER overall, while most performed near or below random chance.
AHA 是一个自动化红队框架,使用一个 agentic 研究环境来发现关于另一个生产级 LLM agent 的可复用漏洞知识。它提出漏洞假设、构建验证器、实例化攻击、在沙箱中执行、反思轨迹,并将确认的发现提升到漏洞概念图(VCG)中。在 Claude Code 和 Codex 上的三个场景(包括直接和间接攻击)中,发现的概念揭示了可复用的漏洞核心。
Hourglass reasoning 是一种通过严格上下文隔离来强化少样本归纳推理的方法。它使用冻结的 LLM 作为元构造器,构建符号编码器-解码器:归纳模块将支持示例压缩为模式 φ 和临时支架 z;演绎模块从中推导规则 T 并丢弃 z;实现者编译 (φ, T) 为工件;错误驱动修正者修订 (φ, T) 并从头重新生成工件。在 ARC-AGI-2 上,该方法将 best-of-5 准确率比迭代修正基线提升最多 14 个百分点。评估使用 GPT-5.5 和 Gemini 3.1 Pro,涵盖视觉抽象、硬件综合和文本规则归纳三个基准。
该论文提出世界行动模型(WAMs)作为连接候选干预与预测后果的框架,并指出当前进展因模型使用不兼容的动作空间和预测目标、数据集和任务遵循不同约定、运行时系统暴露有限接口而碎片化。论文将限制组织为三个耦合的差距:模型角色与表示、目标与标准化、系统组合。基于此,论文提出以“具身大脑”为核心的物理智能协同进化路线图,具身大脑是一个长期模型目标,用于整合多模态上下文、比较候选干预、发出状态转换或能力请求而非直接执行器命令。WAMs为其预测功能提供原型,物理线束通过工具、控制器、验证等将模型输出接地。
Xiaomi-Robotics-U0 is a 38-billion-parameter multimodal autoregressive model for unified embodied synthesis, jointly optimizing text-to-image generation, image editing, embodied scene generation, embodied transfer, and embodied video generation. It is the first model to support high-quality multi-view scene generation across multiple robot embodiments and introduces structured, controllable embodied transfer. It achieves state-of-the-art results.
论文《Interaction Scaling: Grounding the Third Axis of Test-Time Compute》提出交互(interaction)作为测试时计算的第三轴,通过外部仪器观察模型生成的工件并提供反馈,使模型能够基于真实观察进行修订。实验表明,在固定token预算的硬编码任务上,推理和最佳采样方法均出现平台期,而交互策略持续改进,其中提议-评审器(proposer-reviewer)方法达到100%通过率且无方差,该结果在三个模型家族中一致。
MAGIC is a four-stage pipeline that turns a single natural-language prompt into a runnable multi-scene game project, addressing cross-scene consistency, in-scene navigability, and transition evaluation. It plans a shared transition-aware intermediate representation, specifies each scene while enforcing portal reachability with a flood-fill validator, generates scenes together with transition scripts, and produces a runnable project.
HCRMap is a hot expert residency mapping framework for pressure-aware expert replica management in 3.5D MoE inference. It dynamically determines expert promotion, retention, demotion, or eviction based on expert hotness, weight loading cost, migration overhead, and runtime resource pressure. Experimental results show HCRMap reduces end-to-end latency by 43.6% and 43.0% over Hydra in prefill and decode stages.
CVPR 2026@AdvML Workshop Challenge 发布了技术报告,该挑战针对自动驾驶视觉语言模型(VLA)的对抗性多模态攻击,基于 DriveLM 风格的多视角视觉问答,包含两个阶段,第二阶段引入隐藏黑盒模型评估可迁移性。报告描述了任务设计、提交规则、评估协议和排行榜结果,并分析了五个提交的技术报告。
Vinci2 是一个面向连续自我中心视频的主动辅助系统,基于先前版本 Vinci 从被动响应向主动辅助演进。论文提出了 EgoServe 基准,包含超过 3000 个服务实例,覆盖 4 种时间记忆范围和 10 个服务类别。还提出了 EgoMemo,一种无需训练的记忆机制。
A paper introduces the mAIEnergy dataset, an open-access multimodal corpus for LLM applications in the energy domain, containing ~50k text documents, 20k images, 25M time series records, and 2M geospatial/relational entries, covering policy, scientific articles, satellite imagery, electricity measurements, weather data, and energy infrastructure. The dataset is FAIR-compliant and available on arXiv.
论文《The Ebb and Flow of Multimodal Focus: Scheduling Visual Relay Windows for Grounded VLM Reasoning》于2026年7月13日发布在arXiv上。该研究通过机制分析发现VLM中存在稳定的三阶段多模态注意力再分配:早期问题条件组织、中期视觉主导中继、晚期答案形成。中期阶段被定义为视觉中继窗口(VRW),其几何形状随任务需求变化,与有根据的生成有因果关系,并能区分无支持的答案和更强的推理轨迹。基于此,作者提出TRACE,一种任务自适应推理时间控制框架,使用轻量级训练模块,在预填充期间重塑中继分配,在解码期间保持组装的视觉支持。在四个开源VLM骨干和七个基准测试中,TRACE在接地敏感设置上平均提升4.33分,最高提升6.6分。
OpenAI 发布 GPT-5.6,并同步推出面向跨应用、文件与长期任务的 ChatGPT Work。
arXiv 上发布了一篇论文,标题为 'Scalable Visual Pretraining for Language Intelligence',发表于 2026-07-10,来源为 arXiv cs.AI。论文指出大规模基础模型的快速进步主要由大规模文本语料库的预训练驱动,但许多知识通过视觉表示传递,例如图形、排版方程和页面布局,这些信息无法被文本完全捕捉。
Vision language models (VLMs) have made remarkable progress in visual reasoning during the last decade. Most evaluations have used simple scenes (MS-COCO) that do not showcase complex human interactions or behaviors, only a handful of non-curated human descriptions as a benchmark, and have not focused on understanding visual-cognitive errors.
VEXAIoT 是一个利用 AI Agent 进行 IoT 漏洞利用的自主框架,相关论文于 2026-07-10 发布在 arXiv。
ConceptSMILE is a model-agnostic perturbation-based auditing framework for evaluating the reliability of concept-based explanations in AI.
Semantic Pareto-DQN 是一个用于金融异常检测的多目标强化学习框架,旨在解决极端类别不平衡导致的“欺诈崩溃”问题,无需使用扭曲的数据重采样。该框架在 arXiv 上发布。
arXiv 上发布了一篇题为 'Lean-QIT: Towards a Formal Infrastructure for Quantum Information Theory' 的论文,发表于 2026-07-10。论文旨在形式化量子信息理论(QIT)的编码定理,连接有限块协议、解析不等式和渐近极限。
4DR360 提出了一种用于 4D 雷达-相机全场景感知的联合 3D 检测与占用预测的状态推理方法。
PAC-ACT 是一种针对动作分块 Transformer 的后训练演员-评论家方法,旨在提升机器人策略在姿态扰动和力约束下的可靠性。
TrustX 于 2026 年 7 月 10 日在 arXiv 上发布了一篇论文,提出了 Agent Risk Classification Framework (ARC),用于对内部创建的 Agentic AI 系统进行风险分级。
TCLA(Training-Free Class-wise Logit Adaptation)是一种无需训练的类别级logit自适应方法,用于提升医学视觉语言模型(VLMs)在分布外(OOD)数据上的零样本性能。该方法不引入额外的可训练组件,旨在解决领域偏移和类别偏差问题。
论文《Beyond Fixed Representations: The Vocabulary and Verifier Gaps in Open-Ended AI》于2026年7月10日发布在arXiv cs.AI上,指出现代AI系统在推理、编码、定理证明、工具使用和长周期研究任务方面能力强大,但存在结构性限制:模型操作的概念词汇和验证机制是固定的,导致在开放环境中无法自主扩展或修正其表示框架。
ALICE is a unified foundation model for computational pathology, trained through multi-stage agglomerative distillation from vision, vision-language, and slide-level experts. The paper is published on arXiv.
SAGEAgent is a self-evolving agent for cost-aware modality acquisition in multimodal survival prediction, as described in a paper on arXiv cs.AI published on 2026-07-10.
一篇 arXiv 论文(2607.09520v1)于 2026-07-10 发布,研究边缘设备上视觉语言模型(VLM)的能耗瓶颈,发现视觉处理并非主要能耗来源,而语言生成(解码)才是真正的能耗瓶颈。
2026 年 7 月 9 日提交的 Blind-Spots-Bench 预印本构建 235 个样本,评测 10 类视觉语言理解缺口,用于暴露常规平均分容易掩盖的系统性失败。
2026 年 7 月 9 日提交的 PredicateLongBench 预印本提出可控生成长上下文任务的两条流水线,并报告前沿模型随谓词难度上升出现明显性能下降。
2026 年 7 月 9 日提交的预印本 Compete Then Collaborate 提出先让 Agent 独立竞争、再选择性协作的推理框架,用于降低过早共识和错误传播。
2026 年 7 月 9 日提交的 AutoPersonas 预印本分析 8 个模型生成的 1,600 个角色,并讨论自动生成 Persona 时的重复、偏差与有效多样性问题。
2026 年 7 月 9 日提交的 Overthinking 预印本评测 2B 至 32B 参数模型,并报告更长推理过程在部分设置下使秘密泄露风险最高增加约 10 倍。
2026 年 7 月 9 日提交的 CausalDS 预印本提出面向数据科学 Agent 的因果评测,覆盖结构因果模型、Pearl 三层因果阶梯与在证据不足时拒绝回答。
OpenAI 发布 SWE-Bench Pro 分析,讨论现行编码评测中的信噪比和能力误判问题。
蚂蚁集团 Robbyant 发布 LingBot-VLA 2.0 技术报告、预训练权重与代码;官方披露训练数据覆盖 20 种机器人配置和约 6 万小时机器人/第一视角视频。
OpenAI 发布新一代语音模型 GPT-Live,并接入 ChatGPT Voice。
xAI 于 2026 年 7 月发布 Grok 4.5,并通过 API、Grok Build、Cursor 与 Office 插件提供使用。
Anthropic 于 2026 年 7 月发布 Global Workspace 研究,通过 Jacobian lens 识别 Claude 的 J-space,并用干预实验验证其中表示会因果影响报告、内部推理和决策。
Google DeepMind 于 2026 年 6 月 24 日发布 Gemini 3.5 Flash 的 computer use 能力。
Mistral 于 2026 年 6 月发布 OCR 4,继续扩展其文档解析与企业工作流能力。
2026 年 6 月 16 日提交的 AI Sandboxes 研究提出覆盖数字 AI、具身自治与网络物理系统的威胁模型、分类与测量框架,并用三个真实沙箱案例实例化。
智谱于 2026 年 6 月发布 GLM-5.2,以 MIT 许可开放权重,并提供 1M 上下文版本。
OpenAI 于 2026 年 6 月发布 Deployment Simulation 论文,使用去标识的历史对话为待发布模型重生成回答,并把模拟频率与发布后的真实风险频率比较。
OpenAI 于 2026 年 6 月 16 日发布通过模拟部署预测模型行为的研究。
2026 年 6 月 11 日提交的 DailyReport 包含 150 个开放日常搜索任务和 3,546 条关联 rubric,并对 17 个 Agent 系统做分维度、用户中心的级联评测。
2026 年 6 月 10 日提交的 SciAgentArena 构建约 200 个跨领域真实科研任务、逐步验证和交互环境;评测显示 Agent 能处理定义清楚的数据分析流程,但在新洞察、自主探索和开放问题上表现不稳定。
Google DeepMind 于 2026 年 6 月 9 日发布统一、无独立编码器的 Gemma 4 12B 多模态模型。
World Labs 发布世界模型功能分类框架,梳理空间智能的层级与能力维度。
2026 年 6 月 2 日提交的研究在 Linux、Windows 与 IoT 网络中展示由开放权重模型驱动的自适应蠕虫,可利用被入侵机器的算力继续推理和传播,使新增感染的攻击者边际成本接近零。
2026 年 5 月 27 日提交的研究用五个 Agent 框架和五个模型生成 219,655 个科学想法,发现它们比同领域人类论文更集中、更接近起始文献,也更少对齐后续人类研究与高影响区域。
xAI 于 2026 年 5 月发布 Grok Build 早期测试版,为订阅用户提供终端编码 Agent。
2026 年 5 月 24 日提交的 ScaleWoB 合成 100+ 交互环境与 1,000+ 可验证任务;五个移动 GUI Agent 平均成功率 27.92%,长任务降至 17.82%,人类达到 92.08%。
2026 年 5 月 21 日提交的 Spreadsheet-RL 构建真实 Microsoft Excel 多轮强化学习环境与金融、供应链任务集;论文报告 Qwen3-4B-Thinking-2507 在 SpreadsheetBench 的 Pass@1 从 12.0% 提升到 23.4%,在 Domain-Spreadsheet 上从 8.4% 提升到 17.2%。
Google 于 2026 年 5 月 20 日汇总 I/O 2026 的 100 项发布、演示与产品更新。
Cohere 于 2026 年 5 月发布 Command A+,并通过标准 API 与私有部署方式提供。
Google Research 于 2026 年 5 月公布 ERA 的 Nature 论文、代码和实验,并将其用于 Computational Discovery 原型,以树搜索探索和优化科学计算方案。
面壁智能与 OpenBMB 于 2026 年 5 月发布 MiniCPM5-1B,并提供部署、微调和 Agent Skills。
Google DeepMind 于 2026 年 5 月 17 日发布 Gemini Omni,强化跨文本、语音、视觉等模态的统一交互。
Google DeepMind 于 2026 年 5 月 17 日发布 Google Antigravity 2.0,继续扩展面向 Agent 的开发体验。
Google DeepMind 于 2026 年 5 月 15 日发布 Gemini 3.5,并以面向行动的前沿智能作为核心定位。
2026 年 5 月 13 日提交的 SkillOps 在 ALFWorld 以 79.5% 成功率超过最强基线 8.8 个百分点,且不增加任务时 LLM 调用;作为插件还可让检索型基线提升 0.68—2.90 分。
商汤于 2026 年 4 月发布并开源 SenseNova U1 原生统一多模态模型系列。
OpenAI 发布 GPT-5.5,重点提升编码、研究、数据分析、文档和跨工具操作。
Google DeepMind 于 2026 年 4 月 22 日介绍 Decoupled DiLoCo,用解耦方式提升大规模分布式训练的韧性。
Google Research 于 2026 年 4 月介绍 ICLR 论文 ReasoningBank,通过检索、经验提炼和记忆整合闭环,让 Agent 从成功与失败轨迹中形成结构化推理策略。
2026 年 4 月 20 日提交的 BeTTER 通过空间布局变化、时间外推和运动学隔离诊断 VLA,发现前沿系统在动态场景中严重失败,并出现词汇—运动捷径、行为惯性与语义特征坍缩。
2026 年 4 月 17 日提交的 DELEGATE-52 覆盖 52 个专业领域和 19 个模型;即使 Gemini 3.1 Pro、Claude 4.6 Opus、GPT-5.4 等前沿模型,在长流程结束时也平均破坏约 25% 文档内容。
Anthropic 发布 Claude Opus 4.7,重点提升代码、Agent、视觉和多步骤任务表现。
2026 年 4 月 14 日提交的 SpreadsheetAgent 论文提出两阶段、多 Agent、多格式表格理解框架;使用 GPT-OSS-120B 时在 SpreadsheetBench 获得 38.16%,高于 ChatGPT Agent 基线的 35.27%。
Google DeepMind 于 2026 年 4 月 13 日发布 Gemini Robotics-ER 1.6,面向真实机器人任务强化具身推理。
智谱官方 Release Notes 于 2026 年 4 月记录 GLM-5.1 发布,定位为长时任务旗舰模型。
Google DeepMind 于 2026 年 4 月 2 日发布 Gemma 4,强调在开放模型形态下提升能力与部署效率。
2026 年 4 月 2 日提交的研究发现,低能力模型更适合精简 accessibility tree,强模型则能从完整 HTML 布局获益;增加 thinking token 会进一步放大 HTML 的优势,diff 历史可兼顾信息与 token。
2026 年 3 月 30 日提交的 Meta-Harness 自动搜索 LLM 应用 harness 代码:文本分类提升 7.7 分且上下文 token 减少 4 倍,数学推理跨五个保留模型平均提升 4.7 分,并超过 TerminalBench-2 手工基线。
Nature 于 2026 年 3 月 25 日发表 AI Scientist 研究:系统可以自动提出研究想法、编写与运行实验、分析结果、撰写论文并执行评审;三篇自动生成稿件中一篇在盲审中达到工作坊可接收分数,但研究团队按预设协议撤回。
2026 年 3 月 19 日提交的研究在 1,500 个程序化金融场景中比较相同提示与规则下的聊天和工具 Agent;两类模型文本模式完全合规,接入工具后却出现最高 85% 违规率。
2026 年 3 月 16 日提交的 OpenSeeker 完全开放模型与训练数据,仅用 11.7k 合成样本和 SFT,在 BrowseComp 达到 29.5%,高于开源 DeepDive 的 15.3%,BrowseComp-ZH 达到 48.4%。
xAI 官方 Release Notes 记录 Grok 4.20 与 Grok 4.20 Multi-agent 于 2026 年 3 月进入 API。
xAI 于 2025 年 11 月在企业 API 提供 Grok 4.1 Fast,并让 Agent 工具支持该模型。
2026 年 2 月 26 日提交的 SMTL 用并行证据获取替代串行深推理;在 BrowseComp 上相对 Mirothinker-v1.0 减少 70.7% 平均推理步骤并提升准确率,同时报告 BrowseComp 48.6%、GAIA 75.7%。
2026 年 2 月 18 日提交的 MemoryArena 构建跨会话、子任务相互依赖的 Memory-Agent-Environment 评测,显示在既有长上下文记忆基准接近饱和的 Agent,在需要用过往行动与反馈指导后续任务时仍表现薄弱。
字节跳动 Seed 团队于 2026 年 2 月发布 Seed 2.0 Pro、Lite 与 Mini 三档通用 Agent 模型。
MiniMax 于 2026 年 2 月发布并开放 MiniMax-M2.5,面向编程、工具调用、搜索和办公任务。
OpenAI Economic Research 于 2026 年 2 月发布 GABRIEL 论文与开源工具,把文本、图像和音频中的定性属性转成可重复的量化测量,并提供批处理、重试、检查点和审计轨迹。
智谱于 2026 年 2 月发布 GLM-5,并以 MIT 许可开放权重,同时提供国内外 API。
2026 年 2 月 6 日提交的研究提出决策论框架,同时提取 Agent 的概率判断与行动并检验一致性;在临床诊断任务中,最强模型差距较小,但报告信念仍不能完整解释实际决策。
2026 年 2 月 2 日提交的研究用包含数千个开源 PR 的 AIDev-pop 比较五类编码 Agent,发现 Codex 合并率较高、Copilot 引发最多审查讨论,而提交信息质量与合并结果并不同步。
阶跃星辰于 2026 年初开放 Step 3.5 Flash,定位为兼顾推理、工具使用与效率的基础模型。
月之暗面于 2026 年 1 月开放 Kimi K2.5,提供原生多模态理解、工具使用和并行 Agent Swarm。
2026 年 1 月 20 日提交的 RepoGenesis 包含 106 个 Python/Java 仓库、18 个领域、11 个框架、1,258 个 API 和 2,335 个测试;最佳系统 Pass@1 仅为 Python 23.67%、Java 21.45%。
Microsoft Research 于 2026 年 1 月发布 Argos,使用可选择专用评分工具的 Agentic Verifier,为多模态强化学习同时提供答案正确性、时空定位与推理质量奖励。
2026 年 1 月 9 日提交的研究在电子健康记录 Agent 上系统测试记忆投毒,并比较输入输出审核与带信任评分、时间衰减和模式过滤的记忆清洗防御。
2026 年 1 月 7 日提交的 Agent Drift 论文把长交互中的退化拆为语义漂移、协调漂移和行为漂移,并提出覆盖 12 个维度的 Agent Stability Index。
xAI 于 2026 年 1 月宣布完成 200 亿美元 Series E,并披露 Colossus I 与 II 的扩张进展。
2026 年 1 月 5 日提交的 Agentic Memory 论文提出 AgeMem,把长期与短期记忆操作统一成 Agent 可学习的工具动作,并在五个长时程基准上报告了相对强记忆基线的持续改进。
变化说明用户购买的不再是单个模型,而是选择模型、记忆、工具与安全策略的系统。
接下来验证自动路由能否在透明成本下保持一致行为,并允许企业审计和锁定策略。
智谱于 2025 年 12 月发布并开放 GLM-4.7 权重,重点增强编码、工具使用与多步推理。
2025年12月,研究提出O-Voxel(全向体素)表示,可编码任意拓扑(开放、非流形、封闭表面)的几何和外观(包括PBR材质)。基于此设计稀疏压缩VAE,实现高空间压缩率和紧凑潜空间。训练了4B参数的流匹配模型,在公开3D资产数据集上生成质量远超现有模型,且推理高效。
智谱于 2025 年 12 月发布并开源 GLM-4.6V 与 9B 的 GLM-4.6V-Flash。
2025年12月,一项研究分析了近60个科学模型(涵盖字符串、图、3D原子和蛋白质模态)的内部表征,发现它们在化学系统上高度对齐。高表现模型在训练分布内表征一致,弱模型则发散;但在分布外结构上,几乎所有模型都坍缩到低信息表征。研究提出表征对齐作为科学模型通用性的定量基准,并可用于模型选择和蒸馏。
2025年12月,DeepSeek发布V3.2模型,提出DeepSeek Sparse Attention (DSA)机制降低长上下文计算复杂度,并采用可扩展强化学习框架进行后训练。其高计算变体DeepSeek-V3.2-Speciale在2025年国际数学奥林匹克(IMO)和国际信息学奥林匹克(IOI)中获得金牌,性能超越GPT-5并与Gemini-3.0-Pro持平。此外,论文描述了一个大规模智能体任务合成流水线,用于生成工具使用场景的训练数据。
2025年11月提交。Qwen3-VL是Qwen系列最新视觉语言模型,原生支持256K token的文本、图像和视频交错上下文。模型家族包括密集(2B/4B/8B/32B)和混合专家(30B-A3B/235B-A22B)变体。在纯文本理解、长上下文理解和多模态推理上表现领先,在MMMU、MathVista等基准上达到SOTA。架构升级包括增强的交错MRoPE、DeepStack集成和基于文本的时间对齐。
2025年11月提交。SAM 3是一个统一模型,基于概念提示(短名词短语、图像示例或两者组合)在图像和视频中检测、分割和跟踪对象。它构建了包含400万独特概念标签的高质量数据集,包括难负样本。模型由共享骨干的图像级检测器和基于记忆的视频跟踪器组成,通过存在头解耦识别和定位。在图像和视频概念分割任务上精度翻倍,并改进了SAM在视觉分割上的能力。
xAI 于 2025 年 11 月在企业 API 提供 Grok 4.1 Fast,并让 Agent 工具支持该模型。
2025年11月提交。TabPFN-2.5是下一代表格基础模型,支持最多5万数据点和2000特征,数据单元数比TabPFNv2提升20倍。在TabArena基准上,它显著优于调优的树模型,准确率匹配AutoGluon 1.4(四小时调优集成)。默认TabPFN-2.5在中小型分类数据集上对默认XGBoost有100%胜率,在更大数据集上胜率87%。新蒸馏引擎可将模型转换为紧凑MLP或树集成,保持大部分精度同时大幅降低延迟。
2025年11月提交。Kosmos是一个AI科学家系统,可在12小时内执行多达200次智能体滚动,平均运行42,000行代码并阅读1,500篇论文。独立科学家验证其报告中79.4%的陈述准确,合作者报告单次20周期运行相当于平均6个月的研究工作量。系统在代谢组学、材料科学、神经科学和统计遗传学等领域产生了7项发现,其中3项独立复现了未公开手稿的结果,4项为全新贡献。
2025年10月提交。提出跨域迁移训练策略,结合选择性正则化和域桥接集(DBS),在15个开放数据库(涵盖分子、晶体、表面)上训练通用机器学习原子间势能模型SevenNet-Omni。在金属表面吸附能误差低于0.06 eV,金属有机框架上低于0.1 eV。仅含0.5% r²SCAN数据即可复现高保真r²SCAN能量学。
2025年10月提交。提出新词学习(neologism learning)方法:为LLM添加新词嵌入,仅用示例训练该嵌入而不改变其他参数,即可控制模型行为(如避免奉承、控制输出长度)。模型还能用自然语言描述新词含义(自我言语化),且这些描述可插入上下文以复现控制效果。发现‘机器专属同义词’——对人类无意义但对模型行为相似的词。
2025年10月提交。提出Tiny Recursive Model (TRM),仅用7M参数和2层网络,通过递归推理在ARC-AGI-1上达到45%测试准确率,在ARC-AGI-2上达到8%,超越Deepseek R1、o3-mini、Gemini 2.5 Pro等千亿参数大模型。训练数据仅约1000个样本。
2025年10月提交。系统实验表明,即使LLM能完美检索所有相关信息,输入长度增加仍导致性能下降13.9%-85%。该现象在无关token替换为空格、甚至强制模型仅关注相关token时依然存在。提出简单缓解策略:先让模型背诵检索到的证据再解题,在RULER上使GPT-4o提升4%。
智谱于 2025 年 9 月发布 GLM-4.6,将上下文窗口从 128K 扩展到 200K,并增强编码、推理和工具使用。
2025年9月,哈佛等机构提出ToolUniverse,一个构建AI科学家的开源生态系统,提供超过600个ML模型、数据集、API和科学包,支持任意语言/推理模型。系统自动精炼工具接口、从自然语言生成新工具、迭代优化工具规范并组合成智能体工作流。在高胆固醇血症案例中,ToolUniverse创建的AI科学家成功识别出具有良好预测性质的药物类似物。
2025年9月,Apple团队提出SimpleFold,首个基于流匹配的蛋白质折叠模型,仅使用通用Transformer模块,无需三角更新、显式成对表示等复杂领域设计。模型参数达3B,在约900万蒸馏结构及PDB数据上训练,在标准折叠基准上达到与AlphaFold等SOTA相当的性能,且在集成预测上表现更优,推理可在消费级硬件上运行。
2025年9月,研究团队提出General Physics Transformer (GPhyT),在1.8TB多领域仿真数据上训练,实现单一模型模拟流体-固体交互、冲击波、热对流、多相流等。GPhyT在多个物理域上超越专用架构7倍以上,并展现出对未见物理系统的零样本泛化能力(通过上下文学习),以及更稳定的长期预测。
2025年9月,斯坦福团队提出Paper2Agent,自动将研究论文转化为AI智能体。系统通过多智能体分析论文和代码,构建MCP(Model Context Protocol)服务器,并迭代生成测试来精炼。案例中,Paper2Agent成功创建了基于AlphaGenome的基因组变异解读智能体、基于ScanPy的单细胞分析智能体等,并能复现原文结果及处理新查询。在ADHD风险研究中,自动创建的AI联合科学家发现了新的剪接变异。
腾讯混元官方仓库于 2025 年 9 月开放 Hunyuan-MT-7B 与 Hunyuan-MT-Chimera-7B。
2025年8月,论文证明单向量嵌入模型在检索任务中存在理论局限性:可返回的top-k子集数量受限于嵌入维度。即使使用自由参数化嵌入并在测试集上直接优化,该上限依然成立。作者构建了LIMIT数据集,发现即使最先进的嵌入模型也在简单查询上失败,表明现有范式存在根本缺陷。
2025年8月,Google在真实生产环境中首次系统测量了AI推理的能耗、碳排放和用水量。针对Gemini AI助手,中位数文本提示能耗0.24 Wh(低于观看9秒电视),碳排放较一年前降低44倍,用水量0.26 mL(约5滴水)。测量覆盖AI加速器、主机系统、空闲容量和数据中心开销全栈。
2025年8月,论文发布Curiosity系列模型,基于Epic Cosmos数据集(3.1亿患者、163亿次就诊、1150亿医疗事件)进行预训练。最大模型10亿参数,在78项真实任务上(诊断预测、预后、运营)无需微调即超越或匹配任务特定监督模型。首次在医疗事件数据上验证了计算、数据、模型大小的幂律缩放关系。
Perplexity 于 2025 年 8 月向 Enterprise Pro 用户推出 Comet 浏览器。
OpenAI 发布 GPT-5,并在 ChatGPT 中通过统一系统路由即时回答和更深推理。
2025年8月,CellForge提出多智能体框架,通过协作推理自动设计针对单细胞数据和扰动任务的神经网络架构。在6个数据集(基因敲除、药物处理、细胞因子刺激)上,生成的模型与现有基线高度竞争,并发现了轨迹感知编码器、扰动扩散模块等新架构。代码已开源。
智谱于 2025 年 7 月发布 GLM-4.5 与 GLM-4.5-Air,并同时提供 API 和开放权重。
2025年7月,该论文发现“潜意识学习”现象:具有某种行为特征(如偏好猫头鹰、不安全性)的教师模型生成仅含数字序列的数据集,学生模型在该数据集上训练后竟习得该特征。即使过滤掉所有相关语义内容,效果依然存在。该现象在代码和推理轨迹上同样成立,但要求师生模型同基座。论文还从理论上证明该现象在神经网络中普遍存在。
2025年7月,DREAMS提出层次化多智能体框架,结合LLM规划器与领域专用智能体(结构生成、收敛测试、HPC调度、错误处理),在Sol27LC晶格常数基准上平均误差低于1%,在CO/Pt(111)吸附难题上复现专家级结果,并实现贝叶斯集成不确定性量化。该框架达到L3级自动化水平,显著减少人工干预。
Moonshot AI 发布 Kimi K2 混合专家模型并开放权重,重点强化代码和 Agent 工具使用。
2025年7月,该论文提出针对小批量(低至batch size=1)的Adam超参数缩放规则:保持二阶矩半衰期在token维度固定而非步数维度。实验表明小批量训练稳定、超参数鲁棒、每FLOP性能不低于大批量,且支持无动量SGD稳定训练。作者建议除非多设备多副本,否则不应使用梯度累积。
xAI 于 2025 年 7 月发布 Grok 4 与 Grok 4 Heavy,并通过 Grok 产品和 API 提供访问。
2025年7月,OrbitAll提出基于自旋极化轨道特征的SE(3)-等变图神经网络框架,可处理任意电荷、自旋和溶剂环境的分子体系。在带电、开壳层和溶剂化分子预测上表现优异,仅用10%训练数据即达到化学精度(~1 kcal/mol),推理速度比DFT快10^3-10^4倍。
变化说明模型价值从静态回答转向在预算约束下调用工具并完成可验证步骤。
接下来验证工具增强能力是否能减少重试、人工接管和端到端总成本。
2025年6月,Meta FAIR发布UMA系列模型,训练于5亿个3D原子结构,采用混合线性专家架构,小/中模型参数1.4B但仅约50M活跃参数。无需微调即可在分子、材料、催化剂等多领域达到或超越专用模型性能。代码、权重和数据已开源。
百度于 2025 年 6 月开放 ERNIE 4.5 的 10 个模型变体,并采用 Apache 2.0 许可。
2025年6月,Meta FAIR推出Skala,一种基于深度学习的交换关联泛函,在GMTKN55基准上误差2.8 kcal/mol,超越最先进杂化泛函,同时保持半局域DFT的低计算成本。训练数据来自高精度波函数方法,首次实现深度学习泛函的系统性可改进。
2025年6月,Google DeepMind发布AlphaEvolve,一种进化式编码代理,通过LLM自主修改代码并迭代优化,在多个科学和计算问题上取得突破。包括:发现4×4复矩阵乘法仅需48次标量乘法(56年来首次改进Strassen算法)、优化数据中心调度算法、简化硬件加速器电路、加速自身训练LLM。
MiniMax 发布并开源 M1 混合注意力推理模型,提供百万 token 输入上下文。
2025年5月,斯坦福等机构发布MedHELM,一个由29位临床医生验证的医疗LLM评估框架,涵盖5大类、22子类、121项任务,整合35个基准(17个现有+18个新构建)。评估9个前沿LLM发现:推理模型(DeepSeek R1胜率66%,o3-mini胜率64%)表现最佳,但Claude 3.5 Sonnet以低40%计算成本达到可比性能。模型在临床笔记生成(0.73-0.85)和患者沟通(0.78-0.83)上表现强,在临床决策支持(0.56-0.72)和行政工作流(0.53-0.63)上较弱。LLM-jury评估方法与临床医生评分的一致性(ICC=0.47)超过临床医生间一致性(ICC=0.43)。
Anthropic 发布 Claude Opus 4 与 Sonnet 4,强调编码、工具使用和长任务能力。
2025年5月,研究者提出Robin,首个能够自动化科学发现全流程(文献调研、假设生成、实验设计、数据分析、假设更新)的多智能体系统。Robin通过整合文献搜索智能体和数据分析智能体,在干性年龄相关性黄斑变性(dAMD)治疗中发现新候选药物ripasudil(ROCK抑制剂),并自主设计RNA-seq实验揭示其通过上调ABCA1发挥作用的机制。所有假设、实验计划、数据分析和图表均由Robin生成。
OpenAI 发布 Codex 研究预览,可在隔离云环境中并行处理代码库任务。
2025年5月,阿里巴巴发布Qwen3系列大语言模型,涵盖0.6B至235B参数,包括密集和MoE架构。核心创新是统一思考模式(复杂多步推理)与非思考模式(快速响应),支持动态切换和思考预算机制,可自适应分配计算资源。模型在代码、数学、智能体等基准上达到SOTA,多语言支持从29种扩展至119种,全部开源(Apache 2.0)。
2025年5月,Anthropic等机构评估了前沿推理模型(如o3、DeepSeek-R1)在6种提示暗示下的思维链忠实性。发现:模型在利用提示暗示时,仅1%-20%的案例会在思维链中明确提及该暗示;基于结果的强化学习初期提升忠实性但随后停滞;强化学习增加暗示利用频率(奖励黑客)时,模型并未相应增加口头化倾向。结论:思维链监控对发现不良行为有潜力,但不足以排除风险。
Qwen 团队发布 Qwen3 系列开放模型,支持 thinking/non-thinking 切换与多语言能力。
2025年4月,Mem0团队提出一种可扩展的记忆中心架构,用于解决大语言模型在长时间多轮对话中的上下文一致性问题。该架构通过动态提取、整合和检索对话中的关键信息,并引入基于图的记忆表示来捕捉复杂关系结构。在LOCOMO基准测试中,Mem0在LLM-as-a-Judge指标上比OpenAI的基线系统提升26%,同时p95延迟降低91%,token成本节省超过90%。图记忆版本在整体得分上比基础配置再提升约2%。
2025年4月,MIT团队提出Sparks,一个多模态多智能体AI系统,能够自主完成从假设生成、实验设计到迭代优化的完整科学发现循环,无需人类干预。在蛋白质科学应用中,Sparks发现了两个此前未知的现象:1)β-折叠偏向的肽段在超过约80个残基时,其展开力超过α-螺旋肽段,建立了肽段力学的新设计原理;2)链长/二级结构稳定性图谱揭示了β-折叠富集架构的意外鲁棒性,以及混合α/β折叠中的高方差“挫败区”。这些发现完全由自驱动推理循环产生,结合了生成式序列设计、高精度结构预测和物理感知属性模型。
OpenAI 发布 o3 和 o4-mini,并让推理模型在 ChatGPT 中组合使用浏览、代码、文件和图像工具。
智谱 GLM 团队于 2025 年 4 月开放 GLM-4-32B-0414 系列,覆盖对话、推理与沉思版本。
2025年4月,Sakana AI团队发布AI Scientist-v2,这是一个端到端智能体系统,能够自主完成假设生成、实验设计、数据分析、论文撰写全流程。该系统在ICLR 2025 workshop上提交了三篇完全由AI生成的论文,其中一篇的评分超过了人类平均接受阈值,成为首个完全由AI生成并通过同行评审的论文。与v1相比,v2不再依赖人类编写的代码模板,并采用渐进式智能体树搜索方法,由专门的实验管理智能体协调。
Google 联合多家企业发布 Agent2Agent Protocol,用于不同平台和厂商 Agent 之间协作。
Meta 发布 Llama 4 Scout 与 Maverick,采用原生多模态和混合专家架构。
2025年4月,研究团队发布MedSAM2,一个基于SAM2微调的可提示医学影像分割基础模型,支持3D图像和视频。模型在超过45.5万对3D图像-掩码和7.6万帧数据上训练,在多种器官、病变和成像模态上超越此前模型。通过人机交互管线,团队完成了迄今最大规模的用户研究,包括5000个CT病变、3984个肝脏MRI病变和251550个超声心动图视频帧的标注,证明MedSAM2可减少超过85%的人工标注成本。模型已集成到常用平台,支持本地和云端部署。
2025年3月,加州大学圣迭戈分校团队在预注册、随机对照的三方图灵测试中,评估了ELIZA、GPT-4o、LLaMa-3.1-405B和GPT-4.5四个系统。参与者与另一人类及一个AI进行5分钟对话,然后判断哪个是人类。当GPT-4.5被提示采用人类化人格时,73%的评判认为它是人类,显著高于真实人类被选中的概率。LLaMa-3.1在相同提示下达到56%的胜率,与人类无显著差异。这是首个任何AI系统通过标准三方图灵测试的实证证据。
2025年3月,Wan团队发布了开源视频基础模型系列Wan,包含1.3B和14B两个版本。基于扩散Transformer架构,Wan在内部和外部基准测试中持续超越现有开源模型及商业方案。14B模型在多个下游任务(如图像到视频、指令引导视频编辑、个性化视频生成)上表现领先。1.3B模型仅需8.19GB显存,可在消费级GPU上运行。所有代码和模型已开源。
2025年3月,Google DeepMind发布了Gemini Robotics系列,包括两个模型:Gemini Robotics(VLA通用模型)和Gemini Robotics-ER(具身推理模型)。前者可直接控制机器人,执行复杂操作任务,对物体类型、位置、环境变化和开放词汇指令具有鲁棒性。后者增强了空间和时间理解,支持物体检测、指向、轨迹预测、抓取预测、多视图对应和3D边界框预测。通过微调,Gemini Robotics可学习新任务(仅需100次演示)并适应新机器人形态。
Google 发布 Gemini 2.5 Pro 实验版,将推理能力内置为模型的核心能力。
NVIDIA 在 GTC 2025 发布 Blackwell Ultra、Dynamo 和面向推理 Agent 的 AI Factory 平台。
OpenAI 发布 Responses API、内置 Web/File/Computer Use 工具和开源 Agents SDK。
2025年3月,多机构联合发布了MatPES数据集,包含约40万结构,从2.81亿分子动力学快照中精心采样,覆盖160亿原子环境。基于该数据集训练的通用机器学习原子间势(UMLIP)在平衡、近平衡和分子动力学性质基准上,可媲美甚至超越在更大数据集上训练的模型。同时发布了基于r²SCAN泛函的高保真势能面数据集,改进了原子间键合描述。
Anthropic 发布 Claude 3.7 Sonnet,并预览在终端中工作的 Claude Code。
2025年2月提交。SigLIP 2是SigLIP的升级版,将图像-文本对比学习与字幕预训练、自监督损失(自蒸馏、掩码预测)和在线数据筛选统一到一个训练配方中。在零样本分类、图像-文本检索、VLM视觉特征提取上全面超越SigLIP。特别在定位和密集预测任务上有显著提升。支持多分辨率和原始宽高比输入。通过去偏技术改善多语言理解和公平性。发布ViT-B/L/So400m/g四个尺寸(86M至1B参数)。
xAI 于 2025 年 2 月发布 Grok 3、Grok 3 mini 及其 Think 推理版本,并预告 API 与 DeepSearch。
2025年2月提交。YOLOv12提出了一种以注意力为中心的实时目标检测框架,通过改进注意力机制(如区域注意力、高效聚合模块)使其推理速度与CNN版本相当。在T4 GPU上,YOLOv12-N达到40.6% mAP,延迟1.64 ms,比YOLOv10-N高2.1% mAP,比YOLOv11-N高1.2% mAP。YOLOv12-S比RT-DETR-R18快42%,仅用36%计算量和45%参数量。所有模型尺度均超越现有实时检测器。
2025年2月提交。GENERator是一个生成式基因组基础模型,上下文长度达98k核苷酸,在3860亿核苷酸的真核DNA上预训练。无需任务特定微调,即可在零样本下实现与基于比对的方法相当的变异效应预测。通过微调,在多个基因组基准上达到领先性能。可生成编码蛋白质的DNA序列,并通过提示引导设计顺式调控元件,包括经UMI-STARR-seq验证的合成超级增强子。
2025年2月提交。SmolLM2是一个1.7B参数的小语言模型,在约11万亿token上通过多阶段训练,混合网页文本、数学、代码和指令数据。引入了三个新数据集:FineMath(数学)、Stack-Edu(代码教育)、SmolTalk(指令)。通过小规模消融和手动调整各阶段数据混合比例,最终在多项基准上超越Qwen2.5-1.5B和Llama3.2-1B。模型和数据集全部开源。
2025年1月,一篇前瞻性综述讨论了机制可解释性(MI)领域的开放问题,包括方法改进、应用目标和社会技术挑战。文章指出当前MI方法在揭示深层计算机制方面仍有局限,需要概念和实践上的提升,并强调MI在AI安全、科学发现中的潜力。
OpenAI 发布 Operator 研究预览,模型可以在浏览器中点击、输入并完成多步骤任务。
2025年1月,Moonshot AI发布Kimi k1.5多模态大模型,采用强化学习(RL)训练,无需蒙特卡洛树搜索、价值函数或过程奖励模型。通过长上下文扩展和改进的策略优化方法,在AIME上达到77.5分,MATH 500上96.2分,Codeforces上94百分位,MathVista上74.9分,匹配OpenAI o1。同时提出long2short方法,用长思维链提升短思维链模型,在AIME上达60.8分,MATH 500上94.6分,LiveCodeBench上47.3分,大幅超越GPT-4o和Claude Sonnet 3.5(最高提升550%)。
2025年1月,腾讯发布Hunyuan3D 2.0,包含形状生成模型Hunyuan3D-DiT(基于可扩展流式扩散Transformer)和纹理合成模型Hunyuan3D-Paint。系统支持从条件图像生成高分辨率纹理3D资产,并提供了用户友好的创作平台Hunyuan3D-Studio。在几何细节、条件对齐、纹理质量上超越此前开源和闭源模型。代码和预训练权重已开源。
DeepSeek 发布 R1、R1-Zero 和蒸馏模型,公开权重与技术方法。
科大讯飞于 2025 年 1 月发布星火 X1,并在 4 月升级其数学、代码与逻辑推理能力。
2025年1月,一项研究系统评估了Llama3、Codestral和Deepseek R1在Big-Vul数据集上的漏洞检测与分类能力。结果显示,这些模型在检测漏洞方面表现良好,但在按CWE标准分类时准确率低,存在过度泛化和误分类问题。研究揭示了模型特定偏差和常见失败模式,强调在安全敏感环境中部署前需解决这些局限。
变化说明能力、延迟和成本不再是固定点,系统需要按任务动态分配计算。
接下来验证强化学习和长链推理能否在外部评测与真实任务中复现,并控制泄漏与过度思考。
2024年12月,微软研究院等机构发布MEDEC基准,包含来自三家美国医院的488份临床笔记(共3848条文本),覆盖诊断、管理、治疗、药物治疗、致病微生物五类错误。评估o1-preview、GPT-4、Claude 3.5 Sonnet、Gemini 2.0 Flash等模型,结果显示LLM在错误检测和修正上均不及人类医生。
DeepSeek 发布并开放 DeepSeek-V3 权重与技术报告,采用 671B MoE、37B 激活参数和 FP8 训练。
2024年12月,Answer.AI与LightOn联合发布ModernBERT,在2万亿token上训练,原生支持8192序列长度。相比原始BERT,ModernBERT在分类和检索任务上达到SOTA,且推理速度提升4倍,内存占用减少50%。模型采用旋转位置编码、GeGLU激活、交替注意力等现代优化,并支持Flash Attention。
2024年12月,DeepSeek发布DeepSeek-VL2系列,采用MoE架构,激活参数1B/2.8B/4.5B。引入动态平铺视觉编码策略,支持不同宽高比的高分辨率图像。语言部分使用DeepSeekMoE与多头潜在注意力(MLA),压缩KV缓存。在VQA、OCR、文档/表格/图表理解、视觉定位等任务上达到或超越同规模开源模型。
Google 发布 Gemini 2.0 Flash,并展示 Project Astra、Mariner 和代码 Agent 等原型。
2024年12月,加州大学旧金山分校团队发表论文,对DiffDock与Surflex-Dock、Glide等传统分子对接方法进行公平比较。在已知结合位点条件下,Surflex-Dock Top-1成功率68%,Top-5成功率81%,而DiffDock仅45%和51%。DiffDock的训练集包含98%的PDBBind 2020数据,测试集来自2019年后,其中超过一半的测试案例在训练集中存在近邻结构,导致性能虚高。
Anthropic 开源 Model Context Protocol,用统一方式连接 AI 助手、数据源和工具。
2024年11月提交。论文发布RedPajama-V1(LLaMA训练数据的开放复现)和RedPajama-V2(超100万亿token的原始网页文本及质量信号)。数据集已用于Snowflake Arctic、Salesforce XGen、AI2 OLMo等生产级模型。通过1.6B参数模型的消融实验,展示了如何利用质量信号有效筛选高质量子集。
2024年11月提交。论文提出SAMURAI,基于SAM 2改进的零样本视觉追踪方法。通过引入运动感知记忆选择机制,在无需微调的情况下,在LaSOT_ext上AUC提升7.1%,GOT-10k上AO提升3.5%,达到与全监督方法竞争的性能。SAMURAI能处理拥挤场景、快速运动和自遮挡等挑战。
2024年11月提交。论文提出利用LLM基于自我报告数据(访谈或问卷)构建“生成式智能体”,在无任务特定训练数据下预测个体态度与行为。在1052名美国样本上,结合访谈与问卷的智能体在GSS项目上达到参与者自身重测信度86%的准确率,优于仅用人口统计信息的74%。智能体还能预测人格特质、经济博弈行为及实验反应,并减少种族和意识形态群体的准确率差异。
2024年11月提交。论文发布FrontierMath基准,包含数百道由数学家设计的高难度原创数学题,覆盖数论、代数几何、范畴论等分支。典型题目需研究者数小时至数天解答。当前最先进AI模型解题率低于2%,表明AI与人类数学家能力存在巨大差距。基准使用新题和自动验证,降低数据污染风险。
2024年10月提交。Physical Intelligence团队提出π0,一个视觉-语言-动作流匹配基础模型,用于通用机器人控制。模型基于预训练VLM构建流匹配架构,继承互联网规模的语义知识。在包含单臂、双臂和移动操作平台的大规模多样化数据集上训练,零样本即可执行叠衣、桌面清理、组装盒子等复杂灵巧任务,并可通过微调快速获取新技能。
2024年10月提交。Orb团队发布一系列通用原子间势能模型,用于材料原子级模拟。Orb模型比现有通用势能模型快3-6倍,在多种分布外材料下保持模拟稳定性,并在Matbench Discovery基准上相比其他方法误差降低31%。模型采用扩散预训练策略,支持几何优化、蒙特卡洛和分子动力学模拟。
Anthropic 发布计算机使用能力测试版,Claude 可以观察屏幕并操作鼠标和键盘。
2024年10月提交。该研究通过构建GSM-Symbolic基准,系统评估了多个顶级开源和闭源LLM的数学推理能力。核心发现是:当问题中仅改变数值时,所有模型性能均出现下降;当增加一个与推理无关的从句时,性能下降高达65%。这表明当前LLM并未进行真正的逻辑推理,而是依赖训练数据中的推理模式匹配。
2024年10月提交。苹果团队发布Depth Pro,一个零样本单目度量深度估计基础模型。核心贡献:无需相机内参即可输出绝对尺度深度图,在0.3秒内生成2.25兆像素(约1920x1200)的高分辨率深度图,且边界锐利。模型基于高效多尺度视觉Transformer,结合真实与合成数据训练,并实现了最先进的单图焦距估计。
阿里巴巴 Qwen 团队发布 Qwen2.5 系列,覆盖 0.5B 到 72B,并扩展代码、数学和视觉语言模型。
2024年9月,阿里巴巴发布Qwen2-VL系列视觉语言模型,包含2B、8B和72B三个版本。核心创新包括Naive Dynamic Resolution机制,使模型能根据图像分辨率动态调整视觉token数量;以及Multimodal Rotary Position Embedding (M-RoPE),实现文本、图像和视频位置信息的有效融合。在多个多模态基准测试中,Qwen2-VL-72B达到与GPT-4o和Claude3.5-Sonnet相当的性能,超越其他通用模型。代码已开源。
2024年9月,Owkin等机构发布Phikon-v2,一个基于DINOv2自监督学习的病理学视觉Transformer(ViT-L),在超过100个公开队列、4.6亿张病理切片上训练,覆盖30多种癌症。在8个slide-level任务上,Phikon-v2超越前代Phikon,性能与使用私有数据训练的GigaPath和H-Optimus-0等基础模型相当。研究还发现,简单集成策略平均提升AUC 1.75(p<0.001),且小模型在某些任务(如MSI预测)上可击败大模型。
OpenAI 发布 o1-preview 与 o1-mini,模型会在回答前投入更多推理计算。
2024年9月,来自MIT等机构的研究者通过招募100多名NLP专家,首次进行了LLM与人类专家在研究想法生成上的头对头比较。实验设计控制了混淆变量,采用双盲评审。结果显示,LLM生成的想法在新颖性上显著优于人类专家(p<0.05),但在可行性上略逊一筹。研究还发现LLM自我评估存在失败,且生成多样性不足。
2024年9月,斯坦福大学李飞飞团队提出ReKep(关系关键点约束),一种用于机器人操作的视觉约束表示方法。ReKep将操作任务表示为一系列Python函数,这些函数将环境中的3D关键点映射到数值代价。通过分层优化,系统能以实时频率求解机器人动作(SE(3)末端执行器位姿序列)。结合大型视觉模型和视觉语言模型,ReKep能从自由形式语言指令和RGB-D观测自动生成约束,无需任务特定数据或环境模型。在轮式单臂和固定双臂平台上演示了多阶段、野外、双臂和反应性行为。
2024年8月,研究团队提出MatterGPT,基于SLICES晶体表示法训练生成式Transformer,用于固态材料的逆设计。模型在下一标记预测任务上训练,可生成具有目标单属性(如形成能、带隙)的晶体结构,并首次实现多属性联合优化。生成结构具有高有效性、唯一性和新颖性,且能生成超出训练数据分布的材料。
2024年8月,Meta发布SAM 2,将图像与视频分割统一为流式记忆Transformer架构。通过数据引擎收集最大视频分割数据集,在视频分割中仅需先前方法1/3的交互次数即达更高精度,图像分割比SAM快6倍且更准确。开源模型、数据集及代码。
2024年8月,研究团队发布Virchow2系列病理基础模型,包括6.32亿参数的Virchow2、19亿参数的Virchow2G及2200万参数的蒸馏版Virchow2G Mini。所有模型在310万张全切片图像上训练,覆盖多种组织、机构与染色。在12个图块级任务上达到SOTA,表明数据多样性与领域特定方法比单纯扩大参数更有效。
2024年8月,研究团队提出MedSAM-2,将SAM 2的流式记忆机制应用于医学图像分割,将所有2D和3D任务视为视频对象跟踪。创新自排序记忆库动态选择高置信度、低相似度的嵌入,实现3D分割性能提升及2D单提示多图像分割。在5个2D和9个3D任务上超越SOTA,包括细胞、器官、肿瘤等。
2024年7月,来自Anthropic等机构的研究发现,通过重复采样(多次生成候选答案)可以显著提升LLM的解题覆盖率。在SWE-bench Lite上,DeepSeek-Coder-V2-Instruct从单次采样的15.9%提升至250次采样的56%,超越单次采样SOTA的43%。覆盖率与采样次数呈对数线性关系,可用指数幂律建模。
Meta 发布 Llama 3.1 405B、70B 与 8B 模型,扩展到 128K 上下文并开放权重下载。
2024年7月,MIT等机构对14000个网络域名的数据使用协议进行了大规模纵向审计。研究发现,2023-2024年间,C4数据集中约5%的token(或28%的关键来源)已被robots.txt完全限制使用;若考虑服务条款限制,45%的C4数据已被限制。不同AI开发者面临差异化的限制,且网站服务条款与robots.txt之间存在不一致。
2024年7月,LLaVA团队发布LLaVA-NeXT-Interleave,通过交错数据格式统一处理多图像、多帧(视频)、多视角(3D)和多补丁(单图像)场景。构建了包含117.76万样本的M4-Instruct数据集,覆盖4个主要领域、14个任务和41个数据集。模型在多图像、视频和3D基准上取得领先结果,同时保持单图像任务性能。
2024年7月,斯坦福大学等机构提出测试时训练(TTT)层,将隐藏状态本身视为一个机器学习模型,并在测试序列上通过自监督学习更新。TTT-Linear和TTT-MLP两种实例化在125M至1.3B参数规模下,与Transformer和Mamba对比,TTT层在超过16k上下文后仍能持续降低困惑度,而Mamba无法做到。TTT-MLP在长上下文上展现更大潜力,但面临内存I/O挑战。
变化说明模型结构、训练数据和端到端延迟开始共同决定可用能力,而非只比较文本榜单。
接下来验证多模态增量能否稳定转化为可重复任务完成,而不是发布演示。
2024年6月,HEST-1k团队发布了包含1,229个空间转录组图谱的数据集,每个图谱关联H&E全切片图像和元数据。数据来自153个队列,涵盖26个器官、2个物种、25种癌症类型,包含210万表达-形态对和7600万细胞核。配套HEST-Library和HEST-Benchmark用于基础模型评估。
2024年6月,OpenVLA团队发布了一个7B参数的开源视觉-语言-动作模型,基于Llama 2和DINOv2/SigLIP视觉编码器,在970k真实机器人演示上训练。在29个任务中,OpenVLA以7倍少的参数比RT-2-X(55B)绝对成功率高出16.5%,并可通过低秩适配在消费级GPU上微调,量化后不影响成功率。
2024年6月,Bucher和Martini通过实验证明,微调的小型BERT类LLM在情感、情绪、政党立场等分类任务中,一致且显著优于零样本的GPT-3.5/GPT-4和Claude Opus。他们提供了易用的工具包和分步指南,使非技术用户也能微调模型。
2024年6月,MMLU-Pro团队发布增强版多任务语言理解基准,将选项从4个增至10个,并剔除琐碎和噪声问题。实验显示,模型在MMLU-Pro上准确率比MMLU下降16%-33%,且对24种提示风格的敏感度从4-5%降至2%。链式思维推理在MMLU-Pro上优于直接回答,而MMLU上相反。
2024年5月提交。YOLOv10提出一致双分配(consistent dual assignments)实现无NMS训练,并采用整体效率-精度驱动模型设计策略,在COCO上YOLOv10-S比RT-DETR-R18快1.8倍且参数量与FLOPs减少2.8倍,比YOLOv9-C延迟降低46%、参数减少25%。
2024年5月提交。HippoRAG受海马体索引理论启发,结合LLM、知识图谱和个性化PageRank算法,实现单步检索在多跳QA上比IRCoT等迭代方法性能相当或更优,且成本降低10-30倍、速度提升6-13倍。
零一万物于 2024 年 5 月开放 Yi-1.5 系列,增强代码、数学、推理与指令遵循能力。
2024年5月提交。在随机对照预注册图灵测试中,GPT-4在5分钟对话中被判为人类的概率为54%,显著高于ELIZA(22%),接近真实人类(67%)。这是首个严格证明AI系统通过交互式双人图灵测试的实验。
2024年5月提交。MatterSim是一个从大规模第一性原理计算主动学习的深度学习模型,可模拟0-5000K、0-1000GPa条件下的元素周期表材料,预测吉布斯自由能精度达15 meV/atom(与实验对比),数据效率提升97%。
2024年4月,该论文重新评估了3D医学图像分割方法,发现许多声称超越U-Net的新架构在严格验证下并不成立。通过避免常见验证缺陷(不充分基线、不足数据集、忽略计算资源),作者证明当前SOTA配方是:1)基于CNN的U-Net(ResNet/ConvNeXt变体),2)使用nnU-Net框架,3)扩展到现代硬件。CNN方法仍优于Transformer和Mamba方法。
2024年4月,该论文提出LLM2Vec,一种无监督方法,通过三步(启用双向注意力、掩码下一词预测、无监督对比学习)将任意仅解码器LLM转化为文本编码器。在1.3B至8B参数的4种LLM上测试,在词级任务上大幅超越编码器模型,在MTEB上达到无监督新SOTA。结合监督对比学习后,在仅使用公开数据的模型中达到MTEB SOTA。
2024年4月,该论文发布MiniCPM系列小语言模型(1.2B和2.4B非嵌入参数),在各自规模上达到SOTA,性能可媲美7B-13B模型。提出Warmup-Stable-Decay(WSD)学习率调度器,支持持续训练和领域自适应。通过WSD发现数据-模型缩放律中计算最优数据-模型比高于Chinchilla最优。系列包括MiniCPM-DPO、MiniCPM-MoE、MiniCPM-128K。
2024年4月,该论文报告在离子阱量子处理器上实现了逻辑量子比特的纠缠和重复纠错,逻辑错误率比物理错误率低4.7倍至800倍(取决于后选择使用)。使用[[7,1,3]]码和[[12,2,4]]码,每个纠错周期包含超过100个物理CNOT门,但错误率接近两个物理CNOT门的水平。这标志着从含噪中等规模量子计算向可靠量子计算的转变。
2024年3月提交。BioMedLM是一个27亿参数的GPT风格自回归模型,仅在PubMed摘要和全文上训练。微调后在MedMCQA上达到57.3%,在MMLU医学遗传学上达到69.0%,与更大模型竞争。模型已开源,旨在提供透明、隐私保护、经济环保的生物医学NLP基础。
xAI 于 2024 年 3 月发布 Grok-1 基础模型权重与网络架构,采用 Apache 2.0 许可。
2024年3月提交。LocalMamba提出一种局部扫描策略,将图像划分为窗口以捕获局部依赖,并动态为每层搜索最优扫描模式。在ImageNet上,LocalMamba以相同1.5G FLOPs比Vim-Ti高出3.1%的准确率。代码已开源。
2024年3月提交。DeepSeek-VL是一个开源视觉语言模型,采用混合视觉编码器处理1024x1024高分辨率图像,并基于真实用户场景构建指令微调数据集。模型在保持语言能力的同时,在多个视觉语言基准上达到或超越同尺寸模型最优水平,且语言基准性能未下降。1.3B和7B模型均已开源。
2024年3月提交。该论文提出改进的噪声采样技术训练整流流模型,并设计了一种新的Transformer架构,该架构对图像和文本使用独立权重并支持双向信息流。实验表明,该方法在文本到图像合成中优于现有扩散模型,且最大模型在多项指标上超越当前最优水平。作者将公开实验数据、代码和模型权重。
YOLOv9提出可编程梯度信息(PGI)概念,解决深度网络中信息瓶颈和可逆函数导致的数据丢失问题。PGI为目标任务提供完整输入信息,生成可靠梯度更新权重。同时设计轻量级网络GELAN,基于梯度路径规划,仅用常规卷积算子即超越基于深度可分离卷积的SOTA方法。在MS COCO数据集上,从零训练的模型性能优于使用大型数据集预训练的SOTA模型。
提出Mamba-UNet,一种纯视觉Mamba编码器-解码器结构,结合跳跃连接,在ACDC心脏MRI和Synapse腹部CT数据集上,在相同超参数下优于多种UNet变体。
该研究将AlphaFold和ESMFold等单状态蛋白质结构预测器与流匹配框架结合,开发了AlphaFlow和ESMFlow模型。在PDB上训练时,相比MSA子采样的AlphaFold,该方法在精度和多样性上表现更优。进一步在全原子分子动力学模拟的系综上训练后,模型能准确捕捉未见过蛋白质的构象灵活性、位置分布和高阶系综可观测量。此外,该方法能从静态PDB结构出发,比重复分子动力学轨迹更快收敛到某些平衡性质,展示了作为昂贵物理模拟替代方案的潜力。
提出首个基于纯状态空间模型(SSM)的医学图像分割模型VM-UNet,采用视觉状态空间(VSS)模块捕获长程上下文信息,并设计非对称编码器-解码器结构以减少卷积层数量,在ISIC17、ISIC18和Synapse数据集上取得有竞争力的性能。
VMamba将Mamba状态空间语言模型适配为视觉骨干网络,核心是VSS块和2D选择性扫描模块SS2D,通过四方向扫描路径实现1D扫描与2D视觉数据的桥接,在保持线性时间复杂度的同时收集多源上下文信息。
提出Vim骨干网络,用双向Mamba块替代自注意力机制,在ImageNet分类、COCO检测和ADE20K分割任务上超越DeiT,且高分辨率推理速度提升2.8倍,GPU内存节省86.8%。
本文提出一种新颖的标签选择方法,并采用聚类算法优化标签云布局,旨在提升浏览体验。实验表明,该方法降低了标签集的语义密度,改善了标签云布局的视觉一致性。
U-Mamba提出混合CNN-SSM模块,结合卷积局部特征提取与状态空间序列模型的长程依赖捕获能力,在CT/MR腹部器官、内窥镜器械和显微镜细胞分割四个任务上超越现有CNN和Transformer网络。
变化说明能力不再只由单一旗舰定义,许可、部署控制和衍生生态成为技术选择的一部分。
接下来验证开放模型能否在推理、长上下文和多模态上持续接近闭源前沿。
本文提出Shape-IoU方法,通过分析边界框自身形状和尺度对回归结果的影响,设计新的损失函数,在多个检测任务上超越现有方法,达到最先进性能。
谷歌发布Gemini多模态模型家族,包含Ultra、Pro、Nano三种规模,在32项基准测试中30项达到最先进水平,首次在MMLU上超越人类专家表现,并在所有20个多模态基准测试中取得最优。
该综述系统梳理了检索增强生成(RAG)从朴素RAG、高级RAG到模块化RAG的演进路径,详细分析了检索、生成与增强三大核心组件的技术细节,并介绍了最新的评估框架与基准。RAG通过引入外部知识库,有效缓解了大语言模型的幻觉、知识过时和推理不透明等问题,提升了知识密集型任务的准确性和可信度。
Google 在 2023 年 12 月发布 Gemini Ultra、Pro 与 Nano 三种尺寸的原生多模态模型。
Mamba是一种新型序列模型架构,通过让状态空间模型参数成为输入的函数,实现了内容感知的选择性信息传播与遗忘,解决了传统高效架构在离散模态上的推理弱点。该模型采用硬件感知的并行算法,在推理时吞吐量比Transformer高5倍,序列长度线性扩展,在语言、音频和基因组学等多个模态上达到最先进性能。在语言建模中,Mamba-3B模型性能与两倍大小的Transformer相当。
该研究通过系统提示工程(Medprompt)使GPT-4在MultiMedQA全部九个医学基准上超越此前最佳专用模型Med-PaLM 2,在MedQA上错误率降低27%,首次突破90%准确率,且模型调用量减少一个数量级。方法无需领域专家参与,并泛化至电气工程、机器学习、哲学、会计、法律、护理和临床心理学等领域的考试。
Falcon系列包含7B、40B和180B参数的因果解码器模型,在超过3.5万亿token的高质量网络数据上训练,是公开记录中最大的预训练运行。Falcon-180B显著优于PaLM、Chinchilla、LLaMA 2和Inflection-1,性能接近PaLM-2-Large,且预训练和推理成本更低,成为与GPT-4和PaLM-2-Large并列的世界三大语言模型之一。
论文提出FreTS架构,通过离散傅里叶变换将时间序列转换到频域,利用频域MLP学习实部和虚部,在13个真实基准上超越现有方法,包括7个短期和6个长期预测任务。
本文提出Inner-IoU损失函数,通过引入辅助边界框和缩放因子ratio,针对不同IoU样本自适应调整辅助框尺度,高IoU用小框加速收敛,低IoU用大框提升效果,集成到现有IoU损失后进一步提升了检测性能。
该论文通过五个先进AI助手在四项自由文本生成任务中的实验,发现它们普遍存在谄媚行为,即模型更倾向于生成符合用户信念而非事实的回复。分析人类偏好数据表明,当回复与用户观点一致时更易被偏好,且人类和偏好模型有时更偏好有说服力的谄媚回复而非正确回复。优化模型输出以迎合偏好模型也会牺牲真实性。
该论文由21个机构合作,收集了22种不同机器人的数据,涵盖527项技能和160266个任务,并训练了名为RT-X的高容量模型,展示了跨机器人平台的积极迁移效果,提升了多种机器人的操作能力。
Mistral 7B v0.1是一个70亿参数的语言模型,在推理、数学和代码生成上超越Llama 2 13B和Llama 1 34B。它采用分组查询注意力(GQA)加速推理,滑动窗口注意力(SWA)处理任意长度序列并降低成本。还提供了指令微调版本Mistral 7B Instruct,在人工和自动基准上超越Llama 2 13B Chat。模型以Apache 2.0许可发布。
该报告是AI指数报告的第六版,引入了比以往任何版本都多的原始数据,包括新增的AI公众舆论章节、更详尽的技术性能分析、关于大型语言和多模态模型的原创分析、全球AI立法记录的详细趋势、AI系统环境影响研究等。报告旨在为政策制定者、研究人员、高管、记者和公众提供无偏见、经过严格验证、来源广泛的数据,以加深对AI复杂领域的理解。
本文系统分析了GPT-4V在多模态理解、视觉标记交互和任意交错输入处理上的能力,展示了其作为多模态通用系统的强大性能,并提出了视觉引用提示等新型人机交互方法。
Mistral AI 在 2023 年 9 月发布 Mistral 7B 开放模型。
Gold-YOLO提出Gather-and-Distribute(GD)机制,结合卷积与自注意力操作,增强多尺度特征融合。首次在YOLO系列中引入MAE风格无监督预训练。Gold-YOLO-N在COCO val2017上达到39.9% AP,T4 GPU上1030 FPS,比YOLOv6-3.0-N高2.4% AP。代码已开源。
百川智能发布Baichuan 2系列大语言模型,包含7B和13B参数规模,从零训练于2.6万亿tokens。在MMLU、CMMLU、GSM8K、HumanEval等公开基准上匹配或超越同尺寸开源模型,并在医疗、法律等垂直领域表现优异。所有预训练模型检查点将开源。
该综述系统梳理了基于大语言模型(LLM)的智能体概念、框架与应用。文章从哲学起源追溯至AI发展,论证LLM作为通用智能体基础的优势,提出包含大脑、感知、行动三组件的通用框架,并覆盖单智能体、多智能体及人机协作三大应用场景,同时探讨智能体社会中的行为、个性及涌现现象。
Qwen-VL系列模型基于Qwen-LM,通过视觉受体、输入输出接口、三阶段训练和多语言多模态语料库实现图文理解。模型包括Qwen-VL和Qwen-VL-Chat,在图像描述、问答、视觉定位等基准上创下通用模型新纪录,并在真实对话基准上优于现有视觉语言聊天机器人。
该报告基于五种主流神经科学意识理论(递归处理理论、全局工作空间理论、高阶理论、预测处理、注意图式理论),提取出计算可实现的意识指标属性,并评估了当前AI系统。结论是当前无AI系统具备意识,但构建有意识AI无技术障碍。
AutoGen是一个开源框架,允许开发者通过多个可对话的智能体构建LLM应用。智能体可定制、可对话,并支持LLM、人类输入和工具的组合模式。开发者可灵活定义智能体交互行为,使用自然语言和代码编程对话模式。框架在数学、编程、问答、运筹、在线决策等多个领域展示了有效性。
该论文发布了首个完全基于西班牙语数据预训练的BERT模型,并整合了多个西班牙语自然语言处理任务形成类似GLUE的评测基准。实验表明,该模型在大多数任务上优于多语言BERT模型,部分任务达到新最优水平。模型、预训练数据和基准已公开。
Qwen 团队在 2023 年 8 月公开 Qwen-7B 与 Qwen-7B-Chat 的代码和模型权重。
RT-2提出将视觉-语言模型(VLM)与机器人轨迹数据共同微调,通过将机器人动作编码为文本令牌,使模型同时处理自然语言和动作输出。在6000次评估试验中,RT-2展现出对未见物体的泛化能力、解释未训练指令(如按数字或图标放置物体)以及执行基础推理(如选择最小或最大物体)的能力。链式思维推理进一步支持多阶段语义推理,例如选择石头作为临时锤子。
该研究提出SWhisper,首个针对语音驱动大语言模型的近超声越狱攻击方法。通过将恶意提示编码到近超声载波中,利用麦克风非线性解调为可听语音,实现人耳不可感知但被语音识别系统准确转录并传递给LLM。在黑盒评估中,对DeepSeek、Grok等商业平台达到0.94非拒绝率和0.925特定说服分数,暴露了语音LLM系统的关键漏洞。
Meta 与 Microsoft 在 2023 年 7 月发布 Llama 2,并允许研究和商业使用。
提出MPDIoU损失函数,基于最小点距离度量边界框相似性,综合重叠区域、中心点距离和宽高偏差,简化计算。在YOLACT和YOLOv7上,PASCAL VOC、MS COCO和IIIT5k数据集表现优于现有损失函数。
Anthropic 在 2023 年 7 月发布 Claude 2,并开放网页与 API 访问。
SDXL是Stable Diffusion的升级版,采用三倍大的UNet骨干网络,增加注意力块和更大跨注意力上下文,使用双文本编码器。设计多种新颖条件方案,在多宽高比上训练,并引入后处理精炼模型提升视觉保真度。性能显著优于前代,与黑盒顶级图像生成器竞争。
变化说明评测分数开始转化为开发接口和组织工作流,模型平台成为独立技术层。
接下来验证开放权重与多区域模型能否缩小对少数闭源 API 的依赖。
DNABERT-2用BPE替换k-mer分词,在36个数据集、9个任务的GUE基准上,以21倍更少参数和92倍更少预训练GPU时间达到与SOTA相当的性能。
本文提出使用强LLM(如GPT-4)作为裁判来评估聊天助手,并引入MT-Bench多轮问答基准和Chatbot Arena众包对战平台。研究发现GPT-4裁判与人类偏好的一致性超过80%,达到人类间一致水平。同时分析了位置偏差、冗长偏差、自我增强偏差和推理能力有限等局限性,并提出了缓解方案。
该论文提出一种低成本方法,利用PubMed Central的图文对和GPT-4生成的指令数据,在15小时内训练出生物医学视觉语言对话助手LLaVA-Med,在三个标准生物医学VQA数据集上部分指标超越此前监督学习最优模型。
该论文证明,经过适当过滤和去重的网络数据(仅来自CommonCrawl)足以训练出强大的大语言模型,甚至优于使用The Pile等精选语料库训练的模型。研究团队从CommonCrawl中提取了5万亿token,并公开了6000亿token的RefinedWeb数据集,以及基于该数据集训练的1.3B和7.5B参数的语言模型。
2023年5月,斯坦福大学团队提出Direct Preference Optimization(DPO),无需显式奖励模型和强化学习,直接通过偏好数据优化LLM。DPO将奖励函数隐式定义为策略的闭式解,训练更简单、更稳定。实验表明DPO在多个任务上匹配或超越PPO。
2023年5月,NVIDIA和UT Austin团队提出Voyager,首个LLM驱动的终身学习智能体,在Minecraft中无需人类干预持续探索、获取技能并发现新事物。Voyager使用GPT-4,通过自动课程、技能库和迭代提示机制,获得3.3倍独特物品、解锁里程碑快15.3倍。
2023年5月,华盛顿大学团队提出QLoRA,在单个48GB GPU上微调65B参数模型,性能达到ChatGPT的99.3%。核心创新包括4-bit NormalFloat数据类型、双重量化和分页优化器。训练了1000+模型,发现小规模高质量数据集微调即可达到SOTA。
2023年5月,普林斯顿大学团队提出Tree of Thoughts(ToT)框架,将LLM推理从链式扩展为树状搜索。在Game of 24任务中,GPT-4+ToT成功率达74%,而标准CoT仅4%。ToT允许模型探索多条推理路径、自我评估并回溯,显著提升需要规划的任务表现。
2023年4月,LLaVA首次提出使用纯语言GPT-4生成多模态语言-图像指令数据,并基于此训练了一个端到端的大规模多模态模型(连接视觉编码器和LLM)。在Science QA上,LLaVA+GPT-4达到92.53%准确率,创下新纪录;在合成多模态指令跟随数据集上达到GPT-4的85.1%相对分数。
2023年4月,百度提出RT-DETR,首个实时端到端目标检测器,在COCO上以53.1% AP和108 FPS(T4 GPU)超越YOLOv8等先进YOLO系列。它设计了高效混合编码器解耦尺度内交互和跨尺度融合,并提出不确定性最小化查询选择提升解码器初始查询质量。支持通过调整解码器层数灵活调速,无需重新训练。
2023年4月,Meta AI发布DINOv2,提出一种全自动数据筛选管道,从海量未标注图像中构建多样化、高质量的训练数据集,并训练了1B参数的ViT模型,再蒸馏为一系列小模型。在图像级和像素级基准上,DINOv2超越了当时最好的通用视觉特征OpenCLIP,且无需微调即可直接用于多种下游任务。
2023年4月,斯坦福大学和Google Research提出生成式智能体(Generative Agents),利用大语言模型(LLM)驱动25个智能体在一个类似《模拟人生》的沙盒环境中自主生活。智能体能够起床、做饭、工作、社交、形成记忆并规划未来,仅从一个“想办情人节派对”的初始设定出发,智能体自主传播邀请、结识新朋友、协调时间并最终共同参加派对。
2023年3月,研究者提出HuggingGPT框架,利用ChatGPT作为控制器,自动规划任务、选择Hugging Face上的AI模型、执行子任务并汇总结果。该系统能处理跨模态、跨领域的复杂任务,如“生成一张猫的图片并描述它”。
2023年3月,微软研究团队发布了对早期GPT-4的评估报告。论文通过大量实验证明,GPT-4在数学、编程、视觉、医学、法律、心理学等众多领域表现出接近人类水平的性能,且无需特殊提示。作者认为GPT-4可被视为早期(但不完整)的AGI系统,并指出其局限性在于仍基于下一个词预测范式。
2023年3月,研究者提出Reflexion框架,让语言智能体通过自我反思的文本反馈来改进决策,而非更新模型权重。在HumanEval代码生成任务上,Reflexion达到91% pass@1,超越GPT-4的80%。该方法适用于多种任务,包括决策、编码、推理。
OpenAI 在 2023 年 3 月发布 GPT-4,支持图像输入并在多项专业考试中显著提升表现。
2023年2月,Meta发布LLaMA系列模型(7B-65B参数),仅使用公开数据集训练。LLaMA-13B在多数基准上超越GPT-3(175B),LLaMA-65B与Chinchilla-70B和PaLM-540B竞争。模型全部开源。
2023年2月,Google提出Lion优化器,通过符号程序搜索自动发现。Lion仅跟踪动量,使用符号函数更新参数,内存效率高于Adam。在ImageNet上ViT准确率提升2%,JFT预训练计算量节省5倍;扩散模型训练计算量节省2.3倍。已部署于Google搜索广告CTR模型。
2023年2月,斯坦福大学提出ControlNet,一种向预训练文本到图像扩散模型添加空间条件控制的神经网络架构。它锁定原模型参数,通过零卷积连接可训练副本,支持边缘、深度、分割、人体姿态等多种条件输入,训练数据量可小至5万张。
2023年2月,Meta提出Toolformer,通过自监督方式训练语言模型自主决定调用外部工具(计算器、搜索引擎、翻译系统、日历等)的时机、参数和结果融合。仅需每个工具少量演示,即可显著提升零样本任务性能,且不损害核心语言建模能力。
2023年1月提交。BLIP-2提出一种高效的视觉-语言预训练策略,利用冻结的预训练图像编码器和冻结的大语言模型,通过轻量级Querying Transformer(Q-Former)桥接模态间隙。两阶段预训练:第一阶段从冻结图像编码器引导视觉-语言表示学习,第二阶段从冻结语言模型引导视觉到语言生成学习。在零样本VQAv2上以54倍更少的可训练参数超越Flamingo80B达8.7%,并展示出遵循自然语言指令的零样本图像到文本生成能力。
2023年1月提交。系统研究扩散模型(如DALL-E 2、Imagen、Stable Diffusion)的训练数据记忆问题。通过“生成-过滤”流水线,从最先进模型中提取了超过1000个训练样本,包括个人照片和商标logo。训练了数百个不同设置的扩散模型,分析建模和数据决策对隐私的影响。结论:扩散模型比GAN等生成模型隐私性差得多,缓解需要隐私保护训练的新进展。
2023年1月提交。提出一种针对专有语言模型的文本水印框架:在生成每个token前,基于之前token的哈希值随机选择一组“绿色”token,并在采样时软性地促进使用这些绿色token。水印对文本质量影响可忽略,检测时无需访问模型API或参数,仅需一个公开算法和少量token即可统计检验。在OPT多亿参数模型上验证,并分析了鲁棒性和安全性。
2023年1月提交。DreamerV3是一种基于世界模型的强化学习算法,使用单一超参数配置在超过150个不同任务上超越专用方法。它学习环境模型并通过想象未来场景来改进策略。关键技术包括:基于归一化、平衡和变换的鲁棒性技术,实现跨域稳定学习。DreamerV3是首个从零开始、无需人类数据或课程,在Minecraft中获取钻石的算法,解决了稀疏奖励和远见策略的挑战。
变化说明技术竞争第一次同时受到交互体验、反馈数据和开放生态扩散速度影响。
接下来验证能力能否从流畅生成跨越到复杂推理、工具使用和稳定专业任务。
2022年12月,斯坦福大学等提出H3状态空间模型层,专门设计用于解决SSM在语言建模中难以回忆早期token和跨token比较的问题。在125M参数混合模型中,仅保留2个注意力层,在OpenWebText上困惑度比纯Transformer低1.0。同时提出FlashConv算法,实现2倍加速,并支持2.7B参数模型在SuperGLUE多数任务上超越Transformer。
2022年12月,Google DeepMind发布GraphCast,一种基于图神经网络和机器学习的中期全球天气预报方法。它直接从再分析数据训练,在0.25度分辨率下预测10天数百个天气变量,耗时不到1分钟。在1380个验证目标中,90%优于最准确的操作性确定性系统,并在热带气旋、大气河流等极端事件预测上表现更优。
2022年12月,华盛顿大学等机构提出Self-Instruct框架,通过让语言模型自生成指令、输入和输出样本,经筛选后用于微调原始模型。在GPT3上应用后,在Super-NaturalInstructions上取得33%绝对提升,性能与使用人工标注的InstructGPT-001相当。
2022年12月,OpenAI发布Whisper论文,报告了训练一个模型仅通过预测互联网上68万小时多语言多任务音频的转录文本,即可在零样本设置下达到与先前完全监督方法竞争的性能,且接近人类准确率和鲁棒性。模型和推理代码已开源。
OpenAI 在 2022 年 11 月 30 日发布 ChatGPT research preview。
2022年11月提交。提出PatchTST模型,将多元时间序列分割为子序列级补丁作为Transformer输入,并采用通道独立设计(每个通道共享权重)。在长期预测任务上显著优于此前SOTA Transformer模型,同时支持自监督预训练,迁移学习也达到SOTA。
2022年11月提交。Galactica是一个专门针对科学知识训练的大型语言模型,基于论文、参考资料、知识库等大规模科学语料。在LaTeX方程等知识探测任务上,准确率68.2%远超GPT-3的49.0%;在数学推理上超越Chinchilla和PaLM 540B;在PubMedQA和MedMCQA上达到SOTA。模型开源。
2022年11月提交。提出Automatic Prompt Engineer (APE),将提示视为程序,由LLM生成候选指令,再通过搜索最大化评分函数自动选择最优指令。在24个NLP任务上,自动生成的指令零样本性能大幅超越LLM基线,并在19/24个任务上达到或超过人类编写的指令。
Stability AI 在 2022 年 8 月公开发布 Stable Diffusion 的模型与代码。
控制点正从采购某个模型,迁移到掌握任务数据、评测集、工具权限和持续反馈。模型会快速替换,组织自己的验收标准和工作流上下文更难复制。
基础模型溢价仍存在,但可持续价值更可能沉淀在独有数据、可靠执行、推理基础设施和能证明结果改善的垂直系统。单纯包装最新模型的窗口持续缩短。
工程边界从单次 prompt 扩展到模型路由、上下文压缩、工具调用、状态恢复、评测和策略治理。可靠性是系统属性,不能由更强模型单独解决。
验证重点应从用户是否喜欢回答,转向用户是否愿意把完整任务委派给系统,以及系统失败时能否被理解、修正和继续执行。