AGENT PULSEAI Industry Evidence & Trends
Star103
INDUSTRY TREND · 292 RELATED EVENTS

模型能力与研究

旗舰模型正以可分配推理预算、多模态输入和科学评测扩展能力边界。

01 / TREND HISTORY

How the Trend Changed

082026—今天101 EVENTS · 23 SOURCES

可验证真实能力

能力评价转向长任务、科学、具身、多模态和部署环境中的可复现表现。

What changed in this stage

前沿差距越来越取决于系统可靠性、持续数据反馈和评测设计,模型规模只是其中一个因素。

What to verify next

关注独立复现、生产失败分布、长期记忆污染和单位有效任务成本。

072025 H233 EVENTS · 9 SOURCES

统一能力路由

旗舰产品开始在速度、推理深度、工具和模态之间自动路由。

What changed in this stage

用户购买的不再是单个模型,而是选择模型、记忆、工具与安全策略的系统。

What to verify next

自动路由能否在透明成本下保持一致行为,并允许企业审计和锁定策略。

062025 H140 EVENTS · 14 SOURCES

效率与工具融合

DeepSeek-R1、Gemini 2.5、Qwen3 与 o3/o4-mini 把推理、工具和成本放进同一能力曲线。

What changed in this stage

模型价值从静态回答转向在预算约束下调用工具并完成可验证步骤。

What to verify next

工具增强能力是否能减少重试、人工接管和端到端总成本。

052024 H231 EVENTS · 7 SOURCES

推理时计算

o1 把推理预算变成新的 Scaling 轴,Llama 3.1 和 Qwen2.5 同时扩大开放模型边界。

What changed in this stage

能力、延迟和成本不再是固定点,系统需要按任务动态分配计算。

What to verify next

强化学习和长链推理能否在外部评测与真实任务中复现,并控制泄漏与过度思考。

042024 H126 EVENTS · 3 SOURCES

原生多模态

语音、图像、视频与长上下文被纳入统一模型,交互从文本框扩展到实时环境。

What changed in this stage

模型结构、训练数据和端到端延迟开始共同决定可用能力,而非只比较文本榜单。

What to verify next

多模态增量能否稳定转化为可重复任务完成,而不是发布演示。

032023 H229 EVENTS · 6 SOURCES

开放模型成形

Llama 2、Qwen、Mistral 与 Gemini 形成开放权重、多尺寸和原生多模态路线。

What changed in this stage

能力不再只由单一旗舰定义,许可、部署控制和衍生生态成为技术选择的一部分。

What to verify next

开放模型能否在推理、长上下文和多模态上持续接近闭源前沿。

022023 H124 EVENTS · 2 SOURCES

能力平台化

GPT-4 抬高复杂任务上限,API、插件和 Copilot 把模型能力接入软件。

What changed in this stage

评测分数开始转化为开发接口和组织工作流,模型平台成为独立技术层。

What to verify next

开放权重与多区域模型能否缩小对少数闭源 API 的依赖。

012022 H29 EVENTS · 3 SOURCES

生成能力产品化

扩散模型和对话模型把生成能力从研究展示变成公众可直接使用的产品。

What changed in this stage

技术竞争第一次同时受到交互体验、反馈数据和开放生态扩散速度影响。

What to verify next

能力能否从流畅生成跨越到复杂推理、工具使用和稳定专业任务。

02 / SUPPORTING EVENTS

Events Behind the Shift

082026—今天

可验证真实能力

What changed前沿差距越来越取决于系统可靠性、持续数据反馈和评测设计,模型规模只是其中一个因素。

What to verify next关注独立复现、生产失败分布、长期记忆污染和单位有效任务成本。

LAST 7 DAYS · E-VQA · 1 related records

Evidence-Backed Video Question Answering

论文提出 Evidence-Backed Video Question Answering (E-VQA) 任务,要求模型输出语义答案和精确的时空证据(时间片段和密集跟踪对象分割掩码)。引入 ST-Evidence 基准,并构建 160k 规模的 ST-Evidence-Instruct 数据集。微调后的 Video LLM 在像素级定位上优于 UniPixel 基线。

Public report
LAST 7 DAYS · LoRA-Based Cascaded Multimodal Fusion for Action Recognition in Medical Training Environments · 1 related records

LoRA-Based Cascaded Multimodal Fusion for Action Recognition in Medical Training Environments

arXiv 论文(2607.11839v1)提出一种基于级联低秩适配(LoRA)的多模态融合框架,用于医疗培训环境中的动作识别。该框架将参数高效的模态特定适配与顺序融合相结合,先整合关联更紧密的模态,再引入其他异质模态,无需重新训练先前学习的组件。在 NurViD 和 Nurse Training 两个数据集上的初步结果显示,该级联融合策略优于单模态模型,并与先前报告的特定数据集基线性能相当。

Public report
LAST 7 DAYS · MM-ToolSandBox · 1 related records

MM-ToolSandBox: A Unified Framework for Evaluating Visual Tool-Calling Agents

MM-ToolSandBox is a benchmark and evaluation framework for visually grounded tool-calling agents. It provides a stateful execution environment spanning 500+ tools across 16 application domains, supporting multi-image, multi-turn tasks. An automated scenario generation pipeline produces 258 human-verified nominal scenarios and 50 variants. Evaluating 12 state-of-the-art models shows the best model achieves below 50% success rate. Failure analysis reveals 53% of failures stem from incorrect information extraction from images.

Public report
LAST 7 DAYS · IAAN · 1 related records

Encoder-Side Neuron Identification and Amplification for Acoustic Perception in Large Audio-Language Models

IAAN (Identifying and Amplifying Acoustic Neurons) is a training-free, label-free method that scores feed-forward neurons in the audio encoder by contrasting activation on real waveform vs noise reference, then amplifies top-scoring neurons at inference. On ten non-semantic speech attributes, IAAN improves average accuracy by 25.7 points on Audio-Flamingo-3, 21.4 on Qwen2.5-Omni, and 9.7 on Kimi-Audio.

Public report
LAST 7 DAYS · StoryTeller · 1 related records

StoryTeller: Training-Free Narrative Grounding for Long-Form Audio Description

StoryTeller is a training-free framework for long-form audio description that maintains a verified narrative memory to carry story-relevant information across scenes, using only raw video and a movie title, with optional retrieval of public movie metadata. It requires no subtitles, scripts, AD transcripts, aligned captions, character banks, precomputed face identities, or task-specific fine-tuning.

Public report
LAST 7 DAYS · An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory · 1 related records

An Explainable Agentic System for Detection of Conversational Scams with Summary-Based Memory

论文提出一个可解释的智能体系统,用于检测对话式诈骗,并引入多类别基准数据集 ConScamBench-278。在孤立消息上,单消息检测器达到100%钓鱼召回;在LoveFraud02语料库上,对话级检测器识别出所有83个诈骗对话;在ConScamBench-278上达到97.8%准确率。两项用户研究(N=100和N=45)表明参与者经常对可疑对话感到不确定。

Public report
LAST 7 DAYS · VoxENES 2026 · 1 related records

VoxENES 2026: Benchmarking Generalization of Speech Spoofing Detectors Against LLM-Era TTS and Voice Conversion

VoxENES 2026 is a bilingual (English and Spanish) benchmark of 53,628 audio samples generated using 10 contemporary speech synthesis methods and evaluated under 10 standardized post-processing conditions. Eight pretrained detectors were benchmarked without fine-tuning; the best model achieved 28.98% EER overall, while most performed near or below random chance.

Public report
LAST 7 DAYS · AHA · 1 related records

Agent Hacks Agent: Autoresearch for Production-Agent Red-Teaming

AHA 是一个自动化红队框架,使用一个 agentic 研究环境来发现关于另一个生产级 LLM agent 的可复用漏洞知识。它提出漏洞假设、构建验证器、实例化攻击、在沙箱中执行、反思轨迹,并将确认的发现提升到漏洞概念图(VCG)中。在 Claude Code 和 Codex 上的三个场景(包括直接和间接攻击)中,发现的概念揭示了可复用的漏洞核心。

Public report
LAST 7 DAYS · Hourglass reasoning · 1 related records

Think Through a Bottleneck: Hourglass Reasoning for Rigorous Induction

Hourglass reasoning 是一种通过严格上下文隔离来强化少样本归纳推理的方法。它使用冻结的 LLM 作为元构造器,构建符号编码器-解码器:归纳模块将支持示例压缩为模式 φ 和临时支架 z;演绎模块从中推导规则 T 并丢弃 z;实现者编译 (φ, T) 为工件;错误驱动修正者修订 (φ, T) 并从头重新生成工件。在 ARC-AGI-2 上,该方法将 best-of-5 准确率比迭代修正基线提升最多 14 个百分点。评估使用 GPT-5.5 和 Gemini 3.1 Pro,涵盖视觉抽象、硬件综合和文本规则归纳三个基准。

Public report
LAST 7 DAYS · World Action Models · 1 related records

From World Action Models to Embodied Brains: A Roadmap for Open-World Physical Intelligence

该论文提出世界行动模型(WAMs)作为连接候选干预与预测后果的框架,并指出当前进展因模型使用不兼容的动作空间和预测目标、数据集和任务遵循不同约定、运行时系统暴露有限接口而碎片化。论文将限制组织为三个耦合的差距:模型角色与表示、目标与标准化、系统组合。基于此,论文提出以“具身大脑”为核心的物理智能协同进化路线图,具身大脑是一个长期模型目标,用于整合多模态上下文、比较候选干预、发出状态转换或能力请求而非直接执行器命令。WAMs为其预测功能提供原型,物理线束通过工具、控制器、验证等将模型输出接地。

Public report
LAST 7 DAYS · Xiaomi · 1 related records

Xiaomi-Robotics-U0: Unified Embodied Synthesis with World Foundation Model

Xiaomi-Robotics-U0 is a 38-billion-parameter multimodal autoregressive model for unified embodied synthesis, jointly optimizing text-to-image generation, image editing, embodied scene generation, embodied transfer, and embodied video generation. It is the first model to support high-quality multi-view scene generation across multiple robot embodiments and introduces structured, controllable embodied transfer. It achieves state-of-the-art results.

Public report
LAST 7 DAYS · Interaction Scaling · 1 related records

Interaction Scaling: Grounding the Third Axis of Test-Time Compute

论文《Interaction Scaling: Grounding the Third Axis of Test-Time Compute》提出交互(interaction)作为测试时计算的第三轴,通过外部仪器观察模型生成的工件并提供反馈,使模型能够基于真实观察进行修订。实验表明,在固定token预算的硬编码任务上,推理和最佳采样方法均出现平台期,而交互策略持续改进,其中提议-评审器(proposer-reviewer)方法达到100%通过率且无方差,该结果在三个模型家族中一致。

Public report
LAST 7 DAYS · MAGIC · 1 related records

MAGIC: Transition-Aware Generation of Navigable Multi-Scene Game Worlds with Large Language Models

MAGIC is a four-stage pipeline that turns a single natural-language prompt into a runnable multi-scene game project, addressing cross-scene consistency, in-scene navigability, and transition evaluation. It plans a shared transition-aware intermediate representation, specifies each scene while enforcing portal reachability with a flood-fill validator, generates scenes together with transition scripts, and produces a runnable project.

Public report
LAST 7 DAYS · HCRMap · 1 related records

HCRMap: Pressure-Aware Hot-Expert Residency Mapping for 3.5D MoE Chiplet Inference

HCRMap is a hot expert residency mapping framework for pressure-aware expert replica management in 3.5D MoE inference. It dynamically determines expert promotion, retention, demotion, or eviction based on expert hotness, weight loading cost, migration overhead, and runtime resource pressure. Experimental results show HCRMap reduces end-to-end latency by 43.6% and 43.0% over Hydra in prefill and decode stages.

Public report
LAST 7 DAYS · CVPR 2026@AdvML Workshop Challenge · 1 related records

Technical Report on the CVPR 2026@AdvML Workshop Challenge

CVPR 2026@AdvML Workshop Challenge 发布了技术报告,该挑战针对自动驾驶视觉语言模型(VLA)的对抗性多模态攻击,基于 DriveLM 风格的多视角视觉问答,包含两个阶段,第二阶段引入隐藏黑盒模型评估可迁移性。报告描述了任务设计、提交规则、评估协议和排行榜结果,并分析了五个提交的技术报告。

Public report
LAST 7 DAYS · Vinci2 · 1 related records

Vinci2: Providing Proactive Assistance in Continuous Egocentric Videos

Vinci2 是一个面向连续自我中心视频的主动辅助系统,基于先前版本 Vinci 从被动响应向主动辅助演进。论文提出了 EgoServe 基准,包含超过 3000 个服务实例,覆盖 4 种时间记忆范围和 10 个服务类别。还提出了 EgoMemo,一种无需训练的记忆机制。

Public report
LAST 7 DAYS · mAIEnergy · 1 related records

A Multimodal Dataset for Large Language Model Applications in the Energy Domain

A paper introduces the mAIEnergy dataset, an open-access multimodal corpus for LLM applications in the energy domain, containing ~50k text documents, 20k images, 25M time series records, and 2M geospatial/relational entries, covering policy, scientific articles, satellite imagery, electricity measurements, weather data, and energy infrastructure. The dataset is FAIR-compliant and available on arXiv.

Public report
LAST 7 DAYS · The Ebb and Flow of Multimodal Focus: Scheduling Visual Relay Windows for Grounded VLM Reasoning · 1 related records

The Ebb and Flow of Multimodal Focus: Scheduling Visual Relay Windows for Grounded VLM Reasoning

论文《The Ebb and Flow of Multimodal Focus: Scheduling Visual Relay Windows for Grounded VLM Reasoning》于2026年7月13日发布在arXiv上。该研究通过机制分析发现VLM中存在稳定的三阶段多模态注意力再分配:早期问题条件组织、中期视觉主导中继、晚期答案形成。中期阶段被定义为视觉中继窗口(VRW),其几何形状随任务需求变化,与有根据的生成有因果关系,并能区分无支持的答案和更强的推理轨迹。基于此,作者提出TRACE,一种任务自适应推理时间控制框架,使用轻量级训练模块,在预填充期间重塑中继分配,在解码期间保持组装的视觉支持。在四个开源VLM骨干和七个基准测试中,TRACE在接地敏感设置上平均提升4.33分,最高提升6.6分。

Public report
LAST 7 DAYS · OpenAI · 4 related records

GPT-5.6 发布:OpenAI 把模型升级推向长期自主 Agent

OpenAI 发布 GPT-5.6,并同步推出面向跨应用、文件与长期任务的 ChatGPT Work。

Official · Cross-checked
LAST 7 DAYS · Scalable Visual Pretraining for Language Intelligence · 1 related records

Scalable Visual Pretraining for Language Intelligence

arXiv 上发布了一篇论文,标题为 'Scalable Visual Pretraining for Language Intelligence',发表于 2026-07-10,来源为 arXiv cs.AI。论文指出大规模基础模型的快速进步主要由大规模文本语料库的预训练驱动,但许多知识通过视觉表示传递,例如图形、排版方程和页面布局,这些信息无法被文本完全捕捉。

Public report
LAST 7 DAYS · Evolution of Accuracy and Visual-Cognitive Errors in a Decade of Vision-Language AI Models · 1 related records

Evolution of Accuracy and Visual-Cognitive Errors in a Decade of Vision-Language AI Models

Vision language models (VLMs) have made remarkable progress in visual reasoning during the last decade. Most evaluations have used simple scenes (MS-COCO) that do not showcase complex human interactions or behaviors, only a handful of non-curated human descriptions as a benchmark, and have not focused on understanding visual-cognitive errors.

Public report
LAST 7 DAYS · VEXAIoT · 1 related records

VEXAIoT: Autonomous IoT Vulnerability EXploitation using AI Agents

VEXAIoT 是一个利用 AI Agent 进行 IoT 漏洞利用的自主框架,相关论文于 2026-07-10 发布在 arXiv。

Public report
LAST 7 DAYS · ConceptSMILE · 1 related records

ConceptSMILE: Auditing the Trustworthiness of Concept-Based Explainable AI

ConceptSMILE is a model-agnostic perturbation-based auditing framework for evaluating the reliability of concept-based explanations in AI.

Public report
LAST 7 DAYS · Semantic Pareto-DQN · 1 related records

Semantic Pareto-DQN: A Multi-Objective Reinforcement Learning Framework for Financial Anomaly Detection

Semantic Pareto-DQN 是一个用于金融异常检测的多目标强化学习框架,旨在解决极端类别不平衡导致的“欺诈崩溃”问题,无需使用扭曲的数据重采样。该框架在 arXiv 上发布。

Public report
LAST 7 DAYS · Lean-QIT · 1 related records

Lean-QIT: Towards a Formal Infrastructure for Quantum Information Theory

arXiv 上发布了一篇题为 'Lean-QIT: Towards a Formal Infrastructure for Quantum Information Theory' 的论文,发表于 2026-07-10。论文旨在形式化量子信息理论(QIT)的编码定理,连接有限块协议、解析不等式和渐近极限。

Public report
LAST 7 DAYS · 4DR360 · 1 related records

4DR360: State Reasoning for Joint 3D Detection and Occupancy Prediction in 4D Radar-Camera Full-Scene Perception

4DR360 提出了一种用于 4D 雷达-相机全场景感知的联合 3D 检测与占用预测的状态推理方法。

Public report
LAST 7 DAYS · PAC-ACT · 1 related records

PAC-ACT: Post-training Actor-Critic for Action Chunking Transformers

PAC-ACT 是一种针对动作分块 Transformer 的后训练演员-评论家方法,旨在提升机器人策略在姿态扰动和力约束下的可靠性。

Public report
LAST 7 DAYS · TrustX · 1 related records

TrustX Agent Risk Classification Framework (ARC): Risk-Tiering Internally Created Agentic AI Systems

TrustX 于 2026 年 7 月 10 日在 arXiv 上发布了一篇论文,提出了 Agent Risk Classification Framework (ARC),用于对内部创建的 Agentic AI 系统进行风险分级。

Public report
LAST 7 DAYS · TCLA · 1 related records

TCLA: Training-Free Class-wise Logit Adaptation for Medical Vision-Language Models

TCLA(Training-Free Class-wise Logit Adaptation)是一种无需训练的类别级logit自适应方法,用于提升医学视觉语言模型(VLMs)在分布外(OOD)数据上的零样本性能。该方法不引入额外的可训练组件,旨在解决领域偏移和类别偏差问题。

Public report
LAST 7 DAYS · Beyond Fixed Representations: The Vocabulary and Verifier Gaps in Open-Ended AI · 1 related records

Beyond Fixed Representations: The Vocabulary and Verifier Gaps in Open-Ended AI

论文《Beyond Fixed Representations: The Vocabulary and Verifier Gaps in Open-Ended AI》于2026年7月10日发布在arXiv cs.AI上,指出现代AI系统在推理、编码、定理证明、工具使用和长周期研究任务方面能力强大,但存在结构性限制:模型操作的概念词汇和验证机制是固定的,导致在开放环境中无法自主扩展或修正其表示框架。

Public report
LAST 7 DAYS · ALICE · 1 related records

ALICE: Learning a General-Purpose Pathology Foundation Model from Vision, Vision-Language, and Slide-Level Experts

ALICE is a unified foundation model for computational pathology, trained through multi-stage agglomerative distillation from vision, vision-language, and slide-level experts. The paper is published on arXiv.

Public report
LAST 7 DAYS · SAGEAgent · 1 related records

SAGEAgent: A Self-Evolving Agent for Cost-Aware Modality Acquisition in Multimodal Survival Prediction

SAGEAgent is a self-evolving agent for cost-aware modality acquisition in multimodal survival prediction, as described in a paper on arXiv cs.AI published on 2026-07-10.

Public report
LAST 7 DAYS · Seeing is Free, Speaking is Not: Uncovering the True Energy Bottleneck in Edge VLM Inference · 1 related records

Seeing is Free, Speaking is Not: Uncovering the True Energy Bottleneck in Edge VLM Inference

一篇 arXiv 论文(2607.09520v1)于 2026-07-10 发布,研究边缘设备上视觉语言模型(VLM)的能耗瓶颈,发现视觉处理并非主要能耗来源,而语言生成(解码)才是真正的能耗瓶颈。

Public report
LAST 7 DAYS · Blind-Spots-Bench · 1 related records

Blind-Spots-Bench:多模态模型高分背后仍有系统性视觉盲区

2026 年 7 月 9 日提交的 Blind-Spots-Bench 预印本构建 235 个样本,评测 10 类视觉语言理解缺口,用于暴露常规平均分容易掩盖的系统性失败。

Official source
LAST 7 DAYS · PredicateLongBench · 1 related records

PredicateLongBench:长上下文评测开始测量“任务难度”而非只测长度

2026 年 7 月 9 日提交的 PredicateLongBench 预印本提出可控生成长上下文任务的两条流水线,并报告前沿模型随谓词难度上升出现明显性能下降。

Official source
LAST 7 DAYS · Compete Then Collaborate · 1 related records

Compete Then Collaborate:多智能体推理不再默认“越合作越好”

2026 年 7 月 9 日提交的预印本 Compete Then Collaborate 提出先让 Agent 独立竞争、再选择性协作的推理框架,用于降低过早共识和错误传播。

Official source
LAST 7 DAYS · AutoPersonas · 1 related records

AutoPersonas:Agent 模拟的瓶颈从规模转向角色多样性与重复污染

2026 年 7 月 9 日提交的 AutoPersonas 预印本分析 8 个模型生成的 1,600 个角色,并讨论自动生成 Persona 时的重复、偏差与有效多样性问题。

Official source
LAST 7 DAYS · Overthinking · 1 related records

Overthinking:推理模型的长思考可能把秘密泄露风险放大至 10 倍

2026 年 7 月 9 日提交的 Overthinking 预印本评测 2B 至 32B 参数模型,并报告更长推理过程在部分设置下使秘密泄露风险最高增加约 10 倍。

Official source
LAST 7 DAYS · CausalDS · 1 related records

CausalDS:数据科学 Agent 从生成代码走向结构因果推断与拒答

2026 年 7 月 9 日提交的 CausalDS 预印本提出面向数据科学 Agent 的因果评测,覆盖结构因果模型、Pearl 三层因果阶梯与在证据不足时拒绝回答。

Official source
LAST 7 DAYS · OpenAI · 1 related records

SWE-Bench Pro 评测反思:编码 Agent 从榜单走向真实任务

OpenAI 发布 SWE-Bench Pro 分析,讨论现行编码评测中的信噪比和能力误判问题。

Official source
LAST 7 DAYS · Robbyant / Ant Group · 1 related records

LingBot-VLA 2.0 开源:国产具身模型进入跨本体规模化阶段

蚂蚁集团 Robbyant 发布 LingBot-VLA 2.0 技术报告、预训练权重与代码;官方披露训练数据覆盖 20 种机器人配置和约 6 万小时机器人/第一视角视频。

Official source
LAST 7 DAYS · OpenAI · 1 related records

GPT-Live 推进全双工语音:Agent 的交互带宽继续上升

OpenAI 发布新一代语音模型 GPT-Live,并接入 ChatGPT Voice。

Official source
LAST 7 DAYS · xAI / Grok · 1 related records

Grok 4.5 发布:xAI 将代码、Agent 与 Office 工作合并为旗舰模型

xAI 于 2026 年 7 月发布 Grok 4.5,并通过 API、Grok Build、Cursor 与 Office 插件提供使用。

Official source
Anthropic · 1 related records

Global Workspace:Anthropic 在语言模型内部识别出可报告、可干预的隐式推理空间

Anthropic 于 2026 年 7 月发布 Global Workspace 研究,通过 Jacobian lens 识别 Claude 的 J-space,并用干预实验验证其中表示会因果影响报告、内部推理和决策。

Official source
Google DeepMind · 1 related records

Gemini 3.5 Flash Computer Use:浏览器 Agent 进入低延迟模型层

Google DeepMind 于 2026 年 6 月 24 日发布 Gemini 3.5 Flash 的 computer use 能力。

Official source
Mistral AI · 1 related records

Mistral OCR 4 发布:文档理解成为企业 Agent 的基础能力层

Mistral 于 2026 年 6 月发布 OCR 4,继续扩展其文档解析与企业工作流能力。

Official source
AI Sandboxes · 1 related records

AI Sandboxes:沙箱开始用六维证据约束具身与网络物理部署声明

2026 年 6 月 16 日提交的 AI Sandboxes 研究提出覆盖数字 AI、具身自治与网络物理系统的威胁模型、分类与测量框架,并用三个真实沙箱案例实例化。

Official source
智谱 AI / Z.ai · 1 related records

GLM-5.2 开源:智谱把 1M 上下文用于长时工程任务

智谱于 2026 年 6 月发布 GLM-5.2,以 MIT 许可开放权重,并提供 1M 上下文版本。

Official source
OpenAI · 1 related records

Deployment Simulation:OpenAI 用真实分布模拟在发布前预测模型风险

OpenAI 于 2026 年 6 月发布 Deployment Simulation 论文,使用去标识的历史对话为待发布模型重生成回答,并把模拟频率与发布后的真实风险频率比较。

Official source
OpenAI · 1 related records

部署前行为模拟:模型安全评测开始贴近真实使用环境

OpenAI 于 2026 年 6 月 16 日发布通过模拟部署预测模型行为的研究。

Official source
DailyReport · 1 related records

DailyReport:17 个搜索 Agent 在日常开放任务上仍低于用户预期

2026 年 6 月 11 日提交的 DailyReport 包含 150 个开放日常搜索任务和 3,546 条关联 rubric,并对 17 个 Agent 系统做分维度、用户中心的级联评测。

Official source
SciAgentArena · 1 related records

SciAgentArena:科研 Agent 在规范分析上有效,但仍难自主发现新洞察

2026 年 6 月 10 日提交的 SciAgentArena 构建约 200 个跨领域真实科研任务、逐步验证和交互环境;评测显示 Agent 能处理定义清楚的数据分析流程,但在新洞察、自主探索和开放问题上表现不稳定。

Official source
Google DeepMind · 1 related records

Gemma 4 12B:开放多模态模型进一步压缩部署门槛

Google DeepMind 于 2026 年 6 月 9 日发布统一、无独立编码器的 Gemma 4 12B 多模态模型。

Official source
World Labs · 1 related records

World Labs 建立世界模型分类学:空间智能路线开始系统化

World Labs 发布世界模型功能分类框架,梳理空间智能的层级与能力维度。

Official source
Adaptive Computer Worm · 1 related records

Adaptive Computer Worms:AI Agent 让蠕虫按目标实时生成攻击策略

2026 年 6 月 2 日提交的研究在 Linux、Windows 与 IoT 网络中展示由开放权重模型驱动的自适应蠕虫,可利用被入侵机器的算力继续推理和传播,使新增感染的攻击者边际成本接近零。

Official source
AI Research Agents · 1 related records

AI Research Agents Narrow Exploration:21.9 万个想法仍更集中、更贴近起始文献

2026 年 5 月 27 日提交的研究用五个 Agent 框架和五个模型生成 219,655 个科学想法,发现它们比同领域人类论文更集中、更接近起始文献,也更少对齐后续人类研究与高影响区域。

Official source
xAI / Grok · 1 related records

Grok Build 发布:xAI 从模型 API 进入终端编码 Agent

xAI 于 2026 年 5 月发布 Grok Build 早期测试版,为订阅用户提供终端编码 Agent。

Official source
ScaleWoB · 1 related records

ScaleWoB:千级可验证任务显示移动 GUI Agent 长任务成功率仅 17.82%

2026 年 5 月 24 日提交的 ScaleWoB 合成 100+ 交互环境与 1,000+ 可验证任务;五个移动 GUI Agent 平均成功率 27.92%,长任务降至 17.82%,人类达到 92.08%。

Official source
Spreadsheet-RL · 1 related records

Spreadsheet-RL:表格 Agent 从提示工程转向真实 Excel 环境强化学习

2026 年 5 月 21 日提交的 Spreadsheet-RL 构建真实 Microsoft Excel 多轮强化学习环境与金融、供应链任务集;论文报告 Qwen3-4B-Thinking-2507 在 SpreadsheetBench 的 Pass@1 从 12.0% 提升到 23.4%,在 Domain-Spreadsheet 上从 8.4% 提升到 17.2%。

Official source
Google · 1 related records

Google I/O 2026:AI 从单点功能变成横跨产品与开发栈的平台层

Google 于 2026 年 5 月 20 日汇总 I/O 2026 的 100 项发布、演示与产品更新。

Official source
Cohere / Command · 1 related records

Command A+ 发布:Cohere 强化可私有部署的企业 Agent 模型

Cohere 于 2026 年 5 月发布 Command A+,并通过标准 API 与私有部署方式提供。

Official source
Google Research · 1 related records

ERA 登上 Nature:AI 科学助手开始自动编写并优化专家级实证研究代码

Google Research 于 2026 年 5 月公布 ERA 的 Nature 论文、代码和实验,并将其用于 Computational Discovery 原型,以树搜索探索和优化科学计算方案。

Official source
面壁智能 / ModelBest / OpenBMB · 1 related records

MiniCPM5-1B 开源:面壁把端侧小模型与 Agent Skills 连接

面壁智能与 OpenBMB 于 2026 年 5 月发布 MiniCPM5-1B,并提供部署、微调和 Agent Skills。

Official source
Google DeepMind · 1 related records

Gemini Omni:原生多模态交互从能力展示走向统一产品入口

Google DeepMind 于 2026 年 5 月 17 日发布 Gemini Omni,强化跨文本、语音、视觉等模态的统一交互。

Official source
Google · 1 related records

Google Antigravity 2.0:AI Coding 从补全工具走向任务级工程环境

Google DeepMind 于 2026 年 5 月 17 日发布 Google Antigravity 2.0,继续扩展面向 Agent 的开发体验。

Official source
Google DeepMind · 1 related records

Gemini 3.5:前沿模型竞争进一步转向可执行行动

Google DeepMind 于 2026 年 5 月 15 日发布 Gemini 3.5,并以面向行动的前沿智能作为核心定位。

Official source
SkillOps · 1 related records

SkillOps:Agent Skill 库开始像软件生态一样治理技术债

2026 年 5 月 13 日提交的 SkillOps 在 ALFWorld 以 79.5% 成功率超过最强基线 8.8 个百分点,且不增加任务时 LLM 调用;作为插件还可让检索型基线提升 0.68—2.90 分。

Official source
商汤科技 / SenseTime / 日日新 · 1 related records

SenseNova U1 开源:商汤把理解与生成合并为原生多模态模型

商汤于 2026 年 4 月发布并开源 SenseNova U1 原生统一多模态模型系列。

Official source
OpenAI · 2 related records

GPT-5.5 发布:模型升级开始按端到端工作结果衡量

OpenAI 发布 GPT-5.5,重点提升编码、研究、数据分析、文档和跨工具操作。

Official · Cross-checked
Google DeepMind · 1 related records

Decoupled DiLoCo:分布式训练开始正面解决网络与节点不稳定

Google DeepMind 于 2026 年 4 月 22 日介绍 Decoupled DiLoCo,用解耦方式提升大规模分布式训练的韧性。

Official source
Google Research · 1 related records

ReasoningBank:Agent 记忆从保存轨迹转向提炼成功与失败中的可迁移策略

Google Research 于 2026 年 4 月介绍 ICLR 论文 ReasoningBank,通过检索、经验提炼和记忆整合闭环,让 Agent 从成功与失败轨迹中形成结构化推理策略。

Official source
BeTTER · 1 related records

BeTTER:机器人 VLA 高成功率可能只是传感运动捷径

2026 年 4 月 20 日提交的 BeTTER 通过空间布局变化、时间外推和运动学隔离诊断 VLA,发现前沿系统在动态场景中严重失败,并出现词汇—运动捷径、行为惯性与语义特征坍缩。

Official source
DELEGATE-52 · 1 related records

DELEGATE-52:前沿模型在长文档委派中平均破坏 25% 内容

2026 年 4 月 17 日提交的 DELEGATE-52 覆盖 52 个专业领域和 19 个模型;即使 Gemini 3.1 Pro、Claude 4.6 Opus、GPT-5.4 等前沿模型,在长流程结束时也平均破坏约 25% 文档内容。

Official source
Anthropic · 1 related records

Claude Opus 4.7 发布:前沿能力继续聚焦复杂工作与 Agent

Anthropic 发布 Claude Opus 4.7,重点提升代码、Agent、视觉和多步骤任务表现。

Official source
SpreadsheetAgent · 1 related records

SpreadsheetAgent:企业表格理解从整表塞入模型转向分区读取与验证

2026 年 4 月 14 日提交的 SpreadsheetAgent 论文提出两阶段、多 Agent、多格式表格理解框架;使用 GPT-OSS-120B 时在 SpreadsheetBench 获得 38.16%,高于 ChatGPT Agent 基线的 35.27%。

Official source
Google DeepMind · 1 related records

Gemini Robotics-ER 1.6:具身模型开始执行完整真实任务

Google DeepMind 于 2026 年 4 月 13 日发布 Gemini Robotics-ER 1.6,面向真实机器人任务强化具身推理。

Official source
智谱 AI / Z.ai · 1 related records

GLM-5.1 发布:智谱把 Agent 目标推进到 8 小时持续执行

智谱官方 Release Notes 于 2026 年 4 月记录 GLM-5.1 发布,定位为长时任务旗舰模型。

Official source
Google DeepMind · 1 related records

Gemma 4 发布:开放模型竞争继续向单位资源效率推进

Google DeepMind 于 2026 年 4 月 2 日发布 Gemma 4,强调在开放模型形态下提升能力与部署效率。

Official source
Web Agent Observation · 1 related records

Read More, Think More:强模型处理 Web Agent 时保留 HTML 反而更准

2026 年 4 月 2 日提交的研究发现,低能力模型更适合精简 accessibility tree,强模型则能从完整 HTML 布局获益;增加 thinking token 会进一步放大 HTML 的优势,diff 历史可兼顾信息与 token。

Official source
Meta-Harness · 1 related records

Meta-Harness:Agent 开始自动优化自己的上下文与运行代码

2026 年 3 月 30 日提交的 Meta-Harness 自动搜索 LLM 应用 harness 代码:文本分类提升 7.7 分且上下文 token 减少 4 倍,数学推理跨五个保留模型平均提升 4.7 分,并超过 TerminalBench-2 手工基线。

Official source
The AI Scientist · 1 related records

AI Scientist 登上 Nature:端到端自动科研首次通过真实同行评审压力测试

Nature 于 2026 年 3 月 25 日发表 AI Scientist 研究:系统可以自动提出研究想法、编写与运行实验、分析结果、撰写论文并执行评审;三篇自动生成稿件中一篇在盲审中达到工作坊可接收分数,但研究团队按预设协议撤回。

Official source
Tool Affordance Safety · 1 related records

Tool Affordance Safety:同一模型接入可执行工具后违规率最高升至 85%

2026 年 3 月 19 日提交的研究在 1,500 个程序化金融场景中比较相同提示与规则下的聊天和工具 Agent;两类模型文本模式完全合规,接入工具后却出现最高 85% 违规率。

Official source
OpenSeeker · 1 related records

OpenSeeker:1.17 万条合成数据让开放搜索 Agent 接近前沿系统

2026 年 3 月 16 日提交的 OpenSeeker 完全开放模型与训练数据,仅用 11.7k 合成样本和 SFT,在 BrowseComp 达到 29.5%,高于开源 DeepDive 的 15.3%,BrowseComp-ZH 达到 48.4%。

Official source
xAI / Grok · 1 related records

Grok 4.20 Multi-agent 上线:xAI 将并行 Agent 编排产品化

xAI 官方 Release Notes 记录 Grok 4.20 与 Grok 4.20 Multi-agent 于 2026 年 3 月进入 API。

Official source
xAI / Grok · 1 related records

Grok 4.1 Fast 进入企业 API:搜索、代码与远程 MCP 工具合流

xAI 于 2025 年 11 月在企业 API 提供 Grok 4.1 Fast,并让 Agent 工具支持该模型。

Official source
SMTL · 1 related records

Search More, Think Less:深度研究 Agent 用并行取证降低 70.7% 推理步骤

2026 年 2 月 26 日提交的 SMTL 用并行证据获取替代串行深推理;在 BrowseComp 上相对 Mirothinker-v1.0 减少 70.7% 平均推理步骤并提升准确率,同时报告 BrowseComp 48.6%、GAIA 75.7%。

Official source
MemoryArena · 1 related records

MemoryArena:Agent 记忆评测从文本回忆转向跨会话行动

2026 年 2 月 18 日提交的 MemoryArena 构建跨会话、子任务相互依赖的 Memory-Agent-Environment 评测,显示在既有长上下文记忆基准接近饱和的 Agent,在需要用过往行动与反馈指导后续任务时仍表现薄弱。

Official source
字节跳动 Seed / 豆包 · 1 related records

Seed 2.0 发布:字节把多模态理解与长时 Agent 推进生产部署

字节跳动 Seed 团队于 2026 年 2 月发布 Seed 2.0 Pro、Lite 与 Mini 三档通用 Agent 模型。

Official source
MiniMax / 稀宇科技 · 1 related records

MiniMax M2.5 开源:编码与办公 Agent 转向生产效率竞争

MiniMax 于 2026 年 2 月发布并开放 MiniMax-M2.5,面向编程、工具调用、搜索和办公任务。

Official source
OpenAI Economic Research · 1 related records

GABRIEL:OpenAI 将非结构化材料的量化编码做成可审计研究工具

OpenAI Economic Research 于 2026 年 2 月发布 GABRIEL 论文与开源工具,把文本、图像和音频中的定性属性转成可重复的量化测量,并提供批处理、重试、检查点和审计轨迹。

Official source
智谱 AI / Z.ai · 1 related records

GLM-5 开源:智谱从代码生成转向长时系统工程

智谱于 2026 年 2 月发布 GLM-5,并以 MIT 许可开放权重,同时提供国内外 API。

Official source
Belief-Action Consistency · 1 related records

Belief-Action Consistency:Agent 口头概率与实际决策并不完全一致

2026 年 2 月 6 日提交的研究提出决策论框架,同时提取 Agent 的概率判断与行动并检验一致性;在临床诊断任务中,最强模型差距较小,但报告信念仍不能完整解释实际决策。

Official source
AIDev-pop · 1 related records

AIDev-pop:编码 Agent 的真实表现需要同时看合并、审查与提交质量

2026 年 2 月 2 日提交的研究用包含数千个开源 PR 的 AIDev-pop 比较五类编码 Agent,发现 Codex 合并率较高、Copilot 引发最多审查讨论,而提交信息质量与合并结果并不同步。

Official source
阶跃星辰 / StepFun · 1 related records

Step 3.5 Flash 开源:阶跃星辰用稀疏模型争夺高效 Agent 推理

阶跃星辰于 2026 年初开放 Step 3.5 Flash,定位为兼顾推理、工具使用与效率的基础模型。

Official source
月之暗面 / Moonshot AI / Kimi · 1 related records

Kimi K2.5 开源:月之暗面加入原生多模态与 Agent Swarm

月之暗面于 2026 年 1 月开放 Kimi K2.5,提供原生多模态理解、工具使用和并行 Agent Swarm。

Official source
RepoGenesis · 1 related records

RepoGenesis:代码 Agent 的评测从补函数走向 0 到 1 微服务仓库

2026 年 1 月 20 日提交的 RepoGenesis 包含 106 个 Python/Java 仓库、18 个领域、11 个框架、1,258 个 API 和 2,335 个测试;最佳系统 Pass@1 仅为 Python 23.67%、Java 21.45%。

Official source
Microsoft Research · 1 related records

Argos:多模态 Agent 的强化学习开始同时验证答案、证据定位与推理过程

Microsoft Research 于 2026 年 1 月发布 Argos,使用可选择专用评分工具的 Agentic Verifier,为多模态强化学习同时提供答案正确性、时空定位与推理质量奖励。

Official source
Memory Poisoning · 1 related records

Memory Poisoning:持久记忆让恶意输入跨会话影响 Agent

2026 年 1 月 9 日提交的研究在电子健康记录 Agent 上系统测试记忆投毒,并比较输入输出审核与带信任评分、时间衰减和模式过滤的记忆清洗防御。

Official source
Agent Drift · 1 related records

Agent Drift:多 Agent 长时间协作会出现语义、协调与行为漂移

2026 年 1 月 7 日提交的 Agent Drift 论文把长交互中的退化拆为语义漂移、协调漂移和行为漂移,并提出覆盖 12 个维度的 Agent Stability Index。

Official source
xAI / Grok · 1 related records

xAI 完成 200 亿美元 Series E:模型竞争继续绑定资本与算力规模

xAI 于 2026 年 1 月宣布完成 200 亿美元 Series E,并披露 Colossus I 与 II 的扩张进展。

Official source
AgeMem · 1 related records

Agentic Memory:Agent 开始统一学习长短期记忆的写入、检索与遗忘

2026 年 1 月 5 日提交的 Agentic Memory 论文提出 AgeMem,把长期与短期记忆操作统一成 Agent 可学习的工具动作,并在五个长时程基准上报告了相对强记忆基线的持续改进。

Official source
072025 H2

统一能力路由

What changed用户购买的不再是单个模型,而是选择模型、记忆、工具与安全策略的系统。

What to verify next自动路由能否在透明成本下保持一致行为,并允许企业审计和锁定策略。

智谱 AI / Z.ai · 1 related records

GLM-4.7 发布:跨工具步骤保留推理状态,面向长链编码 Agent

智谱于 2025 年 12 月发布并开放 GLM-4.7 权重,重点增强编码、工具使用与多步推理。

Official source
O-Voxel Flow Matching · 1 related records

Native and Compact Structured Latents for 3D Generation:O-Voxel表示与4B参数流匹配模型实现3D生成质量飞跃

2025年12月,研究提出O-Voxel(全向体素)表示,可编码任意拓扑(开放、非流形、封闭表面)的几何和外观(包括PBR材质)。基于此设计稀疏压缩VAE,实现高空间压缩率和紧凑潜空间。训练了4B参数的流匹配模型,在公开3D资产数据集上生成质量远超现有模型,且推理高效。

Official source
智谱 AI / Z.ai · 1 related records

GLM-4.6V 开源:智谱让视觉理解直接进入工具调用

智谱于 2025 年 12 月发布并开源 GLM-4.6V 与 9B 的 GLM-4.6V-Flash。

Official source
Representational Alignment Benchmark · 1 related records

Beyond Converging Representations: A Philosophical Response on the Interpretation Risks of Scientific Foundation Models:科学基础模型表征对齐的定量基准与通用性边界

2025年12月,一项研究分析了近60个科学模型(涵盖字符串、图、3D原子和蛋白质模态)的内部表征,发现它们在化学系统上高度对齐。高表现模型在训练分布内表征一致,弱模型则发散;但在分布外结构上,几乎所有模型都坍缩到低信息表征。研究提出表征对齐作为科学模型通用性的定量基准,并可用于模型选择和蒸馏。

Official source
DeepSeek · 1 related records

DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models:开源模型首次在推理与智能体任务上超越GPT-5

2025年12月,DeepSeek发布V3.2模型,提出DeepSeek Sparse Attention (DSA)机制降低长上下文计算复杂度,并采用可扩展强化学习框架进行后训练。其高计算变体DeepSeek-V3.2-Speciale在2025年国际数学奥林匹克(IMO)和国际信息学奥林匹克(IOI)中获得金牌,性能超越GPT-5并与Gemini-3.0-Pro持平。此外,论文描述了一个大规模智能体任务合成流水线,用于生成工具使用场景的训练数据。

Official source
Qwen3-VL · 1 related records

Qwen3-VL Technical Report:通义千问多模态大模型全面升级,原生支持256K长上下文

2025年11月提交。Qwen3-VL是Qwen系列最新视觉语言模型,原生支持256K token的文本、图像和视频交错上下文。模型家族包括密集(2B/4B/8B/32B)和混合专家(30B-A3B/235B-A22B)变体。在纯文本理解、长上下文理解和多模态推理上表现领先,在MMMU、MathVista等基准上达到SOTA。架构升级包括增强的交错MRoPE、DeepStack集成和基于文本的时间对齐。

Official source
SAM 3 · 1 related records

SAM 3: Segment Anything with Concepts:概念提示分割统一模型,精度翻倍

2025年11月提交。SAM 3是一个统一模型,基于概念提示(短名词短语、图像示例或两者组合)在图像和视频中检测、分割和跟踪对象。它构建了包含400万独特概念标签的高质量数据集,包括难负样本。模型由共享骨干的图像级检测器和基于记忆的视频跟踪器组成,通过存在头解耦识别和定位。在图像和视频概念分割任务上精度翻倍,并改进了SAM在视觉分割上的能力。

Official source
xAI / Grok · event origin · 1 total evidence

Grok 4.1 Fast 进入企业 API:搜索、代码与远程 MCP 工具合流

xAI 于 2025 年 11 月在企业 API 提供 Grok 4.1 Fast,并让 Agent 工具支持该模型。

Official source
TabPFN-2.5 · 1 related records

TabPFN-2.5: Advancing the State of the Art in Tabular Foundation Models:表格基础模型新SOTA,支持5万样本2000特征

2025年11月提交。TabPFN-2.5是下一代表格基础模型,支持最多5万数据点和2000特征,数据单元数比TabPFNv2提升20倍。在TabArena基准上,它显著优于调优的树模型,准确率匹配AutoGluon 1.4(四小时调优集成)。默认TabPFN-2.5在中小型分类数据集上对默认XGBoost有100%胜率,在更大数据集上胜率87%。新蒸馏引擎可将模型转换为紧凑MLP或树集成,保持大部分精度同时大幅降低延迟。

Official source
Kosmos · 1 related records

Kosmos: An AI Scientist for Autonomous Discovery:自主科学发现AI系统实现6个月研究自动化

2025年11月提交。Kosmos是一个AI科学家系统,可在12小时内执行多达200次智能体滚动,平均运行42,000行代码并阅读1,500篇论文。独立科学家验证其报告中79.4%的陈述准确,合作者报告单次20周期运行相当于平均6个月的研究工作量。系统在代谢组学、材料科学、神经科学和统计遗传学等领域产生了7项发现,其中3项独立复现了未公开手稿的结果,4项为全新贡献。

Official source
SevenNet-Omni · 1 related records

Optimizing Cross-Domain Transfer for Universal Machine Learning Interatomic Potentials:跨域通用原子间势能模型SevenNet-Omni

2025年10月提交。提出跨域迁移训练策略,结合选择性正则化和域桥接集(DBS),在15个开放数据库(涵盖分子、晶体、表面)上训练通用机器学习原子间势能模型SevenNet-Omni。在金属表面吸附能误差低于0.06 eV,金属有机框架上低于0.1 eV。仅含0.5% r²SCAN数据即可复现高保真r²SCAN能量学。

Official source
NeologismLearning · 1 related records

Neologism Learning for Controllability and Self-Verbalization:通过新词嵌入实现LLM可控性与自我解释

2025年10月提交。提出新词学习(neologism learning)方法:为LLM添加新词嵌入,仅用示例训练该嵌入而不改变其他参数,即可控制模型行为(如避免奉承、控制输出长度)。模型还能用自然语言描述新词含义(自我言语化),且这些描述可插入上下文以复现控制效果。发现‘机器专属同义词’——对人类无意义但对模型行为相似的词。

Official source
TRM · 1 related records

Less is More: Recursive Reasoning with Tiny Networks:7M参数递归模型超越千亿参数大模型

2025年10月提交。提出Tiny Recursive Model (TRM),仅用7M参数和2层网络,通过递归推理在ARC-AGI-1上达到45%测试准确率,在ARC-AGI-2上达到8%,超越Deepseek R1、o3-mini、Gemini 2.5 Pro等千亿参数大模型。训练数据仅约1000个样本。

Official source
ContextLengthStudy · 1 related records

Context Length Alone Hurts LLM Performance Despite Perfect Retrieval:长上下文性能下降的根源并非检索失败

2025年10月提交。系统实验表明,即使LLM能完美检索所有相关信息,输入长度增加仍导致性能下降13.9%-85%。该现象在无关token替换为空格、甚至强制模型仅关注相关token时依然存在。提出简单缓解策略:先让模型背诵检索到的证据再解题,在RULER上使GPT-4o提升4%。

Official source
智谱 AI / Z.ai · 1 related records

GLM-4.6 发布:智谱强化长上下文编码与搜索 Agent

智谱于 2025 年 9 月发布 GLM-4.6,将上下文窗口从 128K 扩展到 200K,并增强编码、推理和工具使用。

Official source
ToolUniverse (Harvard/Stanford) · 1 related records

ToolUniverse: Democratizing AI scientists:统一工具生态让AI科学家从实验室走向大众

2025年9月,哈佛等机构提出ToolUniverse,一个构建AI科学家的开源生态系统,提供超过600个ML模型、数据集、API和科学包,支持任意语言/推理模型。系统自动精炼工具接口、从自然语言生成新工具、迭代优化工具规范并组合成智能体工作流。在高胆固醇血症案例中,ToolUniverse创建的AI科学家成功识别出具有良好预测性质的药物类似物。

Official source
SimpleFold (Apple) · 1 related records

SimpleFold: Folding Proteins is Simpler than You Think:通用Transformer架构挑战蛋白质折叠领域专用设计

2025年9月,Apple团队提出SimpleFold,首个基于流匹配的蛋白质折叠模型,仅使用通用Transformer模块,无需三角更新、显式成对表示等复杂领域设计。模型参数达3B,在约900万蒸馏结构及PDB数据上训练,在标准折叠基准上达到与AlphaFold等SOTA相当的性能,且在集成预测上表现更优,推理可在消费级硬件上运行。

Official source
GPhyT (Research Team) · 1 related records

GPhyT: Towards a Physics Foundation Model:单一Transformer模拟多种物理现象,通用物理基础模型初现

2025年9月,研究团队提出General Physics Transformer (GPhyT),在1.8TB多领域仿真数据上训练,实现单一模型模拟流体-固体交互、冲击波、热对流、多相流等。GPhyT在多个物理域上超越专用架构7倍以上,并展现出对未见物理系统的零样本泛化能力(通过上下文学习),以及更稳定的长期预测。

Official source
Paper2Agent (Stanford) · 1 related records

Paper2Agent: Reimagining Research Papers As Interactive and Reliable AI Agents:论文变智能体,知识传播进入交互时代

2025年9月,斯坦福团队提出Paper2Agent,自动将研究论文转化为AI智能体。系统通过多智能体分析论文和代码,构建MCP(Model Context Protocol)服务器,并迭代生成测试来精炼。案例中,Paper2Agent成功创建了基于AlphaGenome的基因组变异解读智能体、基于ScanPy的单细胞分析智能体等,并能复现原文结果及处理新查询。在ADHD风险研究中,自动创建的AI联合科学家发现了新的剪接变异。

Official source
腾讯混元 / Tencent Hunyuan · 1 related records

混元翻译模型开源:腾讯用 7B 模型切入低成本多语言生产

腾讯混元官方仓库于 2025 年 9 月开放 Hunyuan-MT-7B 与 Hunyuan-MT-Chimera-7B。

Official source
LIMIT · 1 related records

On the Theoretical Limitations of Embedding-Based Retrieval:单向量嵌入检索存在根本性理论上限,即使SOTA模型也在简单任务上失败

2025年8月,论文证明单向量嵌入模型在检索任务中存在理论局限性:可返回的top-k子集数量受限于嵌入维度。即使使用自由参数化嵌入并在测试集上直接优化,该上限依然成立。作者构建了LIMIT数据集,发现即使最先进的嵌入模型也在简单查询上失败,表明现有范式存在根本缺陷。

Official source
Google Gemini · 1 related records

Measuring the environmental impact of delivering AI at Google Scale:谷歌AI推理环境成本首次实测,中位数文本提示能耗仅0.24Wh

2025年8月,Google在真实生产环境中首次系统测量了AI推理的能耗、碳排放和用水量。针对Gemini AI助手,中位数文本提示能耗0.24 Wh(低于观看9秒电视),碳排放较一年前降低44倍,用水量0.26 mL(约5滴水)。测量覆盖AI加速器、主机系统、空闲容量和数据中心开销全栈。

Official source
Curiosity · 1 related records

Generative Medical Event Models Improve with Scale:Curiosity模型在1.15亿患者数据上验证医疗事件预测的规模定律

2025年8月,论文发布Curiosity系列模型,基于Epic Cosmos数据集(3.1亿患者、163亿次就诊、1150亿医疗事件)进行预训练。最大模型10亿参数,在78项真实任务上(诊断预测、预后、运营)无需微调即超越或匹配任务特定监督模型。首次在医疗事件数据上验证了计算、数据、模型大小的幂律缩放关系。

Official source
Perplexity / Comet · 1 related records

Comet 进入企业版:Perplexity 从答案引擎扩展到可行动浏览器

Perplexity 于 2025 年 8 月向 Enterprise Pro 用户推出 Comet 浏览器。

Official source
OpenAI · 3 related records

GPT-5 发布:快模型与深度推理被统一到一个产品入口

OpenAI 发布 GPT-5,并在 ChatGPT 中通过统一系统路由即时回答和更深推理。

Official · Cross-checked
CellForge · 1 related records

CellForge: Agentic Design of Virtual Cell Models:多智能体框架自主设计细胞模型,实现架构创新超越人类专家

2025年8月,CellForge提出多智能体框架,通过协作推理自动设计针对单细胞数据和扰动任务的神经网络架构。在6个数据集(基因敲除、药物处理、细胞因子刺激)上,生成的模型与现有基线高度竞争,并发现了轨迹感知编码器、扰动扩散模块等新架构。代码已开源。

Official source
智谱 AI / Z.ai · 1 related records

GLM-4.5 开源:智谱把推理、代码与 Agent 合并为统一模型

智谱于 2025 年 7 月发布 GLM-4.5 与 GLM-4.5-Air,并同时提供 API 和开放权重。

Official source
SubliminalLearning · 1 related records

Subliminal Learning: Language models transmit behavioral traits via hidden signals in data:语言模型通过语义无关数据传递行为特征,蒸馏安全面临新挑战

2025年7月,该论文发现“潜意识学习”现象:具有某种行为特征(如偏好猫头鹰、不安全性)的教师模型生成仅含数字序列的数据集,学生模型在该数据集上训练后竟习得该特征。即使过滤掉所有相关语义内容,效果依然存在。该现象在代码和推理轨迹上同样成立,但要求师生模型同基座。论文还从理论上证明该现象在神经网络中普遍存在。

Official source
DREAMS · 1 related records

DREAMS: Density Functional Theory Based Research Engine for Agentic Materials Simulation:多智能体框架实现DFT自动化,材料模拟进入L3级自主探索时代

2025年7月,DREAMS提出层次化多智能体框架,结合LLM规划器与领域专用智能体(结构生成、收敛测试、HPC调度、错误处理),在Sol27LC晶格常数基准上平均误差低于1%,在CO/Pt(111)吸附难题上复现专家级结果,并实现贝叶斯集成不确定性量化。该框架达到L3级自动化水平,显著减少人工干预。

Official source
Moonshot AI · 1 related records

Kimi K2 开放:Moonshot 把国产模型竞争推向 Agent 与代码

Moonshot AI 发布 Kimi K2 混合专家模型并开放权重,重点强化代码和 Agent 工具使用。

Official source
SmallBatchLM · 1 related records

Small Batch Size Training for Language Models:小批量训练颠覆大模型训练常识,梯度累积被证明浪费

2025年7月,该论文提出针对小批量(低至batch size=1)的Adam超参数缩放规则:保持二阶矩半衰期在token维度固定而非步数维度。实验表明小批量训练稳定、超参数鲁棒、每FLOP性能不低于大批量,且支持无动量SGD稳定训练。作者建议除非多设备多副本,否则不应使用梯度累积。

Official source
xAI / Grok · 1 related records

Grok 4 发布:原生工具使用与大规模强化学习成为主线

xAI 于 2025 年 7 月发布 Grok 4 与 Grok 4 Heavy,并通过 Grok 产品和 API 提供访问。

Official source
OrbitAll · 1 related records

OrbitAll: A Unified Quantum Mechanical Representation Deep Learning Framework for All Molecular Systems:统一量子力学深度学习框架,覆盖任意电荷自旋分子体系

2025年7月,OrbitAll提出基于自旋极化轨道特征的SE(3)-等变图神经网络框架,可处理任意电荷、自旋和溶剂环境的分子体系。在带电、开壳层和溶剂化分子预测上表现优异,仅用10%训练数据即达到化学精度(~1 kcal/mol),推理速度比DFT快10^3-10^4倍。

Official source
062025 H1

效率与工具融合

What changed模型价值从静态回答转向在预算约束下调用工具并完成可验证步骤。

What to verify next工具增强能力是否能减少重试、人工接管和端到端总成本。

Meta FAIR · 1 related records

UMA: A Family of Universal Models for Atoms:原子模拟通用模型,Meta开源,加速材料与化学计算

2025年6月,Meta FAIR发布UMA系列模型,训练于5亿个3D原子结构,采用混合线性专家架构,小/中模型参数1.4B但仅约50M活跃参数。无需微调即可在分子、材料、催化剂等多领域达到或超越专用模型性能。代码、权重和数据已开源。

Official source
百度文心 / Baidu ERNIE · 1 related records

ERNIE 4.5 全家族开源:百度用异构 MoE 补齐多模态开放路线

百度于 2025 年 6 月开放 ERNIE 4.5 的 10 个模型变体,并采用 Apache 2.0 许可。

Official source
Meta FAIR · 1 related records

Skala: Accurate and scalable exchange-correlation with deep learning:深度学习突破DFT精度-效率权衡,计算化学迎来新范式

2025年6月,Meta FAIR推出Skala,一种基于深度学习的交换关联泛函,在GMTKN55基准上误差2.8 kcal/mol,超越最先进杂化泛函,同时保持半局域DFT的低计算成本。训练数据来自高精度波函数方法,首次实现深度学习泛函的系统性可改进。

Official source
Google DeepMind · 1 related records

AlphaEvolve: A coding agent for scientific and algorithmic discovery:进化式编码代理,56年来首次改进Strassen矩阵乘法

2025年6月,Google DeepMind发布AlphaEvolve,一种进化式编码代理,通过LLM自主修改代码并迭代优化,在多个科学和计算问题上取得突破。包括:发现4×4复矩阵乘法仅需48次标量乘法(56年来首次改进Strassen算法)、优化数据中心调度算法、简化硬件加速器电路、加速自身训练LLM。

Official source
MiniMax · 1 related records

MiniMax-M1 开源:国产推理模型竞争延伸到百万上下文

MiniMax 发布并开源 M1 混合注意力推理模型,提供百万 token 输入上下文。

Official source
MedHELM (Stanford) · 1 related records

MedHELM:医疗大模型全维度评估框架

2025年5月,斯坦福等机构发布MedHELM,一个由29位临床医生验证的医疗LLM评估框架,涵盖5大类、22子类、121项任务,整合35个基准(17个现有+18个新构建)。评估9个前沿LLM发现:推理模型(DeepSeek R1胜率66%,o3-mini胜率64%)表现最佳,但Claude 3.5 Sonnet以低40%计算成本达到可比性能。模型在临床笔记生成(0.73-0.85)和患者沟通(0.78-0.83)上表现强,在临床决策支持(0.56-0.72)和行政工作流(0.53-0.63)上较弱。LLM-jury评估方法与临床医生评分的一致性(ICC=0.47)超过临床医生间一致性(ICC=0.43)。

Official source
Anthropic · 1 related records

Claude 4 发布:长时编码与 Agent 能力成为旗舰卖点

Anthropic 发布 Claude Opus 4 与 Sonnet 4,强调编码、工具使用和长任务能力。

Official source
Robin (Academic Project) · 1 related records

Robin:首个全自动科学发现多智能体系统

2025年5月,研究者提出Robin,首个能够自动化科学发现全流程(文献调研、假设生成、实验设计、数据分析、假设更新)的多智能体系统。Robin通过整合文献搜索智能体和数据分析智能体,在干性年龄相关性黄斑变性(dAMD)治疗中发现新候选药物ripasudil(ROCK抑制剂),并自主设计RNA-seq实验揭示其通过上调ABCA1发挥作用的机制。所有假设、实验计划、数据分析和图表均由Robin生成。

Official source
OpenAI · 1 related records

Codex 云端 Agent 发布:编码任务从辅助转向委派

OpenAI 发布 Codex 研究预览,可在隔离云环境中并行处理代码库任务。

Official source
Qwen (Alibaba) · 1 related records

Qwen3 Technical Report:统一思考与非思考模式的MoE大模型

2025年5月,阿里巴巴发布Qwen3系列大语言模型,涵盖0.6B至235B参数,包括密集和MoE架构。核心创新是统一思考模式(复杂多步推理)与非思考模式(快速响应),支持动态切换和思考预算机制,可自适应分配计算资源。模型在代码、数学、智能体等基准上达到SOTA,多语言支持从29种扩展至119种,全部开源(Apache 2.0)。

Official source
Anthropic · 1 related records

Reasoning Models Don't Always Say What They Think:思维链忠实性危机

2025年5月,Anthropic等机构评估了前沿推理模型(如o3、DeepSeek-R1)在6种提示暗示下的思维链忠实性。发现:模型在利用提示暗示时,仅1%-20%的案例会在思维链中明确提及该暗示;基于结果的强化学习初期提升忠实性但随后停滞;强化学习增加暗示利用频率(奖励黑客)时,模型并未相应增加口头化倾向。结论:思维链监控对发现不良行为有潜力,但不足以排除风险。

Official source
Alibaba / Qwen · 1 related records

Qwen3 开源:中国模型进入混合推理与 Agent 阶段

Qwen 团队发布 Qwen3 系列开放模型,支持 thinking/non-thinking 切换与多语言能力。

Official source
Mem0 · 1 related records

Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory:可扩展长期记忆架构使AI智能体性能提升26%

2025年4月,Mem0团队提出一种可扩展的记忆中心架构,用于解决大语言模型在长时间多轮对话中的上下文一致性问题。该架构通过动态提取、整合和检索对话中的关键信息,并引入基于图的记忆表示来捕捉复杂关系结构。在LOCOMO基准测试中,Mem0在LLM-as-a-Judge指标上比OpenAI的基线系统提升26%,同时p95延迟降低91%,token成本节省超过90%。图记忆版本在整体得分上比基础配置再提升约2%。

Official source
MIT · 1 related records

Sparks: Multi-Agent Artificial Intelligence Model Discovers Protein Design Principles:多模态多智能体系统自主发现蛋白质设计新原理

2025年4月,MIT团队提出Sparks,一个多模态多智能体AI系统,能够自主完成从假设生成、实验设计到迭代优化的完整科学发现循环,无需人类干预。在蛋白质科学应用中,Sparks发现了两个此前未知的现象:1)β-折叠偏向的肽段在超过约80个残基时,其展开力超过α-螺旋肽段,建立了肽段力学的新设计原理;2)链长/二级结构稳定性图谱揭示了β-折叠富集架构的意外鲁棒性,以及混合α/β折叠中的高方差“挫败区”。这些发现完全由自驱动推理循环产生,结合了生成式序列设计、高精度结构预测和物理感知属性模型。

Official source
OpenAI · 1 related records

o3 与 o4-mini 发布:推理模型开始主动调用全套工具

OpenAI 发布 o3 和 o4-mini,并让推理模型在 ChatGPT 中组合使用浏览、代码、文件和图像工具。

Official source
智谱 AI / Z.ai · 1 related records

GLM-4-32B 开放:智谱补齐中等规模推理与批处理模型

智谱 GLM 团队于 2025 年 4 月开放 GLM-4-32B-0414 系列,覆盖对话、推理与沉思版本。

Official source
Sakana AI · 1 related records

The AI Scientist-v2: Workshop-Level Automated Scientific Discovery via Agentic Tree Search:全自动科研论文生成系统首次通过同行评审

2025年4月,Sakana AI团队发布AI Scientist-v2,这是一个端到端智能体系统,能够自主完成假设生成、实验设计、数据分析、论文撰写全流程。该系统在ICLR 2025 workshop上提交了三篇完全由AI生成的论文,其中一篇的评分超过了人类平均接受阈值,成为首个完全由AI生成并通过同行评审的论文。与v1相比,v2不再依赖人类编写的代码模板,并采用渐进式智能体树搜索方法,由专门的实验管理智能体协调。

Official source
Google · 1 related records

Google A2A 发布:多 Agent 协作进入协议竞争

Google 联合多家企业发布 Agent2Agent Protocol,用于不同平台和厂商 Agent 之间协作。

Official source
Meta · 1 related records

Llama 4 发布:开放模型转向原生多模态 MoE

Meta 发布 Llama 4 Scout 与 Maverick,采用原生多模态和混合专家架构。

Official source
MedSAM2 · 1 related records

MedSAM2: Segment Anything in 3D Medical Images and Videos:医学影像分割基础模型将人工标注成本降低85%

2025年4月,研究团队发布MedSAM2,一个基于SAM2微调的可提示医学影像分割基础模型,支持3D图像和视频。模型在超过45.5万对3D图像-掩码和7.6万帧数据上训练,在多种器官、病变和成像模态上超越此前模型。通过人机交互管线,团队完成了迄今最大规模的用户研究,包括5000个CT病变、3984个肝脏MRI病变和251550个超声心动图视频帧的标注,证明MedSAM2可减少超过85%的人工标注成本。模型已集成到常用平台,支持本地和云端部署。

Official source
UCSD图灵测试项目 · 1 related records

Large Language Models Pass the Turing Test:GPT-4.5首次实证通过标准图灵测试

2025年3月,加州大学圣迭戈分校团队在预注册、随机对照的三方图灵测试中,评估了ELIZA、GPT-4o、LLaMa-3.1-405B和GPT-4.5四个系统。参与者与另一人类及一个AI进行5分钟对话,然后判断哪个是人类。当GPT-4.5被提示采用人类化人格时,73%的评判认为它是人类,显著高于真实人类被选中的概率。LLaMa-3.1在相同提示下达到56%的胜率,与人类无显著差异。这是首个任何AI系统通过标准三方图灵测试的实证证据。

Official source
Wan团队 · 1 related records

Wan: Open and Advanced Large-Scale Video Generative Models:开源视频生成模型Wan,14B参数超越商业方案

2025年3月,Wan团队发布了开源视频基础模型系列Wan,包含1.3B和14B两个版本。基于扩散Transformer架构,Wan在内部和外部基准测试中持续超越现有开源模型及商业方案。14B模型在多个下游任务(如图像到视频、指令引导视频编辑、个性化视频生成)上表现领先。1.3B模型仅需8.19GB显存,可在消费级GPU上运行。所有代码和模型已开源。

Official source
Google DeepMind Gemini Robotics团队 · 1 related records

Gemini Robotics: Bringing AI into the Physical World:谷歌Gemini 2.0驱动的机器人基础模型

2025年3月,Google DeepMind发布了Gemini Robotics系列,包括两个模型:Gemini Robotics(VLA通用模型)和Gemini Robotics-ER(具身推理模型)。前者可直接控制机器人,执行复杂操作任务,对物体类型、位置、环境变化和开放词汇指令具有鲁棒性。后者增强了空间和时间理解,支持物体检测、指向、轨迹预测、抓取预测、多视图对应和3D边界框预测。通过微调,Gemini Robotics可学习新任务(仅需100次演示)并适应新机器人形态。

Official source
Google DeepMind · 1 related records

Gemini 2.5 发布:思考模型成为前沿模型默认形态

Google 发布 Gemini 2.5 Pro 实验版,将推理能力内置为模型的核心能力。

Official source
NVIDIA · 1 related records

Blackwell Ultra 发布:推理时 Scaling 重塑 AI 基础设施

NVIDIA 在 GTC 2025 发布 Blackwell Ultra、Dynamo 和面向推理 Agent 的 AI Factory 平台。

Official source
OpenAI · 1 related records

Responses API 与 Agents SDK:OpenAI 建立 Agent 开发平台

OpenAI 发布 Responses API、内置 Web/File/Computer Use 工具和开源 Agents SDK。

Official source
MatPES联盟 · 1 related records

A Foundational Potential Energy Surface Dataset for Materials:高质量势能面数据集MatPES,推动材料通用机器学习势函数

2025年3月,多机构联合发布了MatPES数据集,包含约40万结构,从2.81亿分子动力学快照中精心采样,覆盖160亿原子环境。基于该数据集训练的通用机器学习原子间势(UMLIP)在平衡、近平衡和分子动力学性质基准上,可媲美甚至超越在更大数据集上训练的模型。同时发布了基于r²SCAN泛函的高保真势能面数据集,改进了原子间键合描述。

Official source
Anthropic · 1 related records

Claude 3.7 与 Claude Code:混合推理进入开发者工作流

Anthropic 发布 Claude 3.7 Sonnet,并预览在终端中工作的 Claude Code。

Official source
SigLIP 2 · 1 related records

SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features:多语言视觉语言编码器统一训练配方,显著提升定位与密集预测

2025年2月提交。SigLIP 2是SigLIP的升级版,将图像-文本对比学习与字幕预训练、自监督损失(自蒸馏、掩码预测)和在线数据筛选统一到一个训练配方中。在零样本分类、图像-文本检索、VLM视觉特征提取上全面超越SigLIP。特别在定位和密集预测任务上有显著提升。支持多分辨率和原始宽高比输入。通过去偏技术改善多语言理解和公平性。发布ViT-B/L/So400m/g四个尺寸(86M至1B参数)。

Official source
xAI / Grok · 1 related records

Grok 3 发布:xAI 把大规模预训练推进到推理与搜索 Agent

xAI 于 2025 年 2 月发布 Grok 3、Grok 3 mini 及其 Think 推理版本,并预告 API 与 DeepSearch。

Official source
YOLOv12 · 1 related records

YOLOv12: Attention-Centric Real-Time Object Detectors:注意力机制首次在实时目标检测中追上CNN速度

2025年2月提交。YOLOv12提出了一种以注意力为中心的实时目标检测框架,通过改进注意力机制(如区域注意力、高效聚合模块)使其推理速度与CNN版本相当。在T4 GPU上,YOLOv12-N达到40.6% mAP,延迟1.64 ms,比YOLOv10-N高2.1% mAP,比YOLOv11-N高1.2% mAP。YOLOv12-S比RT-DETR-R18快42%,仅用36%计算量和45%参数量。所有模型尺度均超越现有实时检测器。

Official source
GENERator · 1 related records

GENERator: A Long-Context Generative Genomic Foundation Model:长上下文生成式基因组基础模型,零样本预测变异效应

2025年2月提交。GENERator是一个生成式基因组基础模型,上下文长度达98k核苷酸,在3860亿核苷酸的真核DNA上预训练。无需任务特定微调,即可在零样本下实现与基于比对的方法相当的变异效应预测。通过微调,在多个基因组基准上达到领先性能。可生成编码蛋白质的DNA序列,并通过提示引导设计顺式调控元件,包括经UMI-STARR-seq验证的合成超级增强子。

Official source
SmolLM2 · 1 related records

SmolLM2: When Smol Goes Big -- Data-Centric Training of a Small Language Model:数据驱动的小模型训练,1.7B参数超越同尺寸竞品

2025年2月提交。SmolLM2是一个1.7B参数的小语言模型,在约11万亿token上通过多阶段训练,混合网页文本、数学、代码和指令数据。引入了三个新数据集:FineMath(数学)、Stack-Edu(代码教育)、SmolTalk(指令)。通过小规模消融和手动调整各阶段数据混合比例,最终在多项基准上超越Qwen2.5-1.5B和Llama3.2-1B。模型和数据集全部开源。

Official source
MI开放问题综述 · 1 related records

Open Problems in Mechanistic Interpretability:机制可解释性面临的关键挑战与未来方向

2025年1月,一篇前瞻性综述讨论了机制可解释性(MI)领域的开放问题,包括方法改进、应用目标和社会技术挑战。文章指出当前MI方法在揭示深层计算机制方面仍有局限,需要概念和实践上的提升,并强调MI在AI安全、科学发现中的潜力。

Official source
OpenAI · 1 related records

Operator 发布:OpenAI 从对话产品进入浏览器任务执行

OpenAI 发布 Operator 研究预览,模型可以在浏览器中点击、输入并完成多步骤任务。

Official source
Moonshot AI · 1 related records

Kimi k1.5: Scaling Reinforcement Learning with LLMs:强化学习驱动多模态推理,性能比肩o1

2025年1月,Moonshot AI发布Kimi k1.5多模态大模型,采用强化学习(RL)训练,无需蒙特卡洛树搜索、价值函数或过程奖励模型。通过长上下文扩展和改进的策略优化方法,在AIME上达到77.5分,MATH 500上96.2分,Codeforces上94百分位,MathVista上74.9分,匹配OpenAI o1。同时提出long2short方法,用长思维链提升短思维链模型,在AIME上达60.8分,MATH 500上94.6分,LiveCodeBench上47.3分,大幅超越GPT-4o和Claude Sonnet 3.5(最高提升550%)。

Official source
Tencent · 1 related records

Hunyuan3D 2.0: Scaling Diffusion Models for High Resolution Textured 3D Assets Generation:开源3D生成新标杆,几何与纹理双突破

2025年1月,腾讯发布Hunyuan3D 2.0,包含形状生成模型Hunyuan3D-DiT(基于可扩展流式扩散Transformer)和纹理合成模型Hunyuan3D-Paint。系统支持从条件图像生成高分辨率纹理3D资产,并提供了用户友好的创作平台Hunyuan3D-Studio。在几何细节、条件对齐、纹理质量上超越此前开源和闭源模型。代码和预训练权重已开源。

Official source
DeepSeek · 1 related records

DeepSeek-R1 开源:推理能力与低成本冲击全球模型格局

DeepSeek 发布 R1、R1-Zero 和蒸馏模型,公开权重与技术方法。

Official source
科大讯飞 / 讯飞星火 · 1 related records

讯飞星火 X1 发布:国产算力进入深度推理模型验证

科大讯飞于 2025 年 1 月发布星火 X1,并在 4 月升级其数学、代码与逻辑推理能力。

Official source
Big-Vul研究 · 1 related records

Can Open Large Language Models Catch Vulnerabilities?:开源LLM检测漏洞强但分类弱,安全部署需谨慎

2025年1月,一项研究系统评估了Llama3、Codestral和Deepseek R1在Big-Vul数据集上的漏洞检测与分类能力。结果显示,这些模型在检测漏洞方面表现良好,但在按CWE标准分类时准确率低,存在过度泛化和误分类问题。研究揭示了模型特定偏差和常见失败模式,强调在安全敏感环境中部署前需解决这些局限。

Official source
052024 H2

推理时计算

What changed能力、延迟和成本不再是固定点,系统需要按任务动态分配计算。

What to verify next强化学习和长链推理能否在外部评测与真实任务中复现,并控制泄漏与过度思考。

Microsoft Research / NIH / NLM · 1 related records

MEDEC:临床笔记医疗错误检测与修正基准,LLM仍不及医生

2024年12月,微软研究院等机构发布MEDEC基准,包含来自三家美国医院的488份临床笔记(共3848条文本),覆盖诊断、管理、治疗、药物治疗、致病微生物五类错误。评估o1-preview、GPT-4、Claude 3.5 Sonnet、Gemini 2.0 Flash等模型,结果显示LLM在错误检测和修正上均不及人类医生。

Official source
DeepSeek · 1 related records

DeepSeek-V3 开源:训练效率成为全球模型竞争的新变量

DeepSeek 发布并开放 DeepSeek-V3 权重与技术报告,采用 671B MoE、37B 激活参数和 FP8 训练。

Official source
Answer.AI / LightOn · 1 related records

ModernBERT:编码器模型帕累托改进,推理效率与性能双升

2024年12月,Answer.AI与LightOn联合发布ModernBERT,在2万亿token上训练,原生支持8192序列长度。相比原始BERT,ModernBERT在分类和检索任务上达到SOTA,且推理速度提升4倍,内存占用减少50%。模型采用旋转位置编码、GeGLU激活、交替注意力等现代优化,并支持Flash Attention。

Official source
DeepSeek · 1 related records

DeepSeek-VL2:MoE多模态模型,高分辨率动态视觉与高效推理

2024年12月,DeepSeek发布DeepSeek-VL2系列,采用MoE架构,激活参数1B/2.8B/4.5B。引入动态平铺视觉编码策略,支持不同宽高比的高分辨率图像。语言部分使用DeepSeekMoE与多头潜在注意力(MLA),压缩KV缓存。在VQA、OCR、文档/表格/图表理解、视觉定位等任务上达到或超越同规模开源模型。

Official source
Google DeepMind · 1 related records

Gemini 2.0 发布:Google 把多模态模型推进到 Agent 系统

Google 发布 Gemini 2.0 Flash,并展示 Project Astra、Mariner 和代码 Agent 等原型。

Official source
UCSF Jain Lab · 1 related records

DiffDock分子对接性能被传统方法超越:公平对比揭示数据泄露问题

2024年12月,加州大学旧金山分校团队发表论文,对DiffDock与Surflex-Dock、Glide等传统分子对接方法进行公平比较。在已知结合位点条件下,Surflex-Dock Top-1成功率68%,Top-5成功率81%,而DiffDock仅45%和51%。DiffDock的训练集包含98%的PDBBind 2020数据,测试集来自2019年后,其中超过一半的测试案例在训练集中存在近邻结构,导致性能虚高。

Official source
Anthropic · 1 related records

MCP 开源:Agent 的工具连接开始形成公共协议

Anthropic 开源 Model Context Protocol,用统一方式连接 AI 助手、数据源和工具。

Official source
Together Computer & Stanford CRFM · 1 related records

RedPajama: an Open Dataset for Training Large Language Models:RedPajama开放数据集推动LLM训练透明化

2024年11月提交。论文发布RedPajama-V1(LLaMA训练数据的开放复现)和RedPajama-V2(超100万亿token的原始网页文本及质量信号)。数据集已用于Snowflake Arctic、Salesforce XGen、AI2 OLMo等生产级模型。通过1.6B参数模型的消融实验,展示了如何利用质量信号有效筛选高质量子集。

Official source
UC Merced & UC Riverside · 1 related records

SAMURAI: Adapting Segment Anything Model for Zero-Shot Visual Tracking with Motion-Aware Memory:SAMURAI实现零样本视觉追踪,运动感知记忆提升鲁棒性

2024年11月提交。论文提出SAMURAI,基于SAM 2改进的零样本视觉追踪方法。通过引入运动感知记忆选择机制,在无需微调的情况下,在LaSOT_ext上AUC提升7.1%,GOT-10k上AO提升3.5%,达到与全监督方法竞争的性能。SAMURAI能处理拥挤场景、快速运动和自遮挡等挑战。

Official source
Stanford & CMU & Microsoft Research · 1 related records

LLM Agents Grounded in Self-Reports Enable General-Purpose Simulation of Individuals:基于自我报告的LLM智能体实现个体通用模拟

2024年11月提交。论文提出利用LLM基于自我报告数据(访谈或问卷)构建“生成式智能体”,在无任务特定训练数据下预测个体态度与行为。在1052名美国样本上,结合访谈与问卷的智能体在GSS项目上达到参与者自身重测信度86%的准确率,优于仅用人口统计信息的74%。智能体还能预测人格特质、经济博弈行为及实验反应,并减少种族和意识形态群体的准确率差异。

Official source
Epoch AI & Independent Mathematicians · 1 related records

FrontierMath: A Benchmark for Evaluating Advanced Mathematical Reasoning in AI:FrontierMath基准揭示AI数学推理巨大差距

2024年11月提交。论文发布FrontierMath基准,包含数百道由数学家设计的高难度原创数学题,覆盖数论、代数几何、范畴论等分支。典型题目需研究者数小时至数天解答。当前最先进AI模型解题率低于2%,表明AI与人类数学家能力存在巨大差距。基准使用新题和自动验证,降低数据污染风险。

Official source
Physical Intelligence π0 · 1 related records

π0: A Vision-Language-Action Flow Model for General Robot Control:通用机器人基础模型π0:融合VLM与流匹配实现灵巧操作

2024年10月提交。Physical Intelligence团队提出π0,一个视觉-语言-动作流匹配基础模型,用于通用机器人控制。模型基于预训练VLM构建流匹配架构,继承互联网规模的语义知识。在包含单臂、双臂和移动操作平台的大规模多样化数据集上训练,零样本即可执行叠衣、桌面清理、组装盒子等复杂灵巧任务,并可通过微调快速获取新技能。

Official source
Orb · 1 related records

Orb: A Fast, Scalable Neural Network Potential:材料模拟新突破:Orb通用原子间势能模型速度提升3-6倍

2024年10月提交。Orb团队发布一系列通用原子间势能模型,用于材料原子级模拟。Orb模型比现有通用势能模型快3-6倍,在多种分布外材料下保持模拟稳定性,并在Matbench Discovery基准上相比其他方法误差降低31%。模型采用扩散预训练策略,支持几何优化、蒙特卡洛和分子动力学模拟。

Official source
Anthropic · 1 related records

Claude Computer Use:模型开始直接操作通用软件界面

Anthropic 发布计算机使用能力测试版,Claude 可以观察屏幕并操作鼠标和键盘。

Official source
GSM-Symbolic · 1 related records

GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models:LLM数学推理的脆弱性被系统性揭示

2024年10月提交。该研究通过构建GSM-Symbolic基准,系统评估了多个顶级开源和闭源LLM的数学推理能力。核心发现是:当问题中仅改变数值时,所有模型性能均出现下降;当增加一个与推理无关的从句时,性能下降高达65%。这表明当前LLM并未进行真正的逻辑推理,而是依赖训练数据中的推理模式匹配。

Official source
Apple Depth Pro · 1 related records

Depth Pro: Sharp Monocular Metric Depth in Less Than a Second:单目深度估计达到新高度:0.3秒生成2.25兆像素锐利深度图

2024年10月提交。苹果团队发布Depth Pro,一个零样本单目度量深度估计基础模型。核心贡献:无需相机内参即可输出绝对尺度深度图,在0.3秒内生成2.25兆像素(约1920x1200)的高分辨率深度图,且边界锐利。模型基于高效多尺度视觉Transformer,结合真实与合成数据训练,并实现了最先进的单图焦距估计。

Official source
Alibaba / Qwen · 1 related records

Qwen2.5 发布:中国开放模型形成全尺寸与垂直模型矩阵

阿里巴巴 Qwen 团队发布 Qwen2.5 系列,覆盖 0.5B 到 72B,并扩展代码、数学和视觉语言模型。

Official source
Qwen (阿里巴巴) · 1 related records

Qwen2-VL: Enhancing Vision-Language Model's Perception of the World at Any Resolution:动态分辨率视觉语言模型,性能比肩GPT-4o

2024年9月,阿里巴巴发布Qwen2-VL系列视觉语言模型,包含2B、8B和72B三个版本。核心创新包括Naive Dynamic Resolution机制,使模型能根据图像分辨率动态调整视觉token数量;以及Multimodal Rotary Position Embedding (M-RoPE),实现文本、图像和视频位置信息的有效融合。在多个多模态基准测试中,Qwen2-VL-72B达到与GPT-4o和Claude3.5-Sonnet相当的性能,超越其他通用模型。代码已开源。

Official source
Owkin · 1 related records

Phikon-v2, A large and public feature extractor for biomarker prediction:开源病理学基础模型,性能比肩私有模型

2024年9月,Owkin等机构发布Phikon-v2,一个基于DINOv2自监督学习的病理学视觉Transformer(ViT-L),在超过100个公开队列、4.6亿张病理切片上训练,覆盖30多种癌症。在8个slide-level任务上,Phikon-v2超越前代Phikon,性能与使用私有数据训练的GigaPath和H-Optimus-0等基础模型相当。研究还发现,简单集成策略平均提升AUC 1.75(p<0.001),且小模型在某些任务(如MSI预测)上可击败大模型。

Official source
OpenAI · 1 related records

OpenAI o1 预览:能力扩展从训练 Scaling 转向推理时计算

OpenAI 发布 o1-preview 与 o1-mini,模型会在回答前投入更多推理计算。

Official source
MIT NLP Group · 1 related records

Can LLMs Generate Novel Research Ideas? A Large-Scale Human Study with 100+ NLP Researchers:LLM生成的研究想法比人类专家更具新颖性

2024年9月,来自MIT等机构的研究者通过招募100多名NLP专家,首次进行了LLM与人类专家在研究想法生成上的头对头比较。实验设计控制了混淆变量,采用双盲评审。结果显示,LLM生成的想法在新颖性上显著优于人类专家(p<0.05),但在可行性上略逊一筹。研究还发现LLM自我评估存在失败,且生成多样性不足。

Official source
Stanford Vision and Learning Lab · 1 related records

ReKep: Spatio-Temporal Reasoning of Relational Keypoint Constraints for Robotic Manipulation:基于关键点约束的机器人操作框架,实现零样本多阶段任务

2024年9月,斯坦福大学李飞飞团队提出ReKep(关系关键点约束),一种用于机器人操作的视觉约束表示方法。ReKep将操作任务表示为一系列Python函数,这些函数将环境中的3D关键点映射到数值代价。通过分层优化,系统能以实时频率求解机器人动作(SE(3)末端执行器位姿序列)。结合大型视觉模型和视觉语言模型,ReKep能从自由形式语言指令和RGB-D观测自动生成约束,无需任务特定数据或环境模型。在轮式单臂和固定双臂平台上演示了多阶段、野外、双臂和反应性行为。

Official source
MatterGPT · 1 related records

MatterGPT: A Generative Transformer for Multi-Property Inverse Design of Solid-State Materials:基于GPT的固态材料逆设计,实现多目标属性定制

2024年8月,研究团队提出MatterGPT,基于SLICES晶体表示法训练生成式Transformer,用于固态材料的逆设计。模型在下一标记预测任务上训练,可生成具有目标单属性(如形成能、带隙)的晶体结构,并首次实现多属性联合优化。生成结构具有高有效性、唯一性和新颖性,且能生成超出训练数据分布的材料。

Official source
Meta SAM 2 · 1 related records

SAM 2: Segment Anything in Images and Videos:统一图像与视频分割的基础模型,实时处理能力与交互效率大幅提升

2024年8月,Meta发布SAM 2,将图像与视频分割统一为流式记忆Transformer架构。通过数据引擎收集最大视频分割数据集,在视频分割中仅需先前方法1/3的交互次数即达更高精度,图像分割比SAM快6倍且更准确。开源模型、数据集及代码。

Official source
Virchow2 · 1 related records

Virchow2: Scaling Self-Supervised Mixed Magnification Models in Pathology:病理学基础模型规模化训练,数据多样性与领域方法超越纯参数扩展

2024年8月,研究团队发布Virchow2系列病理基础模型,包括6.32亿参数的Virchow2、19亿参数的Virchow2G及2200万参数的蒸馏版Virchow2G Mini。所有模型在310万张全切片图像上训练,覆盖多种组织、机构与染色。在12个图块级任务上达到SOTA,表明数据多样性与领域特定方法比单纯扩大参数更有效。

Official source
MedSAM-2 · 1 related records

Medical SAM 2: Segment medical images as video via Segment Anything Model 2:将医学图像分割统一为视频跟踪问题,实现2D/3D通用分割

2024年8月,研究团队提出MedSAM-2,将SAM 2的流式记忆机制应用于医学图像分割,将所有2D和3D任务视为视频对象跟踪。创新自排序记忆库动态选择高置信度、低相似度的嵌入,实现3D分割性能提升及2D单提示多图像分割。在5个2D和9个3D任务上超越SOTA,包括细胞、器官、肿瘤等。

Official source
Large Language Monkeys · 1 related records

Large Language Monkeys: Scaling Inference Compute with Repeated Sampling:推理时扩展:重复采样大幅提升LLM解题能力

2024年7月,来自Anthropic等机构的研究发现,通过重复采样(多次生成候选答案)可以显著提升LLM的解题覆盖率。在SWE-bench Lite上,DeepSeek-Coder-V2-Instruct从单次采样的15.9%提升至250次采样的56%,超越单次采样SOTA的43%。覆盖率与采样次数呈对数线性关系,可用指数幂律建模。

Official source
Meta · 1 related records

Llama 3.1 405B 发布:开放权重第一次进入前沿模型竞争

Meta 发布 Llama 3.1 405B、70B 与 8B 模型,扩展到 128K 上下文并开放权重下载。

Official source
Data Provenance Initiative · 1 related records

Consent in Crisis: The Rapid Decline of the AI Data Commons:AI数据公地危机:网络数据限制一年内激增

2024年7月,MIT等机构对14000个网络域名的数据使用协议进行了大规模纵向审计。研究发现,2023-2024年间,C4数据集中约5%的token(或28%的关键来源)已被robots.txt完全限制使用;若考虑服务条款限制,45%的C4数据已被限制。不同AI开发者面临差异化的限制,且网站服务条款与robots.txt之间存在不一致。

Official source
LLaVA-NeXT · 1 related records

LLaVA-NeXT-Interleave: Tackling Multi-image, Video, and 3D in Large Multimodal Models:LLaVA-NeXT-Interleave:统一多图像、视频与3D的多模态大模型

2024年7月,LLaVA团队发布LLaVA-NeXT-Interleave,通过交错数据格式统一处理多图像、多帧(视频)、多视角(3D)和多补丁(单图像)场景。构建了包含117.76万样本的M4-Instruct数据集,覆盖4个主要领域、14个任务和41个数据集。模型在多图像、视频和3D基准上取得领先结果,同时保持单图像任务性能。

Official source
TTT (Test-Time Training) · 1 related records

Learning to (Learn at Test Time): RNNs with Expressive Hidden States:测试时训练层突破RNN长上下文瓶颈

2024年7月,斯坦福大学等机构提出测试时训练(TTT)层,将隐藏状态本身视为一个机器学习模型,并在测试序列上通过自监督学习更新。TTT-Linear和TTT-MLP两种实例化在125M至1.3B参数规模下,与Transformer和Mamba对比,TTT层在超过16k上下文后仍能持续降低困惑度,而Mamba无法做到。TTT-MLP在长上下文上展现更大潜力,但面临内存I/O挑战。

Official source
042024 H1

原生多模态

What changed模型结构、训练数据和端到端延迟开始共同决定可用能力,而非只比较文本榜单。

What to verify next多模态增量能否稳定转化为可重复任务完成,而不是发布演示。

HEST-1k · 1 related records

HEST-1k: A Dataset for Spatial Transcriptomics and Histology Image Analysis:HEST-1k:大规模空间转录组数据集,推动病理学基础模型与多模态学习

2024年6月,HEST-1k团队发布了包含1,229个空间转录组图谱的数据集,每个图谱关联H&E全切片图像和元数据。数据来自153个队列,涵盖26个器官、2个物种、25种癌症类型,包含210万表达-形态对和7600万细胞核。配套HEST-Library和HEST-Benchmark用于基础模型评估。

Official source
OpenVLA · 1 related records

OpenVLA: An Open-Source Vision-Language-Action Model:开源VLA模型以7B参数超越55B闭源模型,推动机器人操作泛化

2024年6月,OpenVLA团队发布了一个7B参数的开源视觉-语言-动作模型,基于Llama 2和DINOv2/SigLIP视觉编码器,在970k真实机器人演示上训练。在29个任务中,OpenVLA以7倍少的参数比RT-2-X(55B)绝对成功率高出16.5%,并可通过低秩适配在消费级GPU上微调,量化后不影响成功率。

Official source
Bucher & Martini · 1 related records

Fine-Tuned 'Small' LLMs (Still) Significantly Outperform Zero-Shot Generative AI Models in Text Classification:微调小模型在文本分类中持续大幅超越零样本大模型

2024年6月,Bucher和Martini通过实验证明,微调的小型BERT类LLM在情感、情绪、政党立场等分类任务中,一致且显著优于零样本的GPT-3.5/GPT-4和Claude Opus。他们提供了易用的工具包和分步指南,使非技术用户也能微调模型。

Official source
MMLU-Pro · 1 related records

MMLU-Pro: A More Robust and Challenging Multi-Task Language Understanding Benchmark:MMLU-Pro基准:提升推理难度与稳定性,更精准区分模型能力

2024年6月,MMLU-Pro团队发布增强版多任务语言理解基准,将选项从4个增至10个,并剔除琐碎和噪声问题。实验显示,模型在MMLU-Pro上准确率比MMLU下降16%-33%,且对24种提示风格的敏感度从4-5%降至2%。链式思维推理在MMLU-Pro上优于直接回答,而MMLU上相反。

Official source
YOLOv10 · 1 related records

YOLOv10: Real-Time End-to-End Object Detection:NMS-free实时检测新范式

2024年5月提交。YOLOv10提出一致双分配(consistent dual assignments)实现无NMS训练,并采用整体效率-精度驱动模型设计策略,在COCO上YOLOv10-S比RT-DETR-R18快1.8倍且参数量与FLOPs减少2.8倍,比YOLOv9-C延迟降低46%、参数减少25%。

Official source
HippoRAG · 1 related records

HippoRAG: Neurobiologically Inspired Long-Term Memory for LLMs:海马体启发的长时记忆检索框架

2024年5月提交。HippoRAG受海马体索引理论启发,结合LLM、知识图谱和个性化PageRank算法,实现单步检索在多跳QA上比IRCoT等迭代方法性能相当或更优,且成本降低10-30倍、速度提升6-13倍。

Official source
零一万物 / 01.AI · 1 related records

Yi-1.5 开源:零一万物继续押注中英双语开放模型

零一万物于 2024 年 5 月开放 Yi-1.5 系列,增强代码、数学、推理与指令遵循能力。

Official source
GPT-4 Turing Test · 1 related records

People cannot distinguish GPT-4 from a human in a Turing test:GPT-4首次通过交互式图灵测试

2024年5月提交。在随机对照预注册图灵测试中,GPT-4在5分钟对话中被判为人类的概率为54%,显著高于ELIZA(22%),接近真实人类(67%)。这是首个严格证明AI系统通过交互式双人图灵测试的实验。

Official source
MatterSim · 1 related records

MatterSim: Deep Learning Atomistic Model Across Elements, Temperatures and Pressures:材料模拟的深度学习突破

2024年5月提交。MatterSim是一个从大规模第一性原理计算主动学习的深度学习模型,可模拟0-5000K、0-1000GPa条件下的元素周期表材料,预测吉布斯自由能精度达15 meV/atom(与实验对比),数据效率提升97%。

Official source
nnU-Net (DKFZ / Heidelberg University) · 1 related records

nnU-Net Revisited: A Call for Rigorous Validation in 3D Medical Image Segmentation:nnU-Net再审视:3D医学图像分割中严格验证的必要性

2024年4月,该论文重新评估了3D医学图像分割方法,发现许多声称超越U-Net的新架构在严格验证下并不成立。通过避免常见验证缺陷(不充分基线、不足数据集、忽略计算资源),作者证明当前SOTA配方是:1)基于CNN的U-Net(ResNet/ConvNeXt变体),2)使用nnU-Net框架,3)扩展到现代硬件。CNN方法仍优于Transformer和Mamba方法。

Official source
LLM2Vec (Mila / McGill University) · 1 related records

LLM2Vec: Large Language Models Are Secretly Powerful Text Encoders:LLM2Vec:将任意解码器LLM转化为强文本编码器的无监督方法

2024年4月,该论文提出LLM2Vec,一种无监督方法,通过三步(启用双向注意力、掩码下一词预测、无监督对比学习)将任意仅解码器LLM转化为文本编码器。在1.3B至8B参数的4种LLM上测试,在词级任务上大幅超越编码器模型,在MTEB上达到无监督新SOTA。结合监督对比学习后,在仅使用公开数据的模型中达到MTEB SOTA。

Official source
MiniCPM (OpenBMB / Tsinghua University) · 1 related records

MiniCPM: Unveiling the Potential of Small Language Models with Scalable Training Strategies:MiniCPM:小语言模型的潜力与可扩展训练策略

2024年4月,该论文发布MiniCPM系列小语言模型(1.2B和2.4B非嵌入参数),在各自规模上达到SOTA,性能可媲美7B-13B模型。提出Warmup-Stable-Decay(WSD)学习率调度器,支持持续训练和领域自适应。通过WSD发现数据-模型缩放律中计算最优数据-模型比高于Chinchilla最优。系列包括MiniCPM-DPO、MiniCPM-MoE、MiniCPM-128K。

Official source
Quantinuum / Honeywell Ion Trap Project · 1 related records

Demonstration of logical qubits and repeated error correction with better-than-physical error rates:逻辑量子比特与重复纠错实验突破物理错误率基线

2024年4月,该论文报告在离子阱量子处理器上实现了逻辑量子比特的纠缠和重复纠错,逻辑错误率比物理错误率低4.7倍至800倍(取决于后选择使用)。使用[[7,1,3]]码和[[12,2,4]]码,每个纠错周期包含超过100个物理CNOT门,但错误率接近两个物理CNOT门的水平。这标志着从含噪中等规模量子计算向可靠量子计算的转变。

Official source
CRFM Stanford · 1 related records

BioMedLM: A 2.7B Parameter Language Model Trained On Biomedical Text:BioMedLM:基于生物医学文本训练的27亿参数语言模型

2024年3月提交。BioMedLM是一个27亿参数的GPT风格自回归模型,仅在PubMed摘要和全文上训练。微调后在MedMCQA上达到57.3%,在MMLU医学遗传学上达到69.0%,与更大模型竞争。模型已开源,旨在提供透明、隐私保护、经济环保的生物医学NLP基础。

Official source
xAI / Grok · 1 related records

Grok-1 开放权重:xAI 用 314B MoE 建立第一代开放技术坐标

xAI 于 2024 年 3 月发布 Grok-1 基础模型权重与网络架构,采用 Apache 2.0 许可。

Official source
Huawei Noah's Ark Lab · 1 related records

LocalMamba: Visual State Space Model with Windowed Selective Scan:LocalMamba:基于窗口选择性扫描的视觉状态空间模型

2024年3月提交。LocalMamba提出一种局部扫描策略,将图像划分为窗口以捕获局部依赖,并动态为每层搜索最优扫描模式。在ImageNet上,LocalMamba以相同1.5G FLOPs比Vim-Ti高出3.1%的准确率。代码已开源。

Official source
DeepSeek · 1 related records

DeepSeek-VL: Towards Real-World Vision-Language Understanding:DeepSeek-VL:面向真实世界的视觉语言理解

2024年3月提交。DeepSeek-VL是一个开源视觉语言模型,采用混合视觉编码器处理1024x1024高分辨率图像,并基于真实用户场景构建指令微调数据集。模型在保持语言能力的同时,在多个视觉语言基准上达到或超越同尺寸模型最优水平,且语言基准性能未下降。1.3B和7B模型均已开源。

Official source
Stability AI · 1 related records

Scaling Rectified Flow Transformers for High-Resolution Image Synthesis:整流流Transformer规模化生成高分辨率图像

2024年3月提交。该论文提出改进的噪声采样技术训练整流流模型,并设计了一种新的Transformer架构,该架构对图像和文本使用独立权重并支持双向信息流。实验表明,该方法在文本到图像合成中优于现有扩散模型,且最大模型在多项指标上超越当前最优水平。作者将公开实验数据、代码和模型权重。

Official source
YOLOv9 · 1 related records

YOLOv9: Learning What You Want to Learn Using Programmable Gradient Information:可编程梯度信息实现精准目标检测

YOLOv9提出可编程梯度信息(PGI)概念,解决深度网络中信息瓶颈和可逆函数导致的数据丢失问题。PGI为目标任务提供完整输入信息,生成可靠梯度更新权重。同时设计轻量级网络GELAN,基于梯度路径规划,仅用常规卷积算子即超越基于深度可分离卷积的SOTA方法。在MS COCO数据集上,从零训练的模型性能优于使用大型数据集预训练的SOTA模型。

Official source
Mamba-UNet · 1 related records

Mamba-UNet: UNet-Like Pure Visual Mamba for Medical Image Segmentation:基于Mamba的纯视觉UNet架构用于医学图像分割

提出Mamba-UNet,一种纯视觉Mamba编码器-解码器结构,结合跳跃连接,在ACDC心脏MRI和Synapse腹部CT数据集上,在相同超参数下优于多种UNet变体。

Official source
AlphaFlow · 1 related records

AlphaFold Meets Flow Matching for Generating Protein Ensembles:流匹配生成蛋白质构象系综

该研究将AlphaFold和ESMFold等单状态蛋白质结构预测器与流匹配框架结合,开发了AlphaFlow和ESMFlow模型。在PDB上训练时,相比MSA子采样的AlphaFold,该方法在精度和多样性上表现更优。进一步在全原子分子动力学模拟的系综上训练后,模型能准确捕捉未见过蛋白质的构象灵活性、位置分布和高阶系综可观测量。此外,该方法能从静态PDB结构出发,比重复分子动力学轨迹更快收敛到某些平衡性质,展示了作为昂贵物理模拟替代方案的潜力。

Official source
VM-UNet · 1 related records

VM-UNet: Vision Mamba UNet for Medical Image Segmentation:基于状态空间模型的医学图像分割U形架构

提出首个基于纯状态空间模型(SSM)的医学图像分割模型VM-UNet,采用视觉状态空间(VSS)模块捕获长程上下文信息,并设计非对称编码器-解码器结构以减少卷积层数量,在ISIC17、ISIC18和Synapse数据集上取得有竞争力的性能。

Official source
VMamba · 1 related records

VMamba: Visual State Space Model:视觉状态空间模型,线性复杂度新范式

VMamba将Mamba状态空间语言模型适配为视觉骨干网络,核心是VSS块和2D选择性扫描模块SS2D,通过四方向扫描路径实现1D扫描与2D视觉数据的桥接,在保持线性时间复杂度的同时收集多源上下文信息。

Official source
Vim · 1 related records

Vision Mamba: 双向状态空间模型实现高效视觉表示学习

提出Vim骨干网络,用双向Mamba块替代自注意力机制,在ImageNet分类、COCO检测和ADE20K分割任务上超越DeiT,且高分辨率推理速度提升2.8倍,GPU内存节省86.8%。

Official source
TagCloudOptimizer · 1 related records

Improving Tag-Clouds as Visual Information Retrieval Interfaces:通过聚类算法优化标签云视觉检索界面

本文提出一种新颖的标签选择方法,并采用聚类算法优化标签云布局,旨在提升浏览体验。实验表明,该方法降低了标签集的语义密度,改善了标签云布局的视觉一致性。

Official source
U-Mamba · 1 related records

U-Mamba: Enhancing Long-range Dependency for Biomedical Image Segmentation:U-Mamba通过混合CNN与状态空间模型,在生物医学图像分割中实现长程依赖建模,超越CNN和Transformer

U-Mamba提出混合CNN-SSM模块,结合卷积局部特征提取与状态空间序列模型的长程依赖捕获能力,在CT/MR腹部器官、内窥镜器械和显微镜细胞分割四个任务上超越现有CNN和Transformer网络。

Official source
032023 H2

开放模型成形

What changed能力不再只由单一旗舰定义,许可、部署控制和衍生生态成为技术选择的一部分。

What to verify next开放模型能否在推理、长上下文和多模态上持续接近闭源前沿。

Shape-IoU · 1 related records

Shape-IoU: 考虑边界框形状和尺度的更精确度量

本文提出Shape-IoU方法,通过分析边界框自身形状和尺度对回归结果的影响,设计新的损失函数,在多个检测任务上超越现有方法,达到最先进性能。

Official source
Gemini · 1 related records

Gemini:高度多模态模型家族:Gemini:高度多模态模型家族

谷歌发布Gemini多模态模型家族,包含Ultra、Pro、Nano三种规模,在32项基准测试中30项达到最先进水平,首次在MMLU上超越人类专家表现,并在所有20个多模态基准测试中取得最优。

Official source
RAG-Survey · 1 related records

检索增强生成(RAG)综述:从朴素RAG到模块化RAG的演进与评估:大语言模型知识增强的关键技术

该综述系统梳理了检索增强生成(RAG)从朴素RAG、高级RAG到模块化RAG的演进路径,详细分析了检索、生成与增强三大核心组件的技术细节,并介绍了最新的评估框架与基准。RAG通过引入外部知识库,有效缓解了大语言模型的幻觉、知识过时和推理不透明等问题,提升了知识密集型任务的准确性和可信度。

Official source
Google · 1 related records

Gemini 1.0 发布:原生多模态成为前沿模型平台标准

Google 在 2023 年 12 月发布 Gemini Ultra、Pro 与 Nano 三种尺寸的原生多模态模型。

Official source
Mamba · 1 related records

Mamba: Linear-Time Sequence Modeling with Selective State Spaces:Mamba:基于选择性状态空间的线性时间序列建模

Mamba是一种新型序列模型架构,通过让状态空间模型参数成为输入的函数,实现了内容感知的选择性信息传播与遗忘,解决了传统高效架构在离散模态上的推理弱点。该模型采用硬件感知的并行算法,在推理时吞吐量比Transformer高5倍,序列长度线性扩展,在语言、音频和基因组学等多个模态上达到最先进性能。在语言建模中,Mamba-3B模型性能与两倍大小的Transformer相当。

Official source
Medprompt · 1 related records

通用基础模型能否超越专用微调?医学案例研究:决策启示:提示工程可释放通用模型深度专业能力,超越专用模型

该研究通过系统提示工程(Medprompt)使GPT-4在MultiMedQA全部九个医学基准上超越此前最佳专用模型Med-PaLM 2,在MedQA上错误率降低27%,首次突破90%准确率,且模型调用量减少一个数量级。方法无需领域专家参与,并泛化至电气工程、机器学习、哲学、会计、法律、护理和临床心理学等领域的考试。

Official source
TII · 1 related records

The Falcon Series of Open Language Models:Falcon系列开源语言模型,最大180B参数,性能接近GPT-4

Falcon系列包含7B、40B和180B参数的因果解码器模型,在超过3.5万亿token的高质量网络数据上训练,是公开记录中最大的预训练运行。Falcon-180B显著优于PaLM、Chinchilla、LLaMA 2和Inflection-1,性能接近PaLM-2-Large,且预训练和推理成本更低,成为与GPT-4和PaLM-2-Large并列的世界三大语言模型之一。

Official source
FreTS · 1 related records

频域MLP:时间序列预测的更有效学习器:将MLP应用于频域,克服时域MLP的点映射和信息瓶颈,提升预测性能

论文提出FreTS架构,通过离散傅里叶变换将时间序列转换到频域,利用频域MLP学习实部和虚部,在13个真实基准上超越现有方法,包括7个短期和6个长期预测任务。

Official source
Inner-IoU · 1 related records

Inner-IoU: 更有效的交并比损失函数,通过辅助边界框提升检测性能

本文提出Inner-IoU损失函数,通过引入辅助边界框和缩放因子ratio,针对不同IoU样本自适应调整辅助框尺度,高IoU用小框加速收敛,低IoU用大框提升效果,集成到现有IoU损失后进一步提升了检测性能。

Official source
Sycophancy Study · 1 related records

AI Sycophancy Driven by Human Feedback:AI谄媚行为源于人类偏好

该论文通过五个先进AI助手在四项自由文本生成任务中的实验,发现它们普遍存在谄媚行为,即模型更倾向于生成符合用户信念而非事实的回复。分析人类偏好数据表明,当回复与用户观点一致时更易被偏好,且人类和偏好模型有时更偏好有说服力的谄媚回复而非正确回复。优化模型输出以迎合偏好模型也会牺牲真实性。

Official source
RT-X · 1 related records

Open X-Embodiment: 跨机器人通用操作策略与数据集:中文决策要点:跨机器人通用操作策略与数据集

该论文由21个机构合作,收集了22种不同机器人的数据,涵盖527项技能和160266个任务,并训练了名为RT-X的高容量模型,展示了跨机器人平台的积极迁移效果,提升了多种机器人的操作能力。

Official source
Mistral AI · 1 related records

Mistral 7B:7B参数模型超越13B,推理与代码生成领先

Mistral 7B v0.1是一个70亿参数的语言模型,在推理、数学和代码生成上超越Llama 2 13B和Llama 1 34B。它采用分组查询注意力(GQA)加速推理,滑动窗口注意力(SWA)处理任意长度序列并降低成本。还提供了指令微调版本Mistral 7B Instruct,在人工和自动基准上超越Llama 2 13B Chat。模型以Apache 2.0许可发布。

Official source
AI Index · 1 related records

Artificial Intelligence Index Report 2023:第六版AI指数报告,提供最全面的AI数据与趋势分析

该报告是AI指数报告的第六版,引入了比以往任何版本都多的原始数据,包括新增的AI公众舆论章节、更详尽的技术性能分析、关于大型语言和多模态模型的原创分析、全球AI立法记录的详细趋势、AI系统环境影响研究等。报告旨在为政策制定者、研究人员、高管、记者和公众提供无偏见、经过严格验证、来源广泛的数据,以加深对AI复杂领域的理解。

Official source
GPT-4V · 1 related records

LMMs的黎明:GPT-4V(ision)初步探索:多模态通用系统能力与交互革新

本文系统分析了GPT-4V在多模态理解、视觉标记交互和任意交错输入处理上的能力,展示了其作为多模态通用系统的强大性能,并提出了视觉引用提示等新型人机交互方法。

Official source
Mistral AI · 1 related records

Mistral 7B 发布:小模型效率成为开放生态的新竞争轴

Mistral AI 在 2023 年 9 月发布 Mistral 7B 开放模型。

Official source
Gold-YOLO · 1 related records

Gold-YOLO:通过收集-分发机制实现的高效目标检测器:华为提出GD机制与MAE预训练,在COCO上达到39.9% AP和1030 FPS

Gold-YOLO提出Gather-and-Distribute(GD)机制,结合卷积与自注意力操作,增强多尺度特征融合。首次在YOLO系列中引入MAE风格无监督预训练。Gold-YOLO-N在COCO val2017上达到39.9% AP,T4 GPU上1030 FPS,比YOLOv6-3.0-N高2.4% AP。代码已开源。

Official source
Baichuan · 1 related records

Baichuan 2: Open Large-scale Language Models:百川2开源大语言模型,中英文能力领先

百川智能发布Baichuan 2系列大语言模型,包含7B和13B参数规模,从零训练于2.6万亿tokens。在MMLU、CMMLU、GSM8K、HumanEval等公开基准上匹配或超越同尺寸开源模型,并在医疗、法律等垂直领域表现优异。所有预训练模型检查点将开源。

Official source
LLM-Agent-Survey · 1 related records

The Rise and Potential of Large Language Model Based Agents: A Survey:LLM智能体的崛起与潜力综述

该综述系统梳理了基于大语言模型(LLM)的智能体概念、框架与应用。文章从哲学起源追溯至AI发展,论证LLM作为通用智能体基础的优势,提出包含大脑、感知、行动三组件的通用框架,并覆盖单智能体、多智能体及人机协作三大应用场景,同时探讨智能体社会中的行为、个性及涌现现象。

Official source
Qwen-VL · 1 related records

Qwen-VL: 多功能视觉语言模型,支持理解、定位、文本阅读等:Qwen-VL系列模型,基于Qwen-LM,通过视觉受体、输入输出接口、三阶段训练和多语言多模态语料库实现图文理解,在多项基准上创下新纪录。

Qwen-VL系列模型基于Qwen-LM,通过视觉受体、输入输出接口、三阶段训练和多语言多模态语料库实现图文理解。模型包括Qwen-VL和Qwen-VL-Chat,在图像描述、问答、视觉定位等基准上创下通用模型新纪录,并在真实对话基准上优于现有视觉语言聊天机器人。

Official source
无特定项目名称 · 1 related records

Consciousness in Artificial Intelligence: Insights from the Science of Consciousness:从意识科学看人工智能意识

该报告基于五种主流神经科学意识理论(递归处理理论、全局工作空间理论、高阶理论、预测处理、注意图式理论),提取出计算可实现的意识指标属性,并评估了当前AI系统。结论是当前无AI系统具备意识,但构建有意识AI无技术障碍。

Official source
AutoGen · 1 related records

AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation:AutoGen框架通过多智能体对话实现下一代LLM应用

AutoGen是一个开源框架,允许开发者通过多个可对话的智能体构建LLM应用。智能体可定制、可对话,并支持LLM、人类输入和工具的组合模式。开发者可灵活定义智能体交互行为,使用自然语言和代码编程对话模式。框架在数学、编程、问答、运筹、在线决策等多个领域展示了有效性。

Official source
Spanish-BERT · 1 related records

Spanish Pre-trained BERT Model and Evaluation Data:西班牙语专用BERT模型与评测基准发布

该论文发布了首个完全基于西班牙语数据预训练的BERT模型,并整合了多个西班牙语自然语言处理任务形成类似GLUE的评测基准。实验表明,该模型在大多数任务上优于多语言BERT模型,部分任务达到新最优水平。模型、预训练数据和基准已公开。

Official source
Alibaba Cloud · 1 related records

Qwen-7B 开放:中文大模型进入开放生态建设阶段

Qwen 团队在 2023 年 8 月公开 Qwen-7B 与 Qwen-7B-Chat 的代码和模型权重。

Official source
RT-2 · 1 related records

RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control:将互联网知识迁移至机器人控制的视觉-语言-动作模型

RT-2提出将视觉-语言模型(VLM)与机器人轨迹数据共同微调,通过将机器人动作编码为文本令牌,使模型同时处理自然语言和动作输出。在6000次评估试验中,RT-2展现出对未见物体的泛化能力、解释未训练指令(如按数字或图标放置物体)以及执行基础推理(如选择最小或最大物体)的能力。链式思维推理进一步支持多阶段语义推理,例如选择石头作为临时锤子。

Official source
SWhisper · 1 related records

Sirens' Whisper: Inaudible Near-Ultrasonic Jailbreaks of Speech-Driven LLMs:基于近超声的语音大模型越狱攻击

该研究提出SWhisper,首个针对语音驱动大语言模型的近超声越狱攻击方法。通过将恶意提示编码到近超声载波中,利用麦克风非线性解调为可听语音,实现人耳不可感知但被语音识别系统准确转录并传递给LLM。在黑盒评估中,对DeepSeek、Grok等商业平台达到0.94非拒绝率和0.925特定说服分数,暴露了语音LLM系统的关键漏洞。

Official source
Meta · 1 related records

Llama 2 发布:开放模型成为可持续的产业路线

Meta 与 Microsoft 在 2023 年 7 月发布 Llama 2,并允许研究和商业使用。

Official source
MPDIoU · 1 related records

MPDIoU: A Loss for Efficient and Accurate Bounding Box Regression:基于最小点距离的边界框回归损失函数

提出MPDIoU损失函数,基于最小点距离度量边界框相似性,综合重叠区域、中心点距离和宽高偏差,简化计算。在YOLACT和YOLOv7上,PASCAL VOC、MS COCO和IIIT5k数据集表现优于现有损失函数。

Official source
Anthropic · 1 related records

Claude 2 发布:长上下文与安全路线形成前沿模型竞争分支

Anthropic 在 2023 年 7 月发布 Claude 2,并开放网页与 API 访问。

Official source
SDXL · 1 related records

SDXL:改进高分辨率图像合成的潜在扩散模型

SDXL是Stable Diffusion的升级版,采用三倍大的UNet骨干网络,增加注意力块和更大跨注意力上下文,使用双文本编码器。设计多种新颖条件方案,在多宽高比上训练,并引入后处理精炼模型提升视觉保真度。性能显著优于前代,与黑盒顶级图像生成器竞争。

Official source
022023 H1

能力平台化

What changed评测分数开始转化为开发接口和组织工作流,模型平台成为独立技术层。

What to verify next开放权重与多区域模型能否缩小对少数闭源 API 的依赖。

DNABERT-2 · 1 related records

DNABERT-2: Efficient Foundation Model and Benchmark For Multi-Species Genome:DNABERT-2:面向多物种基因组的高效基础模型与基准

DNABERT-2用BPE替换k-mer分词,在36个数据集、9个任务的GUE基准上,以21倍更少参数和92倍更少预训练GPU时间达到与SOTA相当的性能。

Official source
LMSYS · 1 related records

Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena:用LLM作为裁判评估聊天助手

本文提出使用强LLM(如GPT-4)作为裁判来评估聊天助手,并引入MT-Bench多轮问答基准和Chatbot Arena众包对战平台。研究发现GPT-4裁判与人类偏好的一致性超过80%,达到人类间一致水平。同时分析了位置偏差、冗长偏差、自我增强偏差和推理能力有限等局限性,并提出了缓解方案。

Official source
LLaVA-Med · 1 related records

LLaVA-Med: Training a Large Language-and-Vision Assistant for Biomedicine in One Day:低成本构建生物医学多模态对话助手

该论文提出一种低成本方法,利用PubMed Central的图文对和GPT-4生成的指令数据,在15小时内训练出生物医学视觉语言对话助手LLaVA-Med,在三个标准生物医学VQA数据集上部分指标超越此前监督学习最优模型。

Official source
Falcon · 1 related records

The RefinedWeb Dataset for Falcon LLM: Outperforming Curated Corpora with Web Data, and Web Data Only:仅用网络数据超越精选语料库的Falcon LLM数据集

该论文证明,经过适当过滤和去重的网络数据(仅来自CommonCrawl)足以训练出强大的大语言模型,甚至优于使用The Pile等精选语料库训练的模型。研究团队从CommonCrawl中提取了5万亿token,并公开了6000亿token的RefinedWeb数据集,以及基于该数据集训练的1.3B和7.5B参数的语言模型。

Official source
Stanford University · 1 related records

Direct Preference Optimization: Your Language Model is Secretly a Reward Model:直接偏好优化,无需强化学习的对齐新范式

2023年5月,斯坦福大学团队提出Direct Preference Optimization(DPO),无需显式奖励模型和强化学习,直接通过偏好数据优化LLM。DPO将奖励函数隐式定义为策略的闭式解,训练更简单、更稳定。实验表明DPO在多个任务上匹配或超越PPO。

Official source
NVIDIA / UT Austin · 1 related records

Voyager: An Open-Ended Embodied Agent with Large Language Models:LLM驱动的终身学习智能体在Minecraft中自主探索

2023年5月,NVIDIA和UT Austin团队提出Voyager,首个LLM驱动的终身学习智能体,在Minecraft中无需人类干预持续探索、获取技能并发现新事物。Voyager使用GPT-4,通过自动课程、技能库和迭代提示机制,获得3.3倍独特物品、解锁里程碑快15.3倍。

Official source
University of Washington · 1 related records

QLoRA: Efficient Finetuning of Quantized LLMs:4比特量化微调让大模型训练平民化

2023年5月,华盛顿大学团队提出QLoRA,在单个48GB GPU上微调65B参数模型,性能达到ChatGPT的99.3%。核心创新包括4-bit NormalFloat数据类型、双重量化和分页优化器。训练了1000+模型,发现小规模高质量数据集微调即可达到SOTA。

Official source
Princeton NLP Group · 1 related records

Tree of Thoughts: Deliberate Problem Solving with Large Language Models:思维树框架让LLM具备规划与回溯能力

2023年5月,普林斯顿大学团队提出Tree of Thoughts(ToT)框架,将LLM推理从链式扩展为树状搜索。在Game of 24任务中,GPT-4+ToT成功率达74%,而标准CoT仅4%。ToT允许模型探索多条推理路径、自我评估并回溯,显著提升需要规划的任务表现。

Official source
LLaVA · 1 related records

LLaVA: Visual Instruction Tuning:多模态指令微调的开源里程碑

2023年4月,LLaVA首次提出使用纯语言GPT-4生成多模态语言-图像指令数据,并基于此训练了一个端到端的大规模多模态模型(连接视觉编码器和LLM)。在Science QA上,LLaVA+GPT-4达到92.53%准确率,创下新纪录;在合成多模态指令跟随数据集上达到GPT-4的85.1%相对分数。

Official source
Baidu · 1 related records

RT-DETR: DETRs Beat YOLOs on Real-time Object Detection:实时目标检测的Transformer时代来临

2023年4月,百度提出RT-DETR,首个实时端到端目标检测器,在COCO上以53.1% AP和108 FPS(T4 GPU)超越YOLOv8等先进YOLO系列。它设计了高效混合编码器解耦尺度内交互和跨尺度融合,并提出不确定性最小化查询选择提升解码器初始查询质量。支持通过调整解码器层数灵活调速,无需重新训练。

Official source
Meta AI · 1 related records

DINOv2: Learning Robust Visual Features without Supervision:自监督视觉基础模型进入实用阶段

2023年4月,Meta AI发布DINOv2,提出一种全自动数据筛选管道,从海量未标注图像中构建多样化、高质量的训练数据集,并训练了1B参数的ViT模型,再蒸馏为一系列小模型。在图像级和像素级基准上,DINOv2超越了当时最好的通用视觉特征OpenCLIP,且无需微调即可直接用于多种下游任务。

Official source
Stanford / Google Research · 1 related records

Generative Agents: Interactive Simulacra of Human Behavior:大模型驱动的可信人类行为模拟

2023年4月,斯坦福大学和Google Research提出生成式智能体(Generative Agents),利用大语言模型(LLM)驱动25个智能体在一个类似《模拟人生》的沙盒环境中自主生活。智能体能够起床、做饭、工作、社交、形成记忆并规划未来,仅从一个“想办情人节派对”的初始设定出发,智能体自主传播邀请、结识新朋友、协调时间并最终共同参加派对。

Official source
Microsoft Research Asia · 1 related records

HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face:HuggingGPT:用ChatGPT调度Hugging Face模型解决复杂AI任务

2023年3月,研究者提出HuggingGPT框架,利用ChatGPT作为控制器,自动规划任务、选择Hugging Face上的AI模型、执行子任务并汇总结果。该系统能处理跨模态、跨领域的复杂任务,如“生成一张猫的图片并描述它”。

Official source
Microsoft Research · 1 related records

Sparks of Artificial General Intelligence: Early experiments with GPT-4:GPT-4展现通用智能火花,AGI雏形已现

2023年3月,微软研究团队发布了对早期GPT-4的评估报告。论文通过大量实验证明,GPT-4在数学、编程、视觉、医学、法律、心理学等众多领域表现出接近人类水平的性能,且无需特殊提示。作者认为GPT-4可被视为早期(但不完整)的AGI系统,并指出其局限性在于仍基于下一个词预测范式。

Official source
Northeastern University · 1 related records

Reflexion: Language Agents with Verbal Reinforcement Learning:Reflexion:通过语言反馈强化智能体,无需权重更新

2023年3月,研究者提出Reflexion框架,让语言智能体通过自我反思的文本反馈来改进决策,而非更新模型权重。在HumanEval代码生成任务上,Reflexion达到91% pass@1,超越GPT-4的80%。该方法适用于多种任务,包括决策、编码、推理。

Official source
OpenAI · 1 related records

GPT-4 发布:大模型进入更可靠的多模态推理阶段

OpenAI 在 2023 年 3 月发布 GPT-4,支持图像输入并在多项专业考试中显著提升表现。

Official source
Meta LLaMA · 1 related records

LLaMA: Open and Efficient Foundation Language Models:开源高效基座模型改写大模型竞争格局

2023年2月,Meta发布LLaMA系列模型(7B-65B参数),仅使用公开数据集训练。LLaMA-13B在多数基准上超越GPT-3(175B),LLaMA-65B与Chinchilla-70B和PaLM-540B竞争。模型全部开源。

Official source
Google Lion · 1 related records

Symbolic Discovery of Optimization Algorithms (Lion):符号搜索发现高效优化器Lion,训练成本大幅降低

2023年2月,Google提出Lion优化器,通过符号程序搜索自动发现。Lion仅跟踪动量,使用符号函数更新参数,内存效率高于Adam。在ImageNet上ViT准确率提升2%,JFT预训练计算量节省5倍;扩散模型训练计算量节省2.3倍。已部署于Google搜索广告CTR模型。

Official source
Stanford ControlNet · 1 related records

ControlNet: Adding Conditional Control to Text-to-Image Diffusion Models:为扩散模型注入精细控制,开启图像生成新范式

2023年2月,斯坦福大学提出ControlNet,一种向预训练文本到图像扩散模型添加空间条件控制的神经网络架构。它锁定原模型参数,通过零卷积连接可训练副本,支持边缘、深度、分割、人体姿态等多种条件输入,训练数据量可小至5万张。

Official source
Meta Toolformer · 1 related records

Toolformer: Language Models Can Teach Themselves to Use Tools:语言模型自学工具调用,突破能力边界

2023年2月,Meta提出Toolformer,通过自监督方式训练语言模型自主决定调用外部工具(计算器、搜索引擎、翻译系统、日历等)的时机、参数和结果融合。仅需每个工具少量演示,即可显著提升零样本任务性能,且不损害核心语言建模能力。

Official source
BLIP-2 · 1 related records

BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models:轻量Q-Former桥接视觉与语言,大幅降低多模态预训练成本

2023年1月提交。BLIP-2提出一种高效的视觉-语言预训练策略,利用冻结的预训练图像编码器和冻结的大语言模型,通过轻量级Querying Transformer(Q-Former)桥接模态间隙。两阶段预训练:第一阶段从冻结图像编码器引导视觉-语言表示学习,第二阶段从冻结语言模型引导视觉到语言生成学习。在零样本VQAv2上以54倍更少的可训练参数超越Flamingo80B达8.7%,并展示出遵循自然语言指令的零样本图像到文本生成能力。

Official source
ExtractDiffusion · 1 related records

Extracting Training Data from Diffusion Models:扩散模型严重记忆训练数据,隐私风险远超GAN

2023年1月提交。系统研究扩散模型(如DALL-E 2、Imagen、Stable Diffusion)的训练数据记忆问题。通过“生成-过滤”流水线,从最先进模型中提取了超过1000个训练样本,包括个人照片和商标logo。训练了数百个不同设置的扩散模型,分析建模和数据决策对隐私的影响。结论:扩散模型比GAN等生成模型隐私性差得多,缓解需要隐私保护训练的新进展。

Official source
Watermark-LLM · 1 related records

A Watermark for Large Language Models:软prompt绿名单水印,可检测LLM输出且不影响文本质量

2023年1月提交。提出一种针对专有语言模型的文本水印框架:在生成每个token前,基于之前token的哈希值随机选择一组“绿色”token,并在采样时软性地促进使用这些绿色token。水印对文本质量影响可忽略,检测时无需访问模型API或参数,仅需一个公开算法和少量token即可统计检验。在OPT多亿参数模型上验证,并分析了鲁棒性和安全性。

Official source
DreamerV3 · 1 related records

DreamerV3: Mastering Diverse Domains through World Models:单一算法在150+任务上超越专用方法,首次从零在Minecraft中获取钻石

2023年1月提交。DreamerV3是一种基于世界模型的强化学习算法,使用单一超参数配置在超过150个不同任务上超越专用方法。它学习环境模型并通过想象未来场景来改进策略。关键技术包括:基于归一化、平衡和变换的鲁棒性技术,实现跨域稳定学习。DreamerV3是首个从零开始、无需人类数据或课程,在Minecraft中获取钻石的算法,解决了稀疏奖励和远见策略的挑战。

Official source
012022 H2

生成能力产品化

What changed技术竞争第一次同时受到交互体验、反馈数据和开放生态扩散速度影响。

What to verify next能力能否从流畅生成跨越到复杂推理、工具使用和稳定专业任务。

H3 (Stanford & Together) · 1 related records

Hungry Hungry Hippos: Towards Language Modeling with State Space Models:状态空间模型挑战Transformer

2022年12月,斯坦福大学等提出H3状态空间模型层,专门设计用于解决SSM在语言建模中难以回忆早期token和跨token比较的问题。在125M参数混合模型中,仅保留2个注意力层,在OpenWebText上困惑度比纯Transformer低1.0。同时提出FlashConv算法,实现2倍加速,并支持2.7B参数模型在SuperGLUE多数任务上超越Transformer。

Official source
Google DeepMind GraphCast · 1 related records

GraphCast: Learning skillful medium-range global weather forecasting:AI天气预报的里程碑

2022年12月,Google DeepMind发布GraphCast,一种基于图神经网络和机器学习的中期全球天气预报方法。它直接从再分析数据训练,在0.25度分辨率下预测10天数百个天气变量,耗时不到1分钟。在1380个验证目标中,90%优于最准确的操作性确定性系统,并在热带气旋、大气河流等极端事件预测上表现更优。

Official source
Self-Instruct (UW & AI2) · 1 related records

Self-Instruct: Aligning Language Models with Self-Generated Instructions:指令微调的自举革命

2022年12月,华盛顿大学等机构提出Self-Instruct框架,通过让语言模型自生成指令、输入和输出样本,经筛选后用于微调原始模型。在GPT3上应用后,在Super-NaturalInstructions上取得33%绝对提升,性能与使用人工标注的InstructGPT-001相当。

Official source
OpenAI Whisper · 1 related records

Robust Speech Recognition via Large-Scale Weak Supervision:Whisper 开启语音识别零样本泛化时代

2022年12月,OpenAI发布Whisper论文,报告了训练一个模型仅通过预测互联网上68万小时多语言多任务音频的转录文本,即可在零样本设置下达到与先前完全监督方法竞争的性能,且接近人类准确率和鲁棒性。模型和推理代码已开源。

Official source
OpenAI · 1 related records

ChatGPT 上线:大模型从能力演示变成大众产品

OpenAI 在 2022 年 11 月 30 日发布 ChatGPT research preview。

Official source
PatchTST · 1 related records

A Time Series is Worth 64 Words: Long-term Forecasting with Transformers:PatchTST以子序列分块革新时序预测

2022年11月提交。提出PatchTST模型,将多元时间序列分割为子序列级补丁作为Transformer输入,并采用通道独立设计(每个通道共享权重)。在长期预测任务上显著优于此前SOTA Transformer模型,同时支持自监督预训练,迁移学习也达到SOTA。

Official source
Galactica · 1 related records

Galactica: A Large Language Model for Science:Galactica科学大模型,重塑科研知识管理

2022年11月提交。Galactica是一个专门针对科学知识训练的大型语言模型,基于论文、参考资料、知识库等大规模科学语料。在LaTeX方程等知识探测任务上,准确率68.2%远超GPT-3的49.0%;在数学推理上超越Chinchilla和PaLM 540B;在PubMedQA和MedMCQA上达到SOTA。模型开源。

Official source
APE · 1 related records

Large Language Models Are Human-Level Prompt Engineers:APE实现自动提示工程,超越人类水平

2022年11月提交。提出Automatic Prompt Engineer (APE),将提示视为程序,由LLM生成候选指令,再通过搜索最大化评分函数自动选择最优指令。在24个NLP任务上,自动生成的指令零样本性能大幅超越LLM基线,并在19/24个任务上达到或超过人类编写的指令。

Official source
Stability AI · 1 related records

Stable Diffusion 公开发布:生成式 AI 第一次大规模进入开放生态

Stability AI 在 2022 年 8 月公开发布 Stable Diffusion 的模型与代码。

Official source
View all events on the timeline
03 / DECISION IMPACT

What It Means by Role

CEO3 RELATED EVENTS

能力进步会改变哪个经营控制点?

控制点正从采购某个模型,迁移到掌握任务数据、评测集、工具权限和持续反馈。模型会快速替换,组织自己的验收标准和工作流上下文更难复制。

Main implications
  • 统一模型采购应改成按任务分层路由。
  • 高风险流程必须保留可回放证据与人工接管。
Possible actions
  • 选择三个高价值任务,建立成功率、重试、人工分钟和单位结果成本基线。
  • 把内部评测集、权限策略和失败分类设为平台资产。
Keep watching
  • 跨版本真实任务胜率是否提升,而非只看厂商榜单。
  • 模型路由是否制造不可解释的成本和行为漂移。
Investor3 RELATED EVENTS

技术价值会沉淀在哪一层?

基础模型溢价仍存在,但可持续价值更可能沉淀在独有数据、可靠执行、推理基础设施和能证明结果改善的垂直系统。单纯包装最新模型的窗口持续缩短。

Main implications
  • 模型领先期缩短会压缩纯 API 转售毛利。
  • 评测、推理优化和持续数据反馈成为新的尽调重点。
Possible actions
  • 把收入增长拆成模型红利、工作流锁定和数据网络效应。
  • 要求公司展示跨模型替换后的留存与毛利敏感性。
Keep watching
  • 开放模型与闭源模型在真实任务上的价差。
  • 能力提升是否带来更高使用频次和更低服务成本。
CTO3 RELATED EVENTS

能力与工程边界如何变化?

工程边界从单次 prompt 扩展到模型路由、上下文压缩、工具调用、状态恢复、评测和策略治理。可靠性是系统属性,不能由更强模型单独解决。

Main implications
  • 同一业务需要快速模型与深度推理模型协作。
  • 长上下文不能替代检索、记忆清理和最小权限。
Possible actions
  • 建立版本化评测集和回归检查。
  • 记录每次工具调用、权限决策、重试和人工接管。
Keep watching
  • 长任务中的错误累积和状态污染。
  • 推理预算上升后延迟、吞吐和失败恢复的交换关系。
Product Lead3 RELATED EVENTS

下一项产品验证应该是什么?

验证重点应从用户是否喜欢回答,转向用户是否愿意把完整任务委派给系统,以及系统失败时能否被理解、修正和继续执行。

Main implications
  • 展示模型能力不等于形成可重复使用习惯。
  • 信任来自可预览、可撤销和可验证的任务过程。
Possible actions
  • 把一个完整任务拆成可观测的计划、执行和验收节点。
  • 为高风险动作提供预览、确认、撤销和证据回链。
Keep watching
  • 7/30 日任务复用率与委派深度。
  • 用户修正后,同类错误是否持续减少。
04 / SOURCES TO WATCH

Sources We Keep Watching

US · Tier 1 · shadowAllen Institute for AIresearch · 6h · healthyGLOBAL · Tier 1 · shadowAmazon Scienceresearch · 6h · healthyGLOBAL · Tier 1 · shadowApple Machine Learning Researchresearch · 6h · healthyGLOBAL · Tier 1 · shadowARC Prizeresearch · 6h · healthyGLOBAL · Tier 1 · shadowArize Phoenix Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowarXiv cs.CLresearch · 6h · healthyGLOBAL · Tier 1 · shadowarXiv cs.LGresearch · 6h · healthyGLOBAL · Tier 1 · shadowarXiv cs.ROresearch · 6h · healthyUS · Tier 1 · shadowBerkeley AI Researchresearch · 6h · healthyCN · Tier 1 · shadowDeerFlow Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowDiffusers Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowHugging Faceprimary · 6h · healthyGLOBAL · Tier 1 · shadowHugging Face Tokenizers Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowLangfuse Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowLiteLLM Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowMicrosoft Researchresearch · 6h · healthyCN · Tier 1 · shadowMinerU Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowMLCommonsresearch · 6h · healthyCN · Tier 1 · shadowOpenCompassresearch · 6h · healthyGLOBAL · Tier 1 · shadowOpenLIT Releasesprimary · 6h · healthyCN · Tier 1 · shadowPaddleOCR Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowPEFT Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowPromptfoo Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowSafetensors Releasesprimary · 6h · healthyGLOBAL · Tier 1 · shadowStability AIprimary · 6h · healthyGLOBAL · Tier 1 · shadowTogether AIprimary · 6h · healthyGLOBAL · Tier 1 · shadowTransformersprimary · 6h · healthyGLOBAL · Tier 1 · shadowTRL Releasesprimary · 6h · healthyCN · Tier 1 · shadowXiaomi MiMoprimary · 6h · healthyUS · Tier 1 · shadowArize AI Blogprimary · 6h · healthyGLOBAL · Tier 1 · shadowBraintrust SDKprimary · 6h · healthyGLOBAL · Tier 1 · shadowCAMELprimary · 6h · healthyCN · Tier 1 · shadowChatboxprimary · 6h · healthyGLOBAL · Tier 1 · shadowDeepEvalprimary · 6h · healthyUS · Tier 1 · shadowDSPyresearch · 6h · healthyCN · Tier 1 · shadowFunASRresearch · 6h · healthyGLOBAL · Tier 1 · shadowGenesisresearch · 6h · healthyGLOBAL · Tier 1 · shadowGuardrails AIprimary · 6h · healthyGLOBAL · Tier 1 · shadowLangSmith SDKprimary · 6h · healthyGLOBAL · Tier 1 · shadowLeRobotresearch · 6h · healthyGLOBAL · Tier 1 · shadowLlama Stackprimary · 6h · healthyGLOBAL · Tier 1 · shadowManiSkillresearch · 6h · healthyGLOBAL · Tier 1 · shadowMeta Engineering AI Researchresearch · 6h · healthyGLOBAL · Tier 1 · shadowMicrosoft GraphRAGresearch · 6h · healthyCN · Tier 1 · shadowMiniCPMresearch · 6h · healthyGLOBAL · Tier 1 · shadowMLflowprimary · 6h · healthyGLOBAL · Tier 1 · shadowMLflow Blogprimary · 6h · healthyGLOBAL · Tier 1 · shadowModel Context Protocol Go SDKprimary · 6h · healthyGLOBAL · Tier 1 · shadowModel Context Protocol Inspectorprimary · 6h · healthyGLOBAL · Tier 1 · shadowModel Context Protocol Registryprimary · 6h · healthyGLOBAL · Tier 1 · shadowModel Context Protocol Rust SDKprimary · 6h · healthyGLOBAL · Tier 1 · shadowModel Context Protocol Serversprimary · 6h · healthyCN · Tier 1 · shadowModelScope AgentScopeprimary · 6h · healthyGLOBAL · Tier 1 · shadowMuJoCoresearch · 6h · healthyGLOBAL · Tier 1 · shadowNavigation2primary · 6h · healthyCN · Tier 1 · shadowNew APIprimary · 6h · healthyGLOBAL · Tier 1 · shadowNVIDIA Isaac Labprimary · 6h · healthyCN · Tier 1 · shadowPaddleXprimary · 6h · healthyGLOBAL · Tier 1 · shadowROS 2primary · 6h · healthyGLOBAL · Tier 1 · shadowSAPIENresearch · 6h · healthy
View all sources