全球采用与产业落地
各区域围绕真实工作、具身、科学、算力和治理形成不同组合优势。
领先不应由单一榜单定义,而要比较能力、成本、生态、收入和供应链韧性。
用同维度证据比较开发者份额、全球收入、生产部署和国产算力的端到端表现。
中国团队已在开放推理、模型效率、视频生成和应用规模上形成独立影响,差异更多来自生态、算力、市场与分发路径。
各区域围绕真实工作、具身、科学、算力和治理形成不同组合优势。
领先不应由单一榜单定义,而要比较能力、成本、生态、收入和供应链韧性。
用同维度证据比较开发者份额、全球收入、生产部署和国产算力的端到端表现。
Qwen3、MiniMax M1、Kimi K2 等模型转向混合推理、长上下文和 Agent。
竞争已经从模型发布扩展到工具兼容、全球分发和完整应用流程。
观察全球 API 使用、开源贡献、企业案例和区域合规。
Qwen2.5、DeepSeek-V3/R1 把模型矩阵、训练效率和开放推理带入全球主线。
资本规模之外,架构、数据和工程效率成为可观察的创新变量。
独立复现、海外开发者采用和衍生生态是否持续。
不同区域围绕长上下文、视频、端侧和行业应用形成专长。
创新不再只有一个能力轴,市场与数据条件决定路线优先级。
产品热度能否转化为全球留存、收入与开发者生态。
Llama 2、Qwen、Mistral 与 Gemini 形成美国、中国、欧洲多路线供给。
全球竞争从追随单一榜单转向许可、语言、尺寸、部署和生态的组合。
多区域模型能否在前沿能力和生态采用上持续迭代。
全球团队围绕语言、监管和本地部署建立区域模型路线。
单一美国平台之外,数据主权、语言与产业环境开始塑造技术路线。
是否形成可下载、可评测、可持续维护的开放模型。
Stable Diffusion 证明开放权重可以在全球开发者和创作者中快速扩散。
创新速度开始由社区改造、工具链和本地部署共同推动。
开放生态能否从图像扩展到通用语言模型。
What changed领先不应由单一榜单定义,而要比较能力、成本、生态、收入和供应链韧性。
What to verify next用同维度证据比较开发者份额、全球收入、生产部署和国产算力的端到端表现。
蚂蚁集团 Robbyant 发布 LingBot-VLA 2.0 技术报告、预训练权重与代码;官方披露训练数据覆盖 20 种机器人配置和约 6 万小时机器人/第一视角视频。
智谱于 2026 年 6 月发布 GLM-5.2,以 MIT 许可开放权重,并提供 1M 上下文版本。
Cohere 于 2026 年 5 月发布 Command A+,并通过标准 API 与私有部署方式提供。
面壁智能与 OpenBMB 于 2026 年 5 月发布 MiniCPM5-1B,并提供部署、微调和 Agent Skills。
商汤于 2026 年 4 月发布并开源 SenseNova U1 原生统一多模态模型系列。
智谱官方 Release Notes 于 2026 年 4 月记录 GLM-5.1 发布,定位为长时任务旗舰模型。
2026 年 3 月 16 日提交的 OpenSeeker 完全开放模型与训练数据,仅用 11.7k 合成样本和 SFT,在 BrowseComp 达到 29.5%,高于开源 DeepDive 的 15.3%,BrowseComp-ZH 达到 48.4%。
字节跳动 Seed 团队于 2026 年 2 月发布 Seed 2.0 Pro、Lite 与 Mini 三档通用 Agent 模型。
MiniMax 于 2026 年 2 月发布并开放 MiniMax-M2.5,面向编程、工具调用、搜索和办公任务。
智谱于 2026 年 2 月发布 GLM-5,并以 MIT 许可开放权重,同时提供国内外 API。
阶跃星辰于 2026 年初开放 Step 3.5 Flash,定位为兼顾推理、工具使用与效率的基础模型。
月之暗面于 2026 年 1 月开放 Kimi K2.5,提供原生多模态理解、工具使用和并行 Agent Swarm。
百川智能于 2026 年初开放 Baichuan-M3-235B,面向临床问诊与可靠医疗决策。
What changed竞争已经从模型发布扩展到工具兼容、全球分发和完整应用流程。
What to verify next观察全球 API 使用、开源贡献、企业案例和区域合规。
智谱于 2025 年 12 月发布并开放 GLM-4.7 权重,重点增强编码、工具使用与多步推理。
智谱于 2025 年 12 月发布并开源 GLM-4.6V 与 9B 的 GLM-4.6V-Flash。
2025年12月,一项研究分析了近60个科学模型(涵盖字符串、图、3D原子和蛋白质模态)的内部表征,发现它们在化学系统上高度对齐。高表现模型在训练分布内表征一致,弱模型则发散;但在分布外结构上,几乎所有模型都坍缩到低信息表征。研究提出表征对齐作为科学模型通用性的定量基准,并可用于模型选择和蒸馏。
2025年12月,DeepSeek发布V3.2模型,提出DeepSeek Sparse Attention (DSA)机制降低长上下文计算复杂度,并采用可扩展强化学习框架进行后训练。其高计算变体DeepSeek-V3.2-Speciale在2025年国际数学奥林匹克(IMO)和国际信息学奥林匹克(IOI)中获得金牌,性能超越GPT-5并与Gemini-3.0-Pro持平。此外,论文描述了一个大规模智能体任务合成流水线,用于生成工具使用场景的训练数据。
2025年11月提交。Kosmos是一个AI科学家系统,可在12小时内执行多达200次智能体滚动,平均运行42,000行代码并阅读1,500篇论文。独立科学家验证其报告中79.4%的陈述准确,合作者报告单次20周期运行相当于平均6个月的研究工作量。系统在代谢组学、材料科学、神经科学和统计遗传学等领域产生了7项发现,其中3项独立复现了未公开手稿的结果,4项为全新贡献。
2025年10月提交。提出Tiny Recursive Model (TRM),仅用7M参数和2层网络,通过递归推理在ARC-AGI-1上达到45%测试准确率,在ARC-AGI-2上达到8%,超越Deepseek R1、o3-mini、Gemini 2.5 Pro等千亿参数大模型。训练数据仅约1000个样本。
智谱于 2025 年 9 月发布 GLM-4.6,将上下文窗口从 128K 扩展到 200K,并增强编码、推理和工具使用。
2025年9月,Apple团队提出SimpleFold,首个基于流匹配的蛋白质折叠模型,仅使用通用Transformer模块,无需三角更新、显式成对表示等复杂领域设计。模型参数达3B,在约900万蒸馏结构及PDB数据上训练,在标准折叠基准上达到与AlphaFold等SOTA相当的性能,且在集成预测上表现更优,推理可在消费级硬件上运行。
2025年9月,研究团队提出General Physics Transformer (GPhyT),在1.8TB多领域仿真数据上训练,实现单一模型模拟流体-固体交互、冲击波、热对流、多相流等。GPhyT在多个物理域上超越专用架构7倍以上,并展现出对未见物理系统的零样本泛化能力(通过上下文学习),以及更稳定的长期预测。
腾讯混元官方仓库于 2025 年 9 月开放 Hunyuan-MT-7B 与 Hunyuan-MT-Chimera-7B。
2025年8月,Google在真实生产环境中首次系统测量了AI推理的能耗、碳排放和用水量。针对Gemini AI助手,中位数文本提示能耗0.24 Wh(低于观看9秒电视),碳排放较一年前降低44倍,用水量0.26 mL(约5滴水)。测量覆盖AI加速器、主机系统、空闲容量和数据中心开销全栈。
智谱于 2025 年 7 月发布 GLM-4.5 与 GLM-4.5-Air,并同时提供 API 和开放权重。
2025年7月,DREAMS提出层次化多智能体框架,结合LLM规划器与领域专用智能体(结构生成、收敛测试、HPC调度、错误处理),在Sol27LC晶格常数基准上平均误差低于1%,在CO/Pt(111)吸附难题上复现专家级结果,并实现贝叶斯集成不确定性量化。该框架达到L3级自动化水平,显著减少人工干预。
Moonshot AI 发布 Kimi K2 混合专家模型并开放权重,重点强化代码和 Agent 工具使用。
2025年7月,OrbitAll提出基于自旋极化轨道特征的SE(3)-等变图神经网络框架,可处理任意电荷、自旋和溶剂环境的分子体系。在带电、开壳层和溶剂化分子预测上表现优异,仅用10%训练数据即达到化学精度(~1 kcal/mol),推理速度比DFT快10^3-10^4倍。
2025年6月,Meta FAIR发布UMA系列模型,训练于5亿个3D原子结构,采用混合线性专家架构,小/中模型参数1.4B但仅约50M活跃参数。无需微调即可在分子、材料、催化剂等多领域达到或超越专用模型性能。代码、权重和数据已开源。
百度于 2025 年 6 月开放 ERNIE 4.5 的 10 个模型变体,并采用 Apache 2.0 许可。
2025年6月,Meta FAIR推出Skala,一种基于深度学习的交换关联泛函,在GMTKN55基准上误差2.8 kcal/mol,超越最先进杂化泛函,同时保持半局域DFT的低计算成本。训练数据来自高精度波函数方法,首次实现深度学习泛函的系统性可改进。
2025年6月,Google DeepMind发布AlphaEvolve,一种进化式编码代理,通过LLM自主修改代码并迭代优化,在多个科学和计算问题上取得突破。包括:发现4×4复矩阵乘法仅需48次标量乘法(56年来首次改进Strassen算法)、优化数据中心调度算法、简化硬件加速器电路、加速自身训练LLM。
MiniMax 发布并开源 M1 混合注意力推理模型,提供百万 token 输入上下文。
2025年5月,阿里巴巴发布Qwen3系列大语言模型,涵盖0.6B至235B参数,包括密集和MoE架构。核心创新是统一思考模式(复杂多步推理)与非思考模式(快速响应),支持动态切换和思考预算机制,可自适应分配计算资源。模型在代码、数学、智能体等基准上达到SOTA,多语言支持从29种扩展至119种,全部开源(Apache 2.0)。
Qwen 团队发布 Qwen3 系列开放模型,支持 thinking/non-thinking 切换与多语言能力。
智谱 GLM 团队于 2025 年 4 月开放 GLM-4-32B-0414 系列,覆盖对话、推理与沉思版本。
What changed资本规模之外,架构、数据和工程效率成为可观察的创新变量。
What to verify next独立复现、海外开发者采用和衍生生态是否持续。
2025年3月,加州大学圣迭戈分校团队在预注册、随机对照的三方图灵测试中,评估了ELIZA、GPT-4o、LLaMa-3.1-405B和GPT-4.5四个系统。参与者与另一人类及一个AI进行5分钟对话,然后判断哪个是人类。当GPT-4.5被提示采用人类化人格时,73%的评判认为它是人类,显著高于真实人类被选中的概率。LLaMa-3.1在相同提示下达到56%的胜率,与人类无显著差异。这是首个任何AI系统通过标准三方图灵测试的实证证据。
2025年3月,多机构联合发布了MatPES数据集,包含约40万结构,从2.81亿分子动力学快照中精心采样,覆盖160亿原子环境。基于该数据集训练的通用机器学习原子间势(UMLIP)在平衡、近平衡和分子动力学性质基准上,可媲美甚至超越在更大数据集上训练的模型。同时发布了基于r²SCAN泛函的高保真势能面数据集,改进了原子间键合描述。
2025年2月提交。SigLIP 2是SigLIP的升级版,将图像-文本对比学习与字幕预训练、自监督损失(自蒸馏、掩码预测)和在线数据筛选统一到一个训练配方中。在零样本分类、图像-文本检索、VLM视觉特征提取上全面超越SigLIP。特别在定位和密集预测任务上有显著提升。支持多分辨率和原始宽高比输入。通过去偏技术改善多语言理解和公平性。发布ViT-B/L/So400m/g四个尺寸(86M至1B参数)。
2025年2月提交。GENERator是一个生成式基因组基础模型,上下文长度达98k核苷酸,在3860亿核苷酸的真核DNA上预训练。无需任务特定微调,即可在零样本下实现与基于比对的方法相当的变异效应预测。通过微调,在多个基因组基准上达到领先性能。可生成编码蛋白质的DNA序列,并通过提示引导设计顺式调控元件,包括经UMI-STARR-seq验证的合成超级增强子。
2025年1月,一篇前瞻性综述讨论了机制可解释性(MI)领域的开放问题,包括方法改进、应用目标和社会技术挑战。文章指出当前MI方法在揭示深层计算机制方面仍有局限,需要概念和实践上的提升,并强调MI在AI安全、科学发现中的潜力。
DeepSeek 发布 R1、R1-Zero 和蒸馏模型,公开权重与技术方法。
科大讯飞于 2025 年 1 月发布星火 X1,并在 4 月升级其数学、代码与逻辑推理能力。
2025年1月,一项研究系统评估了Llama3、Codestral和Deepseek R1在Big-Vul数据集上的漏洞检测与分类能力。结果显示,这些模型在检测漏洞方面表现良好,但在按CWE标准分类时准确率低,存在过度泛化和误分类问题。研究揭示了模型特定偏差和常见失败模式,强调在安全敏感环境中部署前需解决这些局限。
DeepSeek 发布并开放 DeepSeek-V3 权重与技术报告,采用 671B MoE、37B 激活参数和 FP8 训练。
xAI 于 2024 年 12 月宣布升级版 Grok-2 向所有 X 用户免费开放,并加入网页与 X 搜索结果引用。
2024年12月,加州大学旧金山分校团队发表论文,对DiffDock与Surflex-Dock、Glide等传统分子对接方法进行公平比较。在已知结合位点条件下,Surflex-Dock Top-1成功率68%,Top-5成功率81%,而DiffDock仅45%和51%。DiffDock的训练集包含98%的PDBBind 2020数据,测试集来自2019年后,其中超过一半的测试案例在训练集中存在近邻结构,导致性能虚高。
2024年11月提交。论文发布RedPajama-V1(LLaMA训练数据的开放复现)和RedPajama-V2(超100万亿token的原始网页文本及质量信号)。数据集已用于Snowflake Arctic、Salesforce XGen、AI2 OLMo等生产级模型。通过1.6B参数模型的消融实验,展示了如何利用质量信号有效筛选高质量子集。
2024年10月提交。该研究通过构建GSM-Symbolic基准,系统评估了多个顶级开源和闭源LLM的数学推理能力。核心发现是:当问题中仅改变数值时,所有模型性能均出现下降;当增加一个与推理无关的从句时,性能下降高达65%。这表明当前LLM并未进行真正的逻辑推理,而是依赖训练数据中的推理模式匹配。
阿里巴巴 Qwen 团队发布 Qwen2.5 系列,覆盖 0.5B 到 72B,并扩展代码、数学和视觉语言模型。
2024年9月,阿里巴巴发布Qwen2-VL系列视觉语言模型,包含2B、8B和72B三个版本。核心创新包括Naive Dynamic Resolution机制,使模型能根据图像分辨率动态调整视觉token数量;以及Multimodal Rotary Position Embedding (M-RoPE),实现文本、图像和视频位置信息的有效融合。在多个多模态基准测试中,Qwen2-VL-72B达到与GPT-4o和Claude3.5-Sonnet相当的性能,超越其他通用模型。代码已开源。
2024年9月,Owkin等机构发布Phikon-v2,一个基于DINOv2自监督学习的病理学视觉Transformer(ViT-L),在超过100个公开队列、4.6亿张病理切片上训练,覆盖30多种癌症。在8个slide-level任务上,Phikon-v2超越前代Phikon,性能与使用私有数据训练的GigaPath和H-Optimus-0等基础模型相当。研究还发现,简单集成策略平均提升AUC 1.75(p<0.001),且小模型在某些任务(如MSI预测)上可击败大模型。
2024年9月,来自MIT等机构的研究者通过招募100多名NLP专家,首次进行了LLM与人类专家在研究想法生成上的头对头比较。实验设计控制了混淆变量,采用双盲评审。结果显示,LLM生成的想法在新颖性上显著优于人类专家(p<0.05),但在可行性上略逊一筹。研究还发现LLM自我评估存在失败,且生成多样性不足。
2024年8月,研究团队提出MatterGPT,基于SLICES晶体表示法训练生成式Transformer,用于固态材料的逆设计。模型在下一标记预测任务上训练,可生成具有目标单属性(如形成能、带隙)的晶体结构,并首次实现多属性联合优化。生成结构具有高有效性、唯一性和新颖性,且能生成超出训练数据分布的材料。
2024年8月,研究团队发布Virchow2系列病理基础模型,包括6.32亿参数的Virchow2、19亿参数的Virchow2G及2200万参数的蒸馏版Virchow2G Mini。所有模型在310万张全切片图像上训练,覆盖多种组织、机构与染色。在12个图块级任务上达到SOTA,表明数据多样性与领域特定方法比单纯扩大参数更有效。
2024年7月,MIT等机构对14000个网络域名的数据使用协议进行了大规模纵向审计。研究发现,2023-2024年间,C4数据集中约5%的token(或28%的关键来源)已被robots.txt完全限制使用;若考虑服务条款限制,45%的C4数据已被限制。不同AI开发者面临差异化的限制,且网站服务条款与robots.txt之间存在不一致。
What changed创新不再只有一个能力轴,市场与数据条件决定路线优先级。
What to verify next产品热度能否转化为全球留存、收入与开发者生态。
2024年6月,HEST-1k团队发布了包含1,229个空间转录组图谱的数据集,每个图谱关联H&E全切片图像和元数据。数据来自153个队列,涵盖26个器官、2个物种、25种癌症类型,包含210万表达-形态对和7600万细胞核。配套HEST-Library和HEST-Benchmark用于基础模型评估。
2024年6月,MMLU-Pro团队发布增强版多任务语言理解基准,将选项从4个增至10个,并剔除琐碎和噪声问题。实验显示,模型在MMLU-Pro上准确率比MMLU下降16%-33%,且对24种提示风格的敏感度从4-5%降至2%。链式思维推理在MMLU-Pro上优于直接回答,而MMLU上相反。
零一万物于 2024 年 5 月开放 Yi-1.5 系列,增强代码、数学、推理与指令遵循能力。
2024年5月提交。在随机对照预注册图灵测试中,GPT-4在5分钟对话中被判为人类的概率为54%,显著高于ELIZA(22%),接近真实人类(67%)。这是首个严格证明AI系统通过交互式双人图灵测试的实验。
2024年5月提交。MatterSim是一个从大规模第一性原理计算主动学习的深度学习模型,可模拟0-5000K、0-1000GPa条件下的元素周期表材料,预测吉布斯自由能精度达15 meV/atom(与实验对比),数据效率提升97%。
2024年4月,该论文重新评估了3D医学图像分割方法,发现许多声称超越U-Net的新架构在严格验证下并不成立。通过避免常见验证缺陷(不充分基线、不足数据集、忽略计算资源),作者证明当前SOTA配方是:1)基于CNN的U-Net(ResNet/ConvNeXt变体),2)使用nnU-Net框架,3)扩展到现代硬件。CNN方法仍优于Transformer和Mamba方法。
Microsoft 于 2024 年 4 月宣布向 G42 投资 15 亿美元取得少数股权,并与 G42 支持设立 10 亿美元开发者基金。
2024年4月,该论文报告在离子阱量子处理器上实现了逻辑量子比特的纠缠和重复纠错,逻辑错误率比物理错误率低4.7倍至800倍(取决于后选择使用)。使用[[7,1,3]]码和[[12,2,4]]码,每个纠错周期包含超过100个物理CNOT门,但错误率接近两个物理CNOT门的水平。这标志着从含噪中等规模量子计算向可靠量子计算的转变。
xAI 于 2024 年 3 月发布 Grok-1 基础模型权重与网络架构,采用 Apache 2.0 许可。
2024年3月提交。DeepSeek-VL是一个开源视觉语言模型,采用混合视觉编码器处理1024x1024高分辨率图像,并基于真实用户场景构建指令微调数据集。模型在保持语言能力的同时,在多个视觉语言基准上达到或超越同尺寸模型最优水平,且语言基准性能未下降。1.3B和7B模型均已开源。
2024年3月提交。该论文提出改进的噪声采样技术训练整流流模型,并设计了一种新的Transformer架构,该架构对图像和文本使用独立权重并支持双向信息流。实验表明,该方法在文本到图像合成中优于现有扩散模型,且最大模型在多项指标上超越当前最优水平。作者将公开实验数据、代码和模型权重。
What changed全球竞争从追随单一榜单转向许可、语言、尺寸、部署和生态的组合。
What to verify next多区域模型能否在前沿能力和生态采用上持续迭代。
谷歌发布Gemini多模态模型家族,包含Ultra、Pro、Nano三种规模,在32项基准测试中30项达到最先进水平,首次在MMLU上超越人类专家表现,并在所有20个多模态基准测试中取得最优。
Mamba是一种新型序列模型架构,通过让状态空间模型参数成为输入的函数,实现了内容感知的选择性信息传播与遗忘,解决了传统高效架构在离散模态上的推理弱点。该模型采用硬件感知的并行算法,在推理时吞吐量比Transformer高5倍,序列长度线性扩展,在语言、音频和基因组学等多个模态上达到最先进性能。在语言建模中,Mamba-3B模型性能与两倍大小的Transformer相当。
Falcon系列包含7B、40B和180B参数的因果解码器模型,在超过3.5万亿token的高质量网络数据上训练,是公开记录中最大的预训练运行。Falcon-180B显著优于PaLM、Chinchilla、LLaMA 2和Inflection-1,性能接近PaLM-2-Large,且预训练和推理成本更低,成为与GPT-4和PaLM-2-Large并列的世界三大语言模型之一。
Mistral 7B v0.1是一个70亿参数的语言模型,在推理、数学和代码生成上超越Llama 2 13B和Llama 1 34B。它采用分组查询注意力(GQA)加速推理,滑动窗口注意力(SWA)处理任意长度序列并降低成本。还提供了指令微调版本Mistral 7B Instruct,在人工和自动基准上超越Llama 2 13B Chat。模型以Apache 2.0许可发布。
该报告是AI指数报告的第六版,引入了比以往任何版本都多的原始数据,包括新增的AI公众舆论章节、更详尽的技术性能分析、关于大型语言和多模态模型的原创分析、全球AI立法记录的详细趋势、AI系统环境影响研究等。报告旨在为政策制定者、研究人员、高管、记者和公众提供无偏见、经过严格验证、来源广泛的数据,以加深对AI复杂领域的理解。
Mistral AI 在 2023 年 9 月发布 Mistral 7B 开放模型。
Gold-YOLO提出Gather-and-Distribute(GD)机制,结合卷积与自注意力操作,增强多尺度特征融合。首次在YOLO系列中引入MAE风格无监督预训练。Gold-YOLO-N在COCO val2017上达到39.9% AP,T4 GPU上1030 FPS,比YOLOv6-3.0-N高2.4% AP。代码已开源。
百川智能发布Baichuan 2系列大语言模型,包含7B和13B参数规模,从零训练于2.6万亿tokens。在MMLU、CMMLU、GSM8K、HumanEval等公开基准上匹配或超越同尺寸开源模型,并在医疗、法律等垂直领域表现优异。所有预训练模型检查点将开源。
该综述系统梳理了基于大语言模型(LLM)的智能体概念、框架与应用。文章从哲学起源追溯至AI发展,论证LLM作为通用智能体基础的优势,提出包含大脑、感知、行动三组件的通用框架,并覆盖单智能体、多智能体及人机协作三大应用场景,同时探讨智能体社会中的行为、个性及涌现现象。
Qwen-VL系列模型基于Qwen-LM,通过视觉受体、输入输出接口、三阶段训练和多语言多模态语料库实现图文理解。模型包括Qwen-VL和Qwen-VL-Chat,在图像描述、问答、视觉定位等基准上创下通用模型新纪录,并在真实对话基准上优于现有视觉语言聊天机器人。
该报告基于五种主流神经科学意识理论(递归处理理论、全局工作空间理论、高阶理论、预测处理、注意图式理论),提取出计算可实现的意识指标属性,并评估了当前AI系统。结论是当前无AI系统具备意识,但构建有意识AI无技术障碍。
Qwen 团队在 2023 年 8 月公开 Qwen-7B 与 Qwen-7B-Chat 的代码和模型权重。
RT-2提出将视觉-语言模型(VLM)与机器人轨迹数据共同微调,通过将机器人动作编码为文本令牌,使模型同时处理自然语言和动作输出。在6000次评估试验中,RT-2展现出对未见物体的泛化能力、解释未训练指令(如按数字或图标放置物体)以及执行基础推理(如选择最小或最大物体)的能力。链式思维推理进一步支持多阶段语义推理,例如选择石头作为临时锤子。
Meta 与 Microsoft 在 2023 年 7 月发布 Llama 2,并允许研究和商业使用。
中国七部门在 2023 年 7 月公布《生成式人工智能服务管理暂行办法》,自 8 月 15 日起施行。
SDXL是Stable Diffusion的升级版,采用三倍大的UNet骨干网络,增加注意力块和更大跨注意力上下文,使用双文本编码器。设计多种新颖条件方案,在多宽高比上训练,并引入后处理精炼模型提升视觉保真度。性能显著优于前代,与黑盒顶级图像生成器竞争。
What changed单一美国平台之外,数据主权、语言与产业环境开始塑造技术路线。
What to verify next是否形成可下载、可评测、可持续维护的开放模型。
该论文证明,经过适当过滤和去重的网络数据(仅来自CommonCrawl)足以训练出强大的大语言模型,甚至优于使用The Pile等精选语料库训练的模型。研究团队从CommonCrawl中提取了5万亿token,并公开了6000亿token的RefinedWeb数据集,以及基于该数据集训练的1.3B和7.5B参数的语言模型。
2023年5月,NVIDIA和UT Austin团队提出Voyager,首个LLM驱动的终身学习智能体,在Minecraft中无需人类干预持续探索、获取技能并发现新事物。Voyager使用GPT-4,通过自动课程、技能库和迭代提示机制,获得3.3倍独特物品、解锁里程碑快15.3倍。
2023年3月,微软研究团队发布了对早期GPT-4的评估报告。论文通过大量实验证明,GPT-4在数学、编程、视觉、医学、法律、心理学等众多领域表现出接近人类水平的性能,且无需特殊提示。作者认为GPT-4可被视为早期(但不完整)的AGI系统,并指出其局限性在于仍基于下一个词预测范式。
2023年2月,Meta发布LLaMA系列模型(7B-65B参数),仅使用公开数据集训练。LLaMA-13B在多数基准上超越GPT-3(175B),LLaMA-65B与Chinchilla-70B和PaLM-540B竞争。模型全部开源。
2023年1月提交。系统研究扩散模型(如DALL-E 2、Imagen、Stable Diffusion)的训练数据记忆问题。通过“生成-过滤”流水线,从最先进模型中提取了超过1000个训练样本,包括个人照片和商标logo。训练了数百个不同设置的扩散模型,分析建模和数据决策对隐私的影响。结论:扩散模型比GAN等生成模型隐私性差得多,缓解需要隐私保护训练的新进展。
2023年1月提交。提出一种针对专有语言模型的文本水印框架:在生成每个token前,基于之前token的哈希值随机选择一组“绿色”token,并在采样时软性地促进使用这些绿色token。水印对文本质量影响可忽略,检测时无需访问模型API或参数,仅需一个公开算法和少量token即可统计检验。在OPT多亿参数模型上验证,并分析了鲁棒性和安全性。
What changed创新速度开始由社区改造、工具链和本地部署共同推动。
What to verify next开放生态能否从图像扩展到通用语言模型。
2022年12月,OpenAI发布Whisper论文,报告了训练一个模型仅通过预测互联网上68万小时多语言多任务音频的转录文本,即可在零样本设置下达到与先前完全监督方法竞争的性能,且接近人类准确率和鲁棒性。模型和推理代码已开源。
2022年11月提交。BLOOM是一个176B参数的开源解码器Transformer语言模型,由数百名研究人员合作训练,基于包含46种自然语言和13种编程语言的ROOTS语料库。在多种基准上达到竞争性能,多任务提示微调后更强。模型和代码以负责任AI许可证公开发布。
Stability AI 在 2022 年 8 月公开发布 Stable Diffusion 的模型与代码。
模型选择应按语言、数据边界、供应安全、生态和任务表现组合决策,而不是默认单一全球冠军。多区域供应可以提高韧性,也会增加治理复杂度。
应分别比较能力、成本、开放生态、分发、收入和供应链。中国团队的效率与开放影响力可以领先,但全球企业收入和分发仍可能受限。
需要标准化模型接口、评测、内容安全和数据路由,同时保留各模型在语言、工具和部署上的差异。最低公分母抽象会损失能力。
先验证不同地区用户是否在同一核心任务上持续获得价值,再决定统一产品或区域化。翻译界面不能替代本地工作流、支付、合规和分发。