TabPFN-2.5: Advancing the State of the Art in Tabular Foundation Models：表格基础模型新SOTA，支持5万样本2000特征
2025年11月提交。TabPFN-2.5是下一代表格基础模型，支持最多5万数据点和2000特征，数据单元数比TabPFNv2提升20倍。在TabArena基准上，它显著优于调优的树模型，准确率匹配AutoGluon 1.4（四小时调优集成）。默认TabPFN-2.5在中小型分类数据集上对默认XGBoost有100%胜率，在更大数据集上胜率87%。新蒸馏引擎可将模型转换为紧凑MLP或树集成，保持大部分精度同时大幅降低延迟。
发展脉络
- 首次出现TabPFN-2.5: Advancing the State of the Art in Tabular Foundation Models：表格基础模型新SOTA，支持5万样本2000特征arXiv cs.AI
- 当前判断TabPFN-2.5对金融、医疗、电商等依赖表格数据的行业具有重大影响。其零调优即可超越传统树模型的能力可大幅降低机器学习应用门槛。蒸馏引擎使其适合生产环境，可能取代传统梯度提升树成为表格数据建模的首选方案。Agent Pulse · 分析
TabPFN-2.5将表格基础模型的能力边界扩展到5万样本和2000特征，在标准基准上超越传统树模型并匹配顶级自动ML系统。其蒸馏引擎解决了生产部署的延迟问题，使表格AI从研究走向大规模应用。这标志着基础模型在表格数据这一传统强项领域取得了决定性突破。
TabPFN-2.5基于Transformer架构，通过大规模预训练学习表格数据的通用模式。支持5万数据点和2000特征，数据单元数比前代提升20倍。在TabArena基准上，默认配置即超越调优的XGBoost、LightGBM等，匹配AutoGluon 1.4（四小时调优集成）。蒸馏引擎可将模型转换为MLP或树集成，在保持大部分精度下实现数量级延迟降低。
TabPFN-2.5对金融、医疗、电商等依赖表格数据的行业具有重大影响。其零调优即可超越传统树模型的能力可大幅降低机器学习应用门槛。蒸馏引擎使其适合生产环境，可能取代传统梯度提升树成为表格数据建模的首选方案。
数据科学团队可评估将TabPFN-2.5集成到现有表格数据建模流程中，替代XGBoost/LightGBM。建议从中小型数据集开始，利用其零调优特性快速验证。对于生产环境，使用蒸馏引擎生成紧凑模型以降低推理成本。
需关注TabPFN-2.5在更大数据集（>10万样本）上的表现，以及其可解释性和特征重要性分析能力。蒸馏后的模型精度损失需在具体场景中评估。此外，模型更新和持续学习机制将影响其长期适用性。