文心一言发展历程 原图定位 百度文心 ERNIE 最早源于 2013 年公司推出的神经网络语义匹配技术,其最初被用于改进搜索结果相关性,经过内部锤炼后对外开放。最早以公司核心技术的 NLP 模型为主,2019 年先后发布 1.0 及 2.0 版本,2.0 版本基于持续学习的语义理解预训练框架,使用多任务学习增量式构建预训练任务,在模型的效果上超越 Bert。随后不断向外延展至各大 AI 基础领域和垂直行业(例如 2021 年 5 月开源的多粒度语言知识增强模型 ERNIE-Gram、长文本理解模型 ERNIE-Doc、融合场景图知识的跨模态理解模型 ERNIE-ViL、语言与视觉一体的模型 ERNIE-UNIMO 等)并最终形成了目前 AI PAAS 文心平台架构。