百度文心大模型「技术天团」首次亮相

Posted 2022-04-18 百度大脑

随着人工智能步入工业大生产阶段，AI大模型正在加速走出实验室，在全球范围内逐步实现产业落地应用的突破。自2020年至今，越来越多的科技巨头和科研机构参与其中。去年12月，百度发布了全球首个知识增强千亿级大模型——鹏城-百度·文心大模型，产业级知识增强“文心大模型”系列大模型也正式对外。百度文心大模型正从技术自主创新和加速产业应用两方面，推动中国AI发展更进一步。

AI大模型为什么在近年迎来大爆发？AI大模型在落地过程中如何更好适应产业需求？从研发到落地，百度文心大模型都经历了什么？技术小白用文心大模型，又会有什么奇思妙想？

文心大模型“技术天团”首次亮相，带来一场干货满满的AI技术盛宴！

4月16日，百度文心大模型技术开放日与百度认知AI创意赛——AI创意派决赛将同期举办，集中展现百度文心大模型的技术和落地进展。百度集团副总裁、深度学习技术及应用国家工程研究中心副主任吴甜，百度技术委员会主席吴华，百度计算机视觉首席科学家王井东，百度飞桨总架构师于佃海，百度杰出研发架构师孙宇等技术大咖将集体亮相，分享大模型技术发展趋势洞察、文心大模型最新技术突破及产业应用实践，为技术爱好者带来一场干货满满的AI技术盛宴。创意赛上开发者们也将带来一个个基于文心大模型开发出的趣味DEMO，分享比赛中的创新故事。

「文心大模型技术开放日」

大咖嘉宾及日程安排

议程介绍

文心大模型：知识增强的NLP模型详解

吴华，百度技术委员会主席预训练语言模型技术的发展，快速推进了自然语言处理领域各个任务效果的大幅提升。本报告将介绍百度文心大模型的发展历史，分享知识增强的NLP大模型相关内容，并分享在持续可学习的模型框架上，如何引入知识图谱、多语言、多模态等多元异构信息，不断增强模型能力，从而大幅提升模型效果。

文心大模型：CV基础模型及应用

王井东，百度计算机视觉首席科学家视觉基础模型的本质是从大量的数据中学到视觉知识并融合到模型中，用以提升下游视觉任务性能。本报告介绍百度在视觉基础模型预训练这一领域的几项代表性工作及其在实际业务应用中的性能表现。报告首先将介绍基于图像文本和视频文本弱监督预训练视觉表征学习，其提升了图像、视频以及商品图像的搜索性能。然后，将介绍自监督表征预训练在通用领域和垂直领域（如OCR结构和人脸活体检测）的工作。最后，会介绍打通基础模型落地的模型小型化技术。

文心大模型：基于飞桨的分布式训练和高性能推理

于佃海，百度飞桨总架构师大模型带来效果提升的同时，也给训练和推理部署带来了新的挑战。依托于飞桨强大的分布式训练能力，文心大模型高效迭代演进，成功发布了规模和效果领先的系列模型，并在超大规模模型上具备高速推理能力。本报告将介绍大模型对深度学习分布式训练带来的技术挑战和应对，飞桨在大模型训练上的创新技术和整体解决方案，以及在支持文心大模型训练中的实践经验，同时会介绍飞桨支持文心大模型高性能推理方面的最新进展。

文心·NLP大模型工具、平台及应用

孙宇，百度杰出研发架构师人工智能时代，充分利用大数据和大模型，兼顾落地成本及部署效率，需要结合技术和产业应用。文心大模型中发布最早、应用最广的知识增强NLP模型ERNIE，曾在全球权威榜单GLUE、SuperGLUE登顶榜首，在金融、通信、企业服务、互联网等行业取得广泛应用。本次报告主要聚焦基于ERNIE打造的NLP大模型工具与平台，通过实际应用案例，分享如何充分利用世界领先的ERNIE系列大模型提升应用效果，创造业务价值。

作为产业级知识增强大模型，百度文心大模型包含NLP（自然语言理解）大模型、CV（计算机视觉）大模型、跨模态大模型，既有基础通用的大模型，也包含面向重点领域、重点任务的大模型，以及丰富的工具与平台。目前，文心大模型不仅大规模应用于百度内部的各类产品，还通过飞桨开源开放平台、百度智能云等赋能到工业、能源、金融、通信、媒体、教育等各行各业。

正是基于文心大模型扎实的技术实力和产业赋能经验，百度于去年10月启动了百度认知AI创意赛——AI创意派。无论是否具备编程基础，基于文心大模型的能力都可以充分激发灵感和实现创意。元宇宙的虚拟人生、AI版“反诈App”、续写一本小说、神奇植物都有啥……近2000份奇思妙想因为文心大模型变成了DEMO和落地方案。

4月16日下午，AI创意派决赛将正式拉开帷幕，选手们将通过现场路演的方式进行最终的角逐。在AI创意派决赛现场，你能了解到百度AI最新的技术发展方向和落地应用价值，收获文心大模型信息和知识，看到一个个基于文心大模型所开发出的趣味DEMO和背后的故事，见证一年一度的AI创意大比拼～