机器之心报道

作者：泽南、小舟

百度文心加速前进，开启全新篇章。

近期，公众对大型模型的“考试”热情高涨。

无论是机器学习的基准测试，还是人类的高考题目，技术的进步都在不断被量化。在这样的横向比较中，表现优异的人工智能产品自然会受到广泛关注。

然而，在真实世界的“考场”中，往往并没有统一的标准答案，这使得AI面临许多在训练过程中未曾遇到的情况。此外，对于快速发展的大型模型而言，其实际应用效果也必须接受严峻的考验，真正的能力评判在于应用效果。

在云南澜沧县，人们正在借助文心智能体平台所创建的“农民院士智能体”，在朱有勇院士的指导下，积极开展旱地农业。

新的智能代码助手文心快码，已有80%的百度工程师深度使用，代码采纳率达到46%。

甚至连古老的甲骨文也被AI重新焕发活力，能够与我们进行对话。点击甲骨文，还能查看大模型生成的解释。

这些展示都是在昨天的百度WAVE SUMMIT深度学习开发者大会上发布的最新技术成果。百度正在全力以赴，追求“实用性”的目标。

文心大模型进入Turbo时代

两个月前，文心大模型4.0工具版刚刚问世，而现在又推出了文心大模型4.0 Turbo。

昨日，文心大模型正式上线了4.0 Turbo版本。在基于今年4月发布的文心大模型4.0的基础上，又一次实现了显著的提升。新版本不仅速度更快，效果也得到了增强，目前文心一言的网页版和APP已经陆续上线，供开发者使用的API也已开放。

体验一下4.0 Turbo的速度，直观对比文心大模型4.0：

输出内容各有不同，质量都相当不错，但在速度上差异显著，Turbo的速度实在惊人。

我们第一时间测试了网页上的Turbo版，发现其能迅速感知近期发生的新闻，生成答案的速度甚至快于我们阅读的速度，且提供的答案逻辑清晰，附带引用链接。

新一代深度学习平台飞桨为4.0 Turbo提供了技术支持，百度提高了大模型的训练数据量，并优化了数据的分布与质量，不断迭代训练算法。在这个过程中，有监督的细化训练、强化学习中人类反馈、提示词工程等调优技术也在不断进步；文心大模型独特的知识增强、检索增强和对话增强技术也得到了改良。

文心4.0 Turbo在智能体能力上也得到了增强。在强大的基础模型之上，进行了更深入的思考训练，提升了智能体的理解、规划、反思和进化能力。现在的大模型代理能够可靠地执行任务，自我进化，并在一定程度上实现思维过程的透明化。通过智能体，AI能够像人一样进行思考和行动，自主完成复杂任务，并在动态环境中持续学习与进化。

目前，文心大模型系列已涵盖文心轻量级、文心3.5、文心4.0和文心4.0 Turbo等多种不同性能的模型，还有大模型智能体技术，面向开发者，适用广泛场景。

其中，文心轻量级模型适用于解决特定场景的需求，性能和成本表现优异；文心3.5则具备良好的通用性，适合日常的信息处理和文本生成任务；文心4.0模型规模更大，能力更强，拥有更好的理解能力、逻辑推理能力及丰富的知识，能够提供专业且深入的支持；而文心4.0工具版则基于智能体技术，擅长综合运用多种工具与数据，以满足极为复杂的任务需求。

新发布的文心大模型4.0 Turbo不仅效果显著，速度也显著提升。

大模型能力，超越代码的表面

大模型的发展趋势在于应用落地，通过不断实践，其技术精进将找到新的方向。

在WAVE SUMMIT上，我们观察到大模型的能力不再停留在代码层面，而是通过“农民院士智能体”、“体育大模型”等接地气的形式，成为多个行业中有意义的工具，创造出前所未有的应用价值。

在云南省澜沧拉祜族自治县，由于土地贫瘠及自然灾害频发，水稻的种植曾经十分艰难。2015年，中国工程院的朱有勇院士及其团队深入山区开展科技扶贫。朱院士的团队在当地教授旱地优质稻等作物的独特种植知识。在他的努力下，当地农民掌握了相关的种植技术，作物的产量有了质的飞跃。

然而，在作物种植过程中，农民可能会遇到各种具体的农业生产问题。如果能够随时询问朱院士解决种植疑难，当地农民在旱地优质稻的种植上将更加得心应手。

在人工智能时代，这一问题得以由AI来解决。

在WAVE SUMMIT上，百度展示了与朱有勇院士及其团队共同打造的首个农业智能体——“农民院士智能体”。该智能体基于文心智能体平台构建，学习了朱院士的研究成果及相关农业知识。农民可以随时向智能体咨询农业生产中的问题，获得专业而详尽的解答。

这个智能体可在网页端、App及小度智能设备上使用。在文心一言APP中，打开“农民院士智能体”功能后，用户可以询问关于作物种植的具体问题，并获得专业回答：

“朱院士就像在我的手机里，和他本人一模一样”，澜沧拉祜族自治县竹塘乡云山村的村民如是评价“农民院士智能体”。“我们问什么，他就答什么，就好像他坐在我身边一样。”

“农民院士智能体”已经成为当地村民强有力的知识助手。这展示了大模型在专业领域的实际应用价值，赋能各行各业的愿景在此时得到了具象化。可以预见，掌握专业知识的智能体将成为合格的知识助手。

人工智能也在帮助运动员提升成绩。百度与上海体育大学共同探索体育科技，基于先进的AI大模型，融合大量体育专业知识，建立了“上体体育大模型”，实现了多项运动项目的辅助训练、技战术分析、实时反馈分析以及数据采集、姿态分析等多重能力。

此类AI应用目前已经覆盖了游泳、田径、体操、蹦床、攀岩等多支国家队，为重大赛事的训练提供支持。参与巴黎奥运会的部分运动员得到了AI的帮助。此外，体育大模型也在全民健身领域展现了其作用。

百度文心：引领智能时代的新纪元

在众多企业还在争相进行基准测试和性能排名之际，百度展现出更具说服力的成就：文心一言的用户总数已经突破 3 亿，每日调用量达到 5 亿，在过去六个月中，用户日均提问量激增 78%，提问的平均长度也提升了 89%。

越来越多的人开始关注文心一言，发现其大模型产品的巨大潜力。用户在体验了一些基本功能后，迅速探索出更多的应用场景。从最初的简单问答，逐渐演变为制定复杂的规则和提供示例，进而要求大模型完成更具挑战性的任务。

在开发者方面，文心大模型的星河共创计划已成功构建了 55 万个 AI 原生应用，并推出了超过 1000 个大模型工具，汇聚了超过 1000B 的高质量稀疏数据。

此外，这一技术的优势还可以直接帮助工程师，尤其在代码编程领域展现其价值。

开发进程加速

百度的智能代码助手 Comate 现已更名为「文心快码」。作为一款智能 IDE 插件，它支持 19 种主流IDE和超过 100 种编程语言。

据百度副总裁陈洋介绍，借助大模型的支持，文心快码不仅能续写已有代码，还可以根据自然语言指令生成代码，或根据注释进行编程，甚至在代码基础上自动生成注释，并利用私有知识进行模型的增强与精调。

最新发布的文心快码 2.5 版本实现了开发全流程的覆盖，增强了知识功能，并在企业级安全性方面有了显著提升。

名为快码的背后，「快」字体现了三个方面：开发速度迅速、业务迭代迅猛、企业落地高效。

究竟为何开发速度能如此提升？这得益于 AI 对研发知识的深刻理解与应用。数百位技术专家的经验与十亿级研发知识的融合，最终形成了一个高效的开发助手，其代码生成的准确率高达 80%。

据说，百度内部采用文心快码后，工程师在单位时间内提交的代码数量提升了 35%。

更为重要的是，整个开发流程得到了加速。它能在需求阶段提供构思，在研发阶段协助编写，在测试和发布阶段进行修改，甚至根据企业规范提醒产品经理，持续监测代码中的安全隐患。在百度内部，文心快码实施后，业务迭代的整体速度提升了 14%。

最终，这一工具的推广能够惠及更多企业。文心代码能够提供完整的最佳业务实践与流程。百度的上万名工程师中，有 80% 深度使用文心快码，成为国内使用智能代码助手人数最多的团队。在外部，喜马拉雅在一个季度内全面实施，代码采纳率达到 44%。

如此高的代码采用率，甚至超出了一些人类程序员的表现。据悉，文心快码的客户还包括三菱电梯、软通动力、吉利汽车等，已有超过一万家企业覆盖多个行业。

飞桨的蓬勃发展

众所周知，文心大模型的持续快速进化，得益于百度在芯片及框架等方面的全栈布局，其中飞桨深度学习平台的联合优化发挥了重要作用。

在 WAVE SUMMIT 上，百度发布了新一代 AI 框架——飞桨框架 3.0，目前已经向开发者开放。

在新版本的设计中，百度充分考虑到了当前大模型发展的趋势，以及异构多芯片的硬件体系。新框架在使用时实现了对大模型训练推理的一体化能力，强调了大模型训练开发中的自动并行性，实现了编译器的自动优化，简化了开发和调优的过程，并完成了大模型的多硬件适配。

为实现这些技术优势，首先从训练与推理的需求出发，底层设计了高扩展中间表示 PIR，构建了高效灵活的 Pass 机制，使开发成本降低了 58%，并让飞桨模型库中的 84% 模型推理加速超过 10%。

众所周知，大模型的混合并行开发非常复杂，涉及多种策略。为简化这项工作，百度研发了自动并行能力，以更好地封装代码，进行全局静态优化，并进一步提高性能上限。利用飞桨的动静统一自动并行能力，不同参数模型的训练性能均可得到提升，提升幅度可达 20%。

在 AI 框架中，性能优化是至关重要的属性。结合编译器的设计，飞桨大幅简化了优化流程。在前端做好相应的编译器表示，并在后端将前端表示转化为底层表示，以便对接硬件，实现代码的自动优化。通过编译器进行算子的自动融合，执行速度比算子调用提升 4 倍，手动融合则提升 14%。通过这一系列编译性能的优化，在生成式模型推理中，无论是语言模型还是扩散模型，推理性能都有显著提升，提升幅度可达 30%。

在大模型设计过程中，训练与推理的整合非常重要。飞桨能够自动将动态图转化为静态图，实现训练与推理的无缝衔接。通过调用高性能算子，RLHF 的训练加速可以达到 2.1 倍。此外，量化过程还可以复用分布式策略，使量化效率提升 3.8 倍。

飞桨通过 30 多个接口，全面支持大模型的训练和推理。硬件厂商只需对基础算子进行适配即可接入，从而大幅减少工作量。此外，它还在软硬件协同优化方面下了功夫，以更好地实现协同性能的优化。

飞桨平台对大模型的重要性不言而喻，许多文心大模型的能力正是通过与飞桨的联合优化得以实现。这就像是船与桨之间的关系。

在基础计算优化方面，飞桨在模型训练上实现了块状稀疏掩码注意力计算、存算最优平衡等精细化重计算，灵活地实现了多模型结构的混合并行。此外，还进行了与硬件的通信联合优化。

在推理方面，通过高性能分段矩阵与多流加速计算，LoRA 实现了集约化部署，以获得更优的推理效率。在相同精度下，LoRA 的推理性能提升了 33.3%。量化后，性能提升可达 113.3%，且支持的 LoRA 数量增长至 6 倍。

飞桨还实现了异构多芯片的混合部署，能够进行动态调度，将不同请求分配到不同性能的芯片上，以最大化资源利用效率。

一组令人瞩目的数据：1465 万开发者、37 万家企事业单位、 95 万个模型，这就是飞桨与文心所构建的生态的一角。

从算力、框架、模型到实践，这一套国内首个大模型全链路生态支持体系，在全球大模型竞赛中持续发挥着重要作用。其他公司的努力不过是百度的起步。

通用人工智能的曙光已现

2024 年即将过半，经过一年多的「百模大战」，行业的发展现状如何？未来的方向又将是什么？

在昨天的大会上，百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰从技术的通用性与能力的全面性两个角度解读 AGI 的发展。

首先，谈到技术的通用性。人工智能技术在经历数十年的发展后，已进入大模型时代，一套架构与技术已能解决多种问题。除了算法，模型的通用性和统一性也得到了显著提升。无论是不同任务、语言、场景还是各种模态，都可以通过同一基础模型来实现。

以自然语言处理为例，过去的研究领域包括分词、句法解析、语义匹配、机器翻译、问答系统以及对话等多个子领域。而如今，单一的大型语言模型几乎可以处理大部分任务。在语言处理方面，这些模型不仅能够应对单一语言的挑战，还能跨越语言障碍，掌握自然语言与人工定义形式语言之间的转换，形成了从思考到行动的有效桥梁。此外，大模型还具备多模态统一建模的能力，广泛应用于各行业，极大地提升了技术的通用性。

接下来谈到能力的全面性。理解、生成、逻辑推理和记忆，这四项基础能力构成了人工智能的核心。而创作、解题、编程、规划和决策等典型能力，基本上都是这四项基础能力的综合体现。随着这四项能力不断增强，人工智能越发接近于通用人工智能的理想状态。

然而，掌握这种通用技术以实现全面能力，并非人人都能轻易做到。

由于大型模型对人才、计算能力和数据的高门槛要求，在激烈的竞争环境中，技术竞赛的形势逐渐明朗。从创业公司到各大科技巨头，领先者已经在竞争中占据了明显优势。

更进一步地，能够构建完整人工智能技术体系的企业，必须面对实际应用场景，创造出能够提升生产力的有效应用。而与技术发展相比，技术的落地面临的挑战可能更加复杂。

两周前，微软关于Copilot GPTs即将停服的消息引发了行业的广泛关注。这项拥有众多用户的技术应用，仅在开放三个月后就因“公司战略调整”而宣布停用。造成这一现象的原因，可能包括应用场景不明确及缺乏商业回报等因素。

最近有媒体报道，OpenAI通过出售GPT-4等大型模型所获得的收益，已经超过了其合作伙伴微软在同类业务中的收入。

无论大型模型技术如何先进，每个token的成本如何降低，即使出自顶尖科技公司，缺乏与场景生态结合的人工智能应用仍将迅速被市场淘汰。甚至像微软这样的公司，也同样面临这一挑战。

而拥抱实际应用场景，或许正是国内科技公司的一项强项。

观察到文心一言的迅速发展与实施，我们不难发现，2019年第一届Wave Summit上提出的“人工智能进入工业化大生产阶段”这一愿景，正在逐步成为现实。随着大型模型进入产业爆发期，通用人工智能的实现正加速逼近。