5月9日,百度智能云在北京举行文心大模型技术交流会,向在场的百家企业展示文心大模型在产品技术、场景研发、生态建设等领域的最新进展。

大模型引发的AI再造产业趋势已经势不可挡。但当下企业最大的难题是,如何高效、低成本得获取大模型能力,如何挑选到最合适的大模型服务。

百度智能云方面表示,正在内测的“文心千帆大模型平台”,是全球首个一站式的企业级大模型生产平台,不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链。

未来,文心千帆将提供两种服务:第一,文心一言是目前中国市场最领先的大模型,未来,文心千帆将以文心一言为核心,提供大模型服务,帮助客户改造产品和生产流程。第二,作为一个大模型生产平台,企业可以在文心千帆上基于任何开源或闭源的大模型,开发自己的专属大模型。

百度集团副总裁侯震宇表示,大模型时代下,企业的创新要脱颖而出,不但需要智能的算力、灵活的框架平台、丰富的大模型体系以及优质的应用方案,还需要这四者之间端到端的适配与优化,这是一个“既要、又要、还要”的端到端创新工程。

【百度集团副总裁侯震宇】

现场,百度智能云与联想集团、用友、宝兰德等14家文心千帆生态伙伴举行签约仪式。

用友网络副总裁、用友研究院院长吕建伟表示,中国企业关注大模型的落地能力,一个简单的智能问答背后有着非常复杂的加工过程。我们期望和百度智能云一起,把微调、性能调优等工具简化,推动大模型应用。

北京宝兰德软件董事长易存道表示,如何把大模型在垂直行业做好,是目前各个企业都要考虑的问题,多数企业无法像百度一样有能力建设大模型。怎么能够把百度的大模型能力和企业业务有效结合起来,创造更强的价值,是企业非常好的弯道超车机会。

【百度智能云与14家文心千帆生态伙伴举行签约仪式】

国内第一个!百度工程师现场演示大模型微调全过程

事实上,目前企业应用大模型面临诸多难点:模型体积大,训练难度高;算力规模大,性能要求高;数据规模大,数据质量参差不齐。大模型产业化需要云计算厂商将模型开发、训练、调优、运营等复杂过程封装起来,通过低门槛、高效率的企业级服务平台深入产业,为千行百业提供服务。

侯震宇表示,文心千帆大模型平台是全球首个一站式的企业级大模型平台。之所以称为全球首个一站式平台,是因为它不但提供包括文心一言在内的大模型服务,还提供大模型开发和应用的整套工具链。此外,该平台还支持各类第三方大模型,未来将成为大模型生产和分发的集散地。

目前,文心千帆大模型平台提供公有云服务、私有化部署两大交付模式。

在公有云服务方面,将提供:推理(直接调用大模型的推理能力)、微调(通过高质量精标业务数据,高效训练出特定行业的大模型)、托管(将模型发布在百度智能云,以实现更加稳定高效的运行)三种服务,大幅降低企业部署大模型的门槛。

百度智能云AI与大数据平台总经理忻舟在现场演示了如何微调大模型,这也是国内首次演示如何微调行业专属大模型的全过程。文心千帆大模型平台提供了可视化开发工具链,提供了数据生成、标注、回流的数据闭环管理功能。客户以少量数据即可发起模型微调,最快几分钟就可获得自己的专属大模型。

在私有化部署方面,文心千帆大模型平台支持软件授权(提供在企业环境中运行的大模型服务)、软硬一体(提供整套大模型服务及对应的硬件基础设施),租赁服务(提供机器和平台的租赁满足客户低频需求)三种方式。私有化部属能够满足对数据监管有严格要求的企业客户需求。

忻舟总结,文心千帆大模型平台有六大特点:更易用,开箱即用,节约客户机会成本;更全面,提供覆盖全生命周期的工具链;更高效,可以端到端的全流程优化;更安全;更开放;更集成,更多插件拓展模型能力边界。

【百度智能云AI与大数据平台总经理忻舟:文心千帆大模型平台有六大特点】

“快且收敛,是大模型应用训练中一个非常重要的指标。”忻舟说,“只快不收敛,大模型的训练是没有用的。文心千帆在多机多卡训练性能方面,可以更快达到收敛的状态,在全球权威AI基准评测MLPerf榜单中排名世界第一。”

已有300余家生态伙伴参与文心一言内测

据了解,百度内部产品正在基于文心一言升级。

比如,在百度员工内部的智能工作平台“如流”上,很多程序员会就一些产品或技术难题询问产品经理、研发同事,数量多,频次高。过去获得一个答案平均时间约5分钟,现在如流有了一个文心千帆AI小助手,可以代替同事自动回答各种问题,平均5秒就可以解答一个难题,大幅提升了工作效率。

同时,百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台等六大智能产品系列,将基于文心大模型全面升级,未来将在安全评估完成后上线。

此外, 文心千帆大模型平台面向首批企业客户内测以来,正在与不同领域客户联合研发,在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。

金山办公助理总裁田然表示,金山办公要跟中国优秀的大模型提供方站在一起,做好大模型应用方的角色,用更好的办公软件,为客户提供更多的价值。文心千帆在安全合规、模型深度、迭代速度、推理性能等多个方面都有一定的优势,在意图理解、PPT大纲生成、范文书写、生成待办列表、文生图等多模态生成的场景上,双方的联合开发已经取得了进展。金山办公和文心千帆的合作,会进一步推动大模型在办公领域的应用和快速落地。今天的合作只是刚刚开始,未来金山办公与百度将在更多更有价值的功能和产品上持续探索。

百度还帮助长安汽车构建了人工智能基础设施平台和数字人平台。现在双方基于百度文心大模型正在开发一款智能产品,赋能长安汽车的一款量产车型,打造创新性的用户体验和持续的研发动能。

百度集团副总裁袁佛玉表示:“截止目前,已有超过300家生态伙伴参与文心一言内测,在400多个企业内部场景取得测试成效。”

【百度集团副总裁袁佛玉】

企业该如何选择大模型?除了算力还要看三个指标

国内大公司纷纷推出大模型,对于企业来说,如何挑选一个合适的大模型成为新难题。

实际上,企业选择大模型可以从三个标准评判:大模型本身的能力、大模型企业服务的能力、全栈技术积累程度。

侯震宇表示,百度是全球唯一在芯片、框架、模型和应用这四层进行全栈布局的人工智能公司。正因为可以实现全栈端到端的优化,文心一言自3月启动内测不到2个月,已完成4次技术版本升级,大模型推理成本降为原来的十分之一。

此外,大模型的大计算、大参数、高成本,也对大模型时代的AI基础设施提出新的要求。基于四层框架优势,百度智能云打造了国内首个全栈自研的AI基础设施“百度AI大底座”,面向企业AI开发提供端到端的解决方案。尤其是在框架层和模型层之间,AI大底座有很强的协同作用,可以帮助企业构建更高效的模型,持续调优性能,并显著降低成本。

百度智能云云计算产品解决方案和运营部总经理宋飞举例:“大家可能会觉得堆积算力、写好代码、然后进行模型训练,把它跑起来就行了。实际上在训练过程中会遇到各种各样的挑战,很少有人能够使得一个大模型训练过程能够在连续一两天内不出问题。百度AI大底座可以为大模型提供高效、稳定的训练和有效的收敛。千卡加速比达到90%,资源利用率70%,开发效率提升100%。这是AI大底座为大模型的开发和应用带来的价值。”

百度AI大底座也在为合作伙伴提供帮助。百图生科基于与百度智能云联合构建的生物超算平台,训练出了全球首个、也是目前最大的生命科学领域的千亿大模型“xTrimo”。在地平线的智能驾驶解决方案全生命周期开发中,百度AI大底座为高性能数据存储和模型训练提供支持。

百度工程师首次现场演示:“文心千帆”如何可视化微调大模型相关推荐

  1. 超300家生态伙伴参与文心千帆内测,百度智能云销售线索单月增长超4倍

    5月18日,百度智能云在广州举行2023百度智能云合作伙伴大会,向在场的300家政企客户展示文心大模型在场景应用.生态建设领域的最新进展. 百度集团执行副总裁.百度智能云事业群总裁沈抖在视频致辞中表示 ...

  2. 文心千帆:PPT 制作、数字人主播一键开播等数十种应用场景惊艳到我了,下面给出简介和使用指南,快去使用起来吧

    文心千帆:PPT 制作.数字人主播一键开播等数十种应用场景惊艳到我了,下面给出简介和使用指南,快去使用起来吧 文心千帆大模型平台是面向企业开发者的一站式大模型开发及服务运行平台.文心千帆不仅提供了包括 ...

  3. 文心千帆大模型平台,一站式企业级大模型平台

    文心千帆大模型平台,一站式企业级大模型平台 0. 前言 1. 人工智能发展历程 1.1 传统机器学习 1.2 深度学习 1.3 大模型时代 2. 文心千帆 2.1 文心千帆介绍 2.2 文心千帆应用场 ...

  4. 文心千帆大模型测评分享,效果超出预期

    一.前言 现如今,随着ChatGPT的爆火越来越多的人开始关注人工智能领域了,大家都在尝试使用它来帮助自己在工作上提高效率亦或是解决一些问题.但ChatGPT是有一定的使用门槛的:首先需要我们&quo ...

  5. 文心千帆大模型平台入港天津!

    近日,第七届世界智能大会在天津举办.百度与天津市政府签署战略合作框架协议,双方计划推进包括大模型在内的人工智能技术在产业应用,天津市委副书记.市长张工与百度集团副总裁张东晨出席见证签约.‍ 当天,百度 ...

  6. 《探索文心千帆大模型平台: 代码编写从此变得轻松》

    文章目录 前言 一.初识文心千帆 1.1 功能丰富 1.2 注册登录 二.内置第三方大模型 2.1 ERNIE-Bot模型 2.2 ERNIE-Bot-turbo模型 2.3 BLOOMZ-7B模型 ...

  7. 《文心千帆大模型平台开放测试,为企业和个人提供全流程大模型工具链》

    文章目录 每日一句正能量 前言 文心千帆大模型平台的结构 文心千帆大模型平台的功能 文心千帆大模型平台体验 文档 IDC「AI大模型评估报告」,文心大模型全班第一 文心大模型3.5,功能全面升级 检索 ...

  8. PHP 文心千帆API接口对接

    一:API 调用流程简介 创建一个智能云应用.根据实际需求创建智能云应用.创建成功后,获取AppID.API Key.Secret Key 等信息. API 授权.对应用的 AppID 进行授权. 获 ...

  9. 互联网晚报 | 抖音否认3月1日全国上线外卖服务;百度类ChatGPT项目定名“文心一言”;任天堂将全体员工工资统一上调10%...

    抖音否认3月1日全国上线外卖服务 有媒体报道称,抖音将于3月1日上线全国外卖服务,目前已在北京.上海.成都三地进行内测.对此,抖音内部人士表示,没有"3月1日全国上线外卖服务"的计 ...

最新文章

  1. webpack2 实践
  2. vs界面竖线光标变成灰色方块,输入时替代已有字符
  3. 2018-2019-1 20165226 《信息安全系统设计基础》第6周学习总结
  4. 浅拷贝 python_python中什么是浅拷贝
  5. C++ 动态二维数组(二维vector)
  6. 栈(Stack),轻松解决数制转换和括号匹配问题!
  7. 普通二本的辛酸Android面试之路,算法太TM重要了
  8. python第九天(9-33)
  9. Spring Cloud微服务之Nacos服务注册(九)
  10. Unity中Camera的Clear flags,Culling Mask,Depth参数
  11. oracle 11g crs stat,Oracle 11g RAC CRS磁盘丢失后恢复
  12. 如何正确处理HTTP 404错误页面
  13. 云计算最有利于中小企业
  14. C#网络编程之---TCP协议的同步通信(相互发送接收数据)
  15. PS快速修改颜色的小方法
  16. react native 高德定位 react-native-amap-geolocation
  17. Java微信公众号开发之初步认识微信公众平台
  18. Android Wear 开发 (一),移动应用开发技术
  19. Redis的Java客户端
  20. 11月第2周业务风控关注|36名利用网络刷单实施诈骗的犯罪嫌疑人从菲律宾被押解回国

热门文章

  1. 为什么回退N步(GBN)协议和选择重传(SR)协议的发送窗口有限制
  2. linux内核论文分析,毕业论文LINUX内核分析.doc
  3. 一个demo让你彻底搞懂观察者模式
  4. 关于“书是人类进步的阶梯”的一点点看法
  5. 10.525Ghz 微波雷达感应基础(二)--CW模式雷达
  6. 人事不易,成事更不易
  7. Python GUI图形界面开发学习
  8. CSS学习笔记(详细,不定期更新)
  9. python实现图(卖芒果)
  10. Pyinstaller打包pygame包的aliens.py文件