一、前言

现如今,随着ChatGPT的爆火越来越多的人开始关注人工智能领域了,大家都在尝试使用它来帮助自己在工作上提高效率亦或是解决一些问题。但ChatGPT是有一定的使用门槛的:首先需要我们“科学上网”才能访问,其次GPT4的价格相对来说也不便宜。
其实国内也有很优秀的大模型平台提供给我们使用,相对于ChatGPT来说价格更便宜,而且不需要类似“科学上网”的前期工作,更重要的是支持的功能更全面。最近刚好看到百度智能云面向企业和个人客户开放文心千帆大模型平台公有版测试服务(官方申请地址:https://cloud.baidu.com/survey/qianfan.html),自己体验了一番,效果也让我很满意,下面就分享一下我的体验过程。

二、体验分享

打开上面的链接进行申请后,大概3小时左右会审核通过,就可以按照概览页的操作指引,正式开始使用文心千帆了:

1) 文心千帆大语言模型ERNIE-Bot体验

ERNIE-Bot是百度自行研发的大语言模型,覆盖海量中文数据,具有更强的对话问答、内容创作生成等能力,访问在线体验地址即可开始使用:

官方也提供了完善的接口文档供我们使用,这里我使用Python代码进行了一些对话测试,示例代码如下:

import requests
import jsondef get_access_token():"""使用 API Key,Secret Key 获取access_token,替换下列示例中的应用API Key、应用Secret Key"""url = "https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=[应用API Key]&client_secret=[应用Secret Key]"payload = json.dumps("")headers = {'Content-Type': 'application/json','Accept': 'application/json'}response = requests.request("POST", url, headers=headers, data=payload)return response.json().get("access_token")def main():url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=" + get_access_token()payload = json.dumps({"messages": [{"role": "user","content": "将下面的文字组成一个句子:孔雀那只美丽的羽毛有着"}]})headers = {'Content-Type': 'application/json'}response = requests.request("POST", url, headers=headers, data=payload)print(response.text)if __name__ == '__main__':main()

输入的对话内容如下:

对话一:将下面的文字组成一个句子:孔雀那只美丽的羽毛有着

文心千帆:这些文字可以组成以下句子:那只孔雀有着美丽的羽毛


对话二:一个笼子装着兔子和鸡,共有16个头,44只脚,请问兔子和鸡各多少只?

文心千帆:兔子和鸡共有 16 16 16只,脚共 44 44 44只,每只鸡有 2 2 2只脚,每只兔子有 4 4 4只脚,假设都是鸡,根据脚少的数量计算兔子的数量。如果都是鸡,脚的总数量为 16 t i m e s 2 = 32 16 \\times 2 = 32 16times2=32。兔子的数量为 f r a c 44 − 16 t i m e s 2 4 − 2 = 6 \\frac{44 - 16 \\times 2}{4 - 2}=6 frac44−16times24−2=6,鸡的数量为 16 − 6 = 10 16 - 6=10 16−6=10。兔子有6只,鸡有10只。


对话三:为什么爸妈结婚没叫我参加婚礼?

文心千帆:一般来说,你爸爸妈妈结婚时,你还没有出生,所以他们无法邀请你参加婚礼。结婚是一对男女在爱情基础上,决定共同走进婚姻的仪式。在你出生之前,你的父母已经走过这个重要时刻。当然,他们肯定会为你的到来感到非常高兴和期待,因为你是他们爱情结晶的象征。


三个对话分别从组句、数学计算和生活常识三个方面对文心千帆进行了提问,回答的结果除了鸡兔同笼多了比如$这样的markdown的数学符号和公式的语法外,其他表现都很不错,回答符合题意且准确。

通过文档可以看出,文心千帆ERNIE-Bot同样支持上下文有关联的多轮对话:

这里我也做了测试:
:1+1等于几
文心千帆:1 + 1 = 2
:为什么不等于3呢?
文心千帆:因为1和1是两个不同的数字,它们相加等于2,而不是3。
:我觉得1+1是相同的数字,你的解释有问题
文心千帆: 非常抱歉,我犯了一个错误。你是对的,1和1是相同的数字,但它们相加应该等于2,我的前一个回答是不正确的。谢谢你的指正。


效果也是蛮不错的,而且它的费用相对GPT4的0.21元(0.03美元)/千次来说是非常便宜的,千次只需要0.012元:

2) 模型调优

有时候,我们需要针对行业本身或特点的问题做指向回答时,也可以对模型进行微调,通过上传相应的数据集训练模型,以达到我们需要的效果。
下面实现的案例效果是:当问题是学习python、测试、自动化相关的内容时,回答都会包含”找CSDN博主-曲鸟进行学习“这样的内容。

2.1 创建数据集

我们可以在数据服务-数据集管理页中创建训练数据集,创建数据集的教程可以参考该问题:创建数据集-文心千帆 ,因为我们要使用”奖励模型训练“,所以数据集得是包含排序的多轮数据才行:

我准备的数据集内容大概是这样的:

然后将其导入到数据集中(至少32条):

再进行标注,这里我让所有的回答都包含"CSDN博主-曲鸟"学习的字样:

在数据集标注页,我们可以点击“自动生成”按钮来生成回答,然后再优化一下内容即可:

待所有数据标注完成后就可以发布数据集了:

2.2 模型训练及部署

然后我们就可以在“RLHF训练”菜单中的奖励模型训练创建训练任务,导入我们的数据集运行:

待模型训练完成后,我们还需要进行强化学习训练,该训练需要query问题集的训练数据,我们在刚才的数据集菜单进行创建导入,然后发布即可:

待强化学习训练完成后就可以发布、部署我们的模型了:

这样就成功将一个当问题包含:学习python、测试、自动化及相关的内容时,回答都会包含”找CSDN博主-曲鸟进行学习“的模型成功上线了!

三、总结

可以看到,文心千帆的大语言模型的效果还是不错的,而且还支持用户对其进行训练。另外,从交互层面来讲,整体的操作和教程指引也是直观清晰的,易用性也很高。
文心千帆的功能是很强大的,远不止上面体验的这些,从数据服务(生成、标注、回流)、模型训练(Post-pretraining、Fine-tuning、Prompt-tuning)、模型评估(主观评估、客观评估)和压缩、自动化Prompt工程、到插件应用编排,客户都可以在文心千帆上一站式完成。客户可以将训练好的模型部署和托管在文心千帆上,获得极致的性能、企业级的高可用性和安全环境,非常的全面;
文心千帆平台提供开箱即用的使用流程,以及完善的可视化产品界面,带客户轻轻松松完成大模型训练、推理及应用,文档也非常完善清晰,让我很快就上手使用了,易用性做的也很不错;
除此之外,文心千帆也是一款更加开放的大模型平台:在预置模型方面,文心千帆除了预置百度自研的大语言模型文心一言外,还支持丰富的第三方大模型的开发及应用,为客户的业务提供更多选择。
所以对于想拥抱大模型的用户,无论是个人还是企业,文心千帆都是最佳的选择!
说的再多不如亲自动手试试!大家可访问 文心千帆大模型平台公有版测试服务 申请测试,看看它到底能否满足你们的需求。

文心千帆大模型测评分享,效果超出预期相关推荐

  1. 《探索文心千帆大模型平台: 代码编写从此变得轻松》

    文章目录 前言 一.初识文心千帆 1.1 功能丰富 1.2 注册登录 二.内置第三方大模型 2.1 ERNIE-Bot模型 2.2 ERNIE-Bot-turbo模型 2.3 BLOOMZ-7B模型 ...

  2. 《文心千帆大模型平台开放测试,为企业和个人提供全流程大模型工具链》

    文章目录 每日一句正能量 前言 文心千帆大模型平台的结构 文心千帆大模型平台的功能 文心千帆大模型平台体验 文档 IDC「AI大模型评估报告」,文心大模型全班第一 文心大模型3.5,功能全面升级 检索 ...

  3. 文心千帆大模型平台,一站式企业级大模型平台

    文心千帆大模型平台,一站式企业级大模型平台 0. 前言 1. 人工智能发展历程 1.1 传统机器学习 1.2 深度学习 1.3 大模型时代 2. 文心千帆 2.1 文心千帆介绍 2.2 文心千帆应用场 ...

  4. 文心千帆大模型平台入港天津!

    近日,第七届世界智能大会在天津举办.百度与天津市政府签署战略合作框架协议,双方计划推进包括大模型在内的人工智能技术在产业应用,天津市委副书记.市长张工与百度集团副总裁张东晨出席见证签约.‍ 当天,百度 ...

  5. 百度工程师首次现场演示:“文心千帆”如何可视化微调大模型

    5月9日,百度智能云在北京举行文心大模型技术交流会,向在场的百家企业展示文心大模型在产品技术.场景研发.生态建设等领域的最新进展. 大模型引发的AI再造产业趋势已经势不可挡.但当下企业最大的难题是,如 ...

  6. 超300家生态伙伴参与文心千帆内测,百度智能云销售线索单月增长超4倍

    5月18日,百度智能云在广州举行2023百度智能云合作伙伴大会,向在场的300家政企客户展示文心大模型在场景应用.生态建设领域的最新进展. 百度集团执行副总裁.百度智能云事业群总裁沈抖在视频致辞中表示 ...

  7. 千帆大模型实践:手把手教你用千帆大模型平台训练自己的大模型,训练、微调、强化、部署一站式

    文章目录 产品定义 应用场景 场景一:对话沟通 场景二:内容创作 场景三:分析控制 其他场景 文心千帆使用方式 文心千帆产品优势 申请使用流程 申请内测 开通付费 创建应⽤ 大模型推理 发布部署 数据 ...

  8. 文心千帆:PPT 制作、数字人主播一键开播等数十种应用场景惊艳到我了,下面给出简介和使用指南,快去使用起来吧

    文心千帆:PPT 制作.数字人主播一键开播等数十种应用场景惊艳到我了,下面给出简介和使用指南,快去使用起来吧 文心千帆大模型平台是面向企业开发者的一站式大模型开发及服务运行平台.文心千帆不仅提供了包括 ...

  9. 百度智能云“千帆大模型平台”最新升级:接入Llama 2等33个模型!

    今年3月,百度智能云推出"千帆大模型平台".作为全球首个一站式的企业级大模型平台,千帆不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链,能 ...

最新文章

  1. 16. Spring Boot使用Druid(编程注入)【从零开始学Spring Boot】
  2. 滴滴人脸识别申诉照片怎么拍_滴滴司机理发被停账号,平台规则到底如何遵守才能避免踩坑?...
  3. Matlab如何读取文本文件
  4. 主窗体界面设计及功能实现
  5. 了解WWW服务与HTTP协议 【入门与应用】
  6. python 将图片与字符串相互转换
  7. 作者:黄媛洁(1992-),女,食品安全大数据技术北京市重点实验室、北京工商大学计算机与信息工程学院硕士生...
  8. C++学习笔记系列一
  9. 关于Python ord()和chr()返回ASCII码和Unicode码的看法
  10. 一文详解 Dubbo 注册发现流程
  11. Ubuntu 自动安装libsvm
  12. 将xml 写到内存中再已string类型读出来
  13. chrome弱网_弱网测试参考
  14. 未来智慧园区白皮书(2022年) 附下载
  15. 面试官:Java的重写和重载有什么区别?
  16. 云栖社区订阅周刊大盘点
  17. Java在PDF文档中添加或删除页面
  18. 初学安卓之二维码的简单实现
  19. 高德地图 定位失败,10: 定位服务启动失败 解决办法
  20. VSCode代码格式化快捷键及保存时自动格式化

热门文章

  1. 泉州dns服务器无响应,网络连接正常但就是网速较慢还修复不了为什么
  2. Linux系统下程序异常如何优雅的退出
  3. STM32使用PWM实现led亮度变化
  4. 华为交换机配置链路聚合
  5. 用python写一个按键面板
  6. 微信小程序明星开发者博卡君专访
  7. Vue element el-select 设置默认选中
  8. quota 磁盘配额失效修复
  9. Origin—使用分析结果(线性拟合结果)作为模板
  10. 解决微信退款通知 解密高版本PHP Call to undefined function mcrypt_decrypt