在过去的两周里,ChatGPT的热度居高不下,引发全网讨论。虽然AlphaGo这类AI产品也曾引起热议,但是在应用层面终究还是离用户太远了。而ChatGPT更像是「民用级」的产品,真正意义上让AI技术跨入广泛破圈应用时代。在当下,机器学习和深度学习的上云已经成为众多企业的选择,不再为算力所累,释放生产力,亚马逊云科技能够以强大的云计算底座为模型训练供能。

大模型的训练和应用门槛亟需降低

ChatGPT相比以往的对话机器人之所以“聪明”,是因为摄入了数以亿计的语料库内容,而如此规模的大模型的训练和应用成本极高,绝大部分企业都无法承担,但我们看到越来越多的大模型走向了开源,并允许用户在此基础上进行低成本的微调,以更加适配最终用户的业务场景。如何获取这些大模型,并快速进行部署和微调,是真正落地大模型应用需要考虑的问题。

Amazon SageMaker JumpStart简单明了地回答了这个问题,JumpStart提供了超过350个来自TensorFlow、PyTorch、Hugging Face以及MXNet等广受欢迎的模型中心所提供的最先进的预训练模型、内置算法以及预置解决方案模板,能为对象检测、文本分类和文本生成等流行的ML任务提供支持。

在re:Invent 2022上,亚马逊云科技宣布将来自Stability.AI的用于AI作画的Stable Diffusion模型和超大自然语言处理模型Bloom集成到SageMaker JumpStart,用户仅需点点鼠标,即可完成模型的部署和微调,极大地降低了大模型应用的门槛。

大模型训练和推理,更需高性能芯片助力

ChatGPT不仅需要巨量数据源“投喂”训练模型,而且也需要强有力的算力与芯片支持,而这些都需要巨量的成本。即便是在技术水平相当理想的情况下,成本问题也很惊人。

事实上对于很多个人学习者和初创公司来说,成本都是绕不开的问题。个人学习者其实很难不因为传统云的价格而感到吃力,但是亚马逊云科技对这类问题则有了更好的解决方案。

亚马逊云科技推出了基于Amazon Trainium自研芯片的Amazon EC2 Trn1实例的高性价比解决方案,与基于GPU的同类实例相比,Trn1可节省高达50%的训练成本,不管是从缩短时间、快速迭代模型,还是提升训练准确率维度来说,都可以助力ChatGPT这类AIGC应用降本增效,表现更出众。

值得一提的是,使用Trn1实例无需最低消费承诺或预付费用,只需为使用的计算量付费,计费方式十分合理。像是Stable Diffusion模型的母公司Stability AI就在使用Trn1进行模型训练,持续提升生产效能。

对于大模型的推理,由第二代Amazon Inferentia加速器支撑的Amazon EC2 Inf2实例。与第一代Inf1实例相比,Inf2实例的计算性能提高了3倍,加速器内存提高了4倍,吞吐量提高了4倍,延迟降低了10倍。Inf2实例经过优化,可以大规模部署日益复杂的模型,例如大型语言模型(LLM)等,其通过加速器之间的超高速连接可支持横向扩展分布式推理,即使是大如175B参数模型也可以方便部署并提升高速推理。

基于NLP大模型的服务并非仅有ChatGPT

像ChatGPT这种基于NLP大模型的服务,亚马逊云科技也拥有多种AI服务。

事实上,NLP大模型的落地是很难的,因为它们普遍需要高效的分布式大模型训练和快速的在线推理服务才能够落地,所以对于绝大多数公司来说,不管是从人力成本还是其他层面上来说,都存在一定的阻碍。亚马逊云科技凭借多年云业务经验,可以在多条业务线上齐头并进,协同合作伙伴快速展开生态化创新。

当业界谈论ChatGPT时,讨论的往往是大模型与大数据创新、强悍的机器学习能力。而亚马逊云科技与ChatGPT在迈向未来探索之路殊途同归,创新落点都是AI技术、机器学习、云技术的体系化深入探索。当技术真正作用于人、真正地赋能千行百业一线场景,产生高质量、高效能后,便能真正触及到崭新的科技边界,而这也是亚马逊云科技的愿景所在。

亚马逊云科技凭借多年云业务经验,协同合作伙伴快速展开生态化创新相关推荐

  1. 【AI每日播报】亚马逊发布多项AI云服务 魅族初试人工智能化系统

    [AI每日播报]每日早8点为您搜罗24小时内AI圈新鲜要闻,涵盖从资讯到声音.从论文到活动的全方位AI消息. CSDN AI周刊也已全面开启: 订阅请点击这里. 以下为今日要闻: 资讯 亚马逊发布多项 ...

  2. python根据频率画出词云_利用pandas+python制作100G亚马逊用户评论数据词云

    原标题:利用pandas+python制作100G亚马逊用户评论数据词云 数据挖掘入门与实战 公众号: datadw 我们手里面有一个差不多100G的亚马逊用户在购买商品后留下的评论数据(数据格式为j ...

  3. 【云计算与大数据技术】Google、亚马逊、IBM、阿里云等云计算应用平台介绍讲解(超详细)

    云应用跟云计算最大的不同在于,云计算作为一种宏观技术发展概念而存在,而云应用则是直接面对客户解决实际问题的产品. "云应用"的工作原理是把传统软件"本地安装.本地运算&q ...

  4. 图表对比详解:亚马逊、微软和谷歌云的机器学习即服务哪家强

    林鳞 编译自 KDnuggets 量子位 出品 | 公众号 QbitAI 对于大多数公司来说,机器学习是一项复杂而伤神的工作,花销大.对人才要求高.机器学习即服务针对这个痛点应运而生. 什么是&quo ...

  5. 服务的实例已在运行中_亚马逊首次把macOS引入云服务

    亚马逊 (Amazon) 有史以来第一次将 macOS 引入其 AWS 云服务.新的 Mac mini 实例将在亚马逊弹性计算服务 (EC2) 上提供,允许开发者为 iPhone.iPad.Mac 和 ...

  6. 跨境电商亚马逊卖家为何要使用云服务器?

    云服务器,作为跨境电商亚马逊开店必备的工具之一,深受各方卖家的青睐,由于跨境电商亚马逊平台有着一人一店的规定,但很多卖家朋友,为了获得更多的流量,便去开设多个店铺进行引流,这样操作极易诱发店铺关联,而 ...

  7. 四巨头 亚马逊_科技巨头亚马逊能否在拥挤的mmo空间中竞争

    四巨头 亚马逊 Everyone knew that Amazon entering the game dev industry was going to be a fascinating story ...

  8. 苹果支付60亿美元与高通和解?亚马逊不再运营中国国内市场业务;华为愿同德国签“无间谍软件协议”;Facebook开发语音服务...

    戳蓝字"CSDN云计算"关注我们哦! 重磅先知         亚马逊:从7月18日起将不再运营中国国内市场业务 传Facebook开发语音服务:将与亚马逊和苹果Siri竞争 瑞银 ...

  9. Temu、亚马逊、虾皮等跨境电商平台小白怎么快速提升店铺权重和产品销量?

    随着科技的发展,人们越来越喜欢网购,哪怕是国外也是一样的,所以跨境电商也随时诞生,同时因为当今的社会环境实体店越来越难做,国内的电商渠道竞争也很激烈,小白想要做起来也是难上加难 不过由于政府的扶持,跨 ...

最新文章

  1. 可伸缩系统的设计模式(译)
  2. Git一电脑配置config多个git用户 一个用于公司工作 一个用于个人学习
  3. Python:模块module
  4. ICCV2021—工业界中的神经网络视频传输超分算法
  5. ajax响应码,jQuery 使用$ .ajax()处理HTTP响应代码
  6. 搜索算法-三个简单的小问题
  7. 1、使用Keras构建图像分类器
  8. Jupyter Notebook介绍
  9. python dateutil_安装python dateutil
  10. Java学习 DAY18 Map、File、IO流
  11. 从物理到软件工程,中山大学转专业2017纪实
  12. Scrapy爬取二手房信息
  13. Android 实现动态背景“五彩蛛网”特效,让你大开眼界!
  14. android监听点击通知栏,android使用NotificationListenerService监听通知栏消息
  15. Mysql笔记之 数据类型
  16. 《OKR:源于英特尔和谷歌的目标管理利器》读书笔记
  17. AVI 文件格式分析
  18. 《拳皇15》先导预告 多位角色回归、细节下月公开
  19. 核心层,汇聚层,接入层,交换机性能差别
  20. 详细讲解网络协议:TCP和UDP什么区别?

热门文章

  1. 第三方背景调查会查几段工作经历呢?
  2. 普中51-单核-A2单片机
  3. ORB-SLAM2配置全过程
  4. [矩阵论]任意n阶矩阵都可以相似成一个三角矩阵
  5. python俄罗斯方块代码34行_python turtle实现俄罗斯方块 基础版
  6. MVC中Html.Partial, RenderPartial, Action,RenderAction 区别
  7. 一级缓存和二级缓存在Mybaits和操作系统中分别指什么
  8. windows系统的信使服务
  9. 屏蔽PrintScreen键
  10. js根据入职时间判断工龄