基于弹性计算的AI推理

场景描述

本方案适用于使用GPU进行AI在线推理的场

景。在推理之前，模型已经训练完成。例如,刷脸

支付中，我们在刷脸的时候，就是推理的一个过

程。再比如图像分类，目标检测，语音识别，语

义分析等返回结果的过程。

解决问题

l 使用GPU云服务器搭建推理环境

l 使用容器服务Kubernetes版构建推理

环境

l 使用NAS存储模型数据

l 使用飞天AI加速推理工具加速推理

产品列表

l GPU云服务器

l 容器服务Kubernetes版

l NAS共享存储

原文链接

本文为阿里云原创内容，未经允许不得转载。

云栖号 - 上云就看云栖号

基于弹性计算的AI推理相关推荐

云起实验室：基于函数计算实现AI推理
本场景基于函数计算建立一个TensorFlow Serverless AI推理平台. 点击立即参与云产品场景体验https://developer.aliyun.com/adc/scenario/35 ...
让业务感知不到服务器的存在——基于弹性计算的无服务器化实践
导读:2018年7月6 - 7日,一年一度的技术圈盛会ArchSummit全球架构师峰会在深圳华侨城洲际酒店举办.100余位国内外技术专家将齐聚深圳,分享各类技术架构最佳实践.来自腾讯技术工程事业群架 ...
Nature：将光计算与AI推理整合，实现高速高带宽低功耗AI计算
来源:机器之心本文约3200字,建议阅读10分钟本文将回顾用于人工智能的光学计算的近期研究成果并探讨其潜力和挑战. [ 摘要 ]相比于电子计算,光计算具有高速.高带宽.低功耗的优势,但目前光计算还 ...
基于弹性计算平台——构建高可用、可扩展的应用
文 / 陈波前不久,Facebook宣布投资10亿美元收购仅成立15个月的移动照片分享应用Instagram,消息传出时,人们不仅惊叹于这笔巨额的交易,更为这支13个人的小团队感到不可思议.Inst ...
基于函数计算的 Serverless AI 推理
前言概述本文介绍了使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖.一键部署.本地调试以及压测评估, 全方位展现函数计算的开发敏捷特性.自动弹性伸缩 ...
使用函数计算三步实现深度学习 AI 推理在线服务
目前深度学习应用广发, 其中 AI 推理的在线服务是其中一个重要的可落地的应用场景.本文将为大家介绍使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖 ...
本地函数定义是非法的_使用函数计算三步实现深度学习 AI 推理在线服务
目前深度学习应用广发, 其中 AI 推理的在线服务是其中一个重要的可落地的应用场景.本文将为大家介绍使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖. ...
联手寒武纪发布AI推理服务器，推出AI管理平台，中科曙光也All in AI
李根发自青岛量子位报道 | 公众号 QbitAI All in AI,不管是把口号喊响,还是撸起袖子干. 就在计算厂商中科曙光的年度科技峰会上,"All in AI"也从 ...
有营养的废话：人工智能、大数据和高性能计算融合成为趋势丨AI推理服务器，能读懂福尔摩斯？【软件网每日新闻播报│第10-24期】
每一个企业级的人都置顶了中国软件网中国软件网为你带来最新鲜的行业干货小编点评这年头甭管什么东西都往人工智能的坑上占明明就是个逻辑自动化甚至复杂点的逻辑稍微有那么点意思就打上 ...

基于弹性计算的AI推理

基于弹性计算的AI推理相关推荐

最新文章

热门文章