边缘计算框架_黑科技 | 英特尔发布边缘计算加速框架最新版本

点击上方↑↑↑“OpenCV学堂”关注我

最新版本OpenVINO特性黑科技

概述

英特尔自从发布OpenVINO开发框架以来，因为其强大的模型转换与模型推理加速性能，迅速得了广大开发者的认同与中小公司追捧，此外支持各种硬件指令加速、各种不同精度模型、支持模型拓扑结构与层次查看，支持集成现有的深度学习框架，OpenCV等计算机视觉开发框架集成使用。其整体架构与推理流程如下：

模型优化器(Model Optimizer)

支持各种深度学习框架导出的模型压缩与优化，支持从FP32、FP16、INT8的模型转换与推理加速，支持Cafffe、tensorflow、darknet等深度学习框架

推理引擎(Inference Engine)

支持各种常见的计算机视觉深度神经网络模型加速、支持硬件指令集包括英特尔CPU、GPU、NCS加速棒、FPGA加速。使用OpenVINO 推理引擎可以在不改变任何代码的情况下，让模型推理时间缩短十倍左右，大多数模型可以做到CPU级别实时运行。

模型库(Model Zoo)

英特尔官方提供的预训练模块库，包括人脸检测、行人检测、车辆检测、车牌识别、行人属性分析、道路分割、人脸表情识别、Landmark提取、车辆属性识别、场景文字检测、图像超分辨、行人ReID跟踪、文本识别等超过30+常见应用场景下的预训练模型，可以直接使用，而且效果很好。

工作台(workbench)

深度学习模型加载与可视化各层显示，自动检测模型性能、各层与精度调整，支持INT8校验。这个是最新版本中才有的新功能模块，安装好OpenVINO ToolKit之后，启动可以通过chrome浏览器来访问https://127.0.0.1:5665即可。

支持语言：

支持C++、Python SDK开发，下载安装开发包之后即可进行开发工作，有大量示例代码可以参考。

R02的新特性支持

新增workbench支持，提供可视化模型拓扑结构、性能、精度、简单配置、精度转换支持。

支持多中设备的推理，通过自动平衡加载技术，这个很值得拥有，有多的加速棒的人可以采用这种方式。支持多个平台。

提供了新的推理引擎API接口，自动匹配可用设备，无需手动指定。支持可用设备查询。

支持FP16中间层序列化、相比FP32，模型大家可以减小2倍左右，提高模型可用性与对内存要求。

支持传统的机器学习模型加速，包括自然语言处理、语音识别等，支持的非视觉模型包括：

GNMT

BERT

TNDD(NNet3)

ESPNet

基于分布式的安装程序，更加容易安装部署，无需重复配置开发环境。

程序测试，1080P，CPU i7运行！

下载地址

https://software.intel.com/en-us/computer-vision-sdk/choose-download

SDK参考手册

https://software.intel.com/en-us/computer-vision-sdk/deep-learning-cv

推荐阅读

请给我一个在看

OpenVINO开发系列文章汇总
首发 | OpenVINO开发配套视频教程发布了
英特尔开源了OpenVINO模型训练框架
OpenVINO场景文字检测与识别
如何编译OpenCV4.1.0支持OpenVINO推断引擎加速支持

边缘计算框架_黑科技 | 英特尔发布边缘计算加速框架最新版本 | OpenVINO 2019R02...相关推荐

英特尔发布边缘软件中心，抢滩 650 亿美元智能边缘市场！
整理 | 夕颜出品 | CSDN(ID:CSDNnews) 近日,英特尔重磅发布"英特尔®边缘软件中心"(Intel® Edge Software Hub,以下简称"边 ...
英特尔 AI 引擎，加速 AI 工作负载的强大利器！
从数据预处理.经典机器学习,到语言处理和图像识别等深度学习模型,AI 的身影到处可见,遍及广泛的工作负载和用例. 配备英特尔® AI 引擎的英特尔® 至强® 可扩展处理器,结合可服务整条 AI 流水线 ...
英特尔的边缘计算布局：不只有基础硬件，也不只有技术创新
来源:财新网地处北京东南的亦庄,半个世纪之前,还是大兴区的红星人民公社.自从1991年北京的唯一一个国家级经济开发区落户于此之后,30年间,亦庄新城"长大"了约60倍,从3.8平 ...
英特尔推深度学习加速工具包OpenVINO，布局边缘计算，发力物联网业务
上周五(7 月 27 日),英特尔面向中国市场推出了专注于加速深度学习的 OpenVINO 工具包,可以帮助企业在边缘侧快速实现高性能计算机视觉与深度学习的开发. OpenVINO (Open Vis ...
亚信科技+英特尔至强：挖掘5G场景计费新价值，助推智慧高速“加速度”
5G商业化驱动数字经济迸发更多价值,而复杂的应用场景逐渐成为产业进步的掣肘. 我们都知道,5G正在给各行各业带来颠覆性变革,5G网络的普及势必会加速企业业务模式和发展战略的转变.近几年,多种因素影响下 ...
赛扬处理器_英特尔发布11代奔腾、赛扬处理器均支持AVX指令集
9月3日凌晨,英特尔发布了9款11代酷睿处理器,英特尔还表示第11代的奔腾.赛扬.博锐平台以及DG1独立显卡将在晚些时候发布. 日前,英特尔终于低调上线了三款基于Tiger Lake的11代奔腾.赛扬 ...
ac3168无线网卡驱动下载_英特尔发布无线驱动更新：增强稳定性修复蓝屏问题...
如果驱动程序出现损坏或者过时情况,那么就可能导致崩溃和稳定性问题.近日,英特尔发布了适用于 Windows 10 的无线驱动程序更新,以修复系统崩溃并提高系统和无线连接的性能. 更新地址:https: ...
第三代酷睿i3处理器_英特尔发布十代酷睿桌面处理器：i910900K升级10核20线程
本文转自:IT之家作者:孤城昨天,英特尔发布新闻稿,正式推出了十代酷睿桌面处理器. IT之家了解到,英特尔在新闻稿中表示,英特尔今天发布了第10代酷睿系列桌面处理器,官方称旗舰产品Core i9- ...
构建长期共赢生态圈，英特尔至强平台加速人工智能落地
本文转载自在前线量子位编辑 | 公众号 QbitAI 导语: 受疫情影响,AI医疗获得了前所未有的关注.在以肺部CT影像筛查为核心的新冠早期症状检测中,更是大显身手. 但在从技术到产品方案再到落 ...

边缘计算框架_黑科技 | 英特尔发布边缘计算加速框架最新版本 | OpenVINO 2019R02...

边缘计算框架_黑科技 | 英特尔发布边缘计算加速框架最新版本 | OpenVINO 2019R02...相关推荐

最新文章

热门文章