OpenVINO工具套件高级课程第一课:如何充分使用OpenVINO工具套件?
一、Traditional Computer Vision & Tools & Libraries
目前,许多平台和操作系统都支持OpenVINO的运行,并将继续扩大支持范围,支持即将推出的Inter集成显卡以及其他智能硬件。
我们可以看见,OpenVINO工具套件包括最新的最优化的OpenCV*、OpenVX*版本,以及加速视频编程和解码的Media SDK,目前Media SDK正在向Open VPL迁移。值得一提的是,之后FPGA的软件包只会根据需求直接提供,将会从正式版本中逐步分离出来。
二、Deep Learning
OpenVINO里面最重要的部分深度学习部署工具套件(Deep Learning Deployment Toolkit,DLDT)用于深度学习的推理加速,作为模型优化器和推理引擎工具套件的核心,务必掌握其使用方法。其中,模型优化器是推理之前对模型进行预处理的工具,模型优化器会输出基于原始生成的深度学习模型的IR文件,该文件仅能在OpenVINO中使用,而推理引擎可以使用IR文件,在编写的应用中执行深度学习推理请求,IR文件实际上是两个文件,包括xml文件(用于描述网络结构)和bin文件(存储模型参数权重)。
通过模型优化器可以支持各种框架下的模型,包括TensorFlow、Caffe、mxnet、ONNX等。值得一提的是,从2024版本开始,推理引擎可以不通过模型优化器转换,直接读取原生ONNX模型。推理引擎可以使用已经转换好的IR文件,并且对于相同模型只需要一套代码,推理引擎就可以部署在多种设备,如Inter CPU,灵动、酷睿或至强、Inter集成式GPU、Videos、VPU和FPGA进行推理。
使用模型优化器转换是一个离线流程,对于一个模型只需要执行一次,只需要花费几秒钟,一旦有IR文件,推理引擎可以反复使用进行推理。
1、OpenVINO整体流程
2、Open Model Zoo
Open Model Zoo提供很多直接可以使用的模型,包括检测、分类、分割、重新识别、2D、3D、音频、视频、NLP等。
3、性能测试Benchmark工具
包括Benchmark app、Accuracy Checker、Model Analyzer等。
4、其他工具
包括DL Streamer(使用少量代码构建视频分析流程)、OVMS(OpenVINO模型服务器提供推理服务器的全部资料,运行到本地或云端)、训练拓展工具、DL WorkBench(一款可视化的基于Docker的BenchMark工具)。
OpenVINO工具套件高级课程第一课:如何充分使用OpenVINO工具套件?相关推荐
- 英特尔OpenVINO工具套件高级课程实验操作记录与学习总结
英特尔OpenVINO工具套件高级课程&实验操作记录与学习总结 实验机器环境部分信息: dc2-user@10-0-255-63:~$ lsb_release -a No LSB module ...
- 华为Cloud Native Lives课程第一课-云原生技术的前世今生
经过十多年的发展,云计算技术已由Cloud Migration阶段发展到了Cloud Native阶段,即云原生. 云原生阶段的代表技术有容器.服务网络.微服务.不可变基础设施和声明式API. CNC ...
- 学习心得:Apollo无人驾驶汽车入门课程——第一课:无人驾驶概览
目录 C1:概述 C2:学习内容 C3:什么是无人驾驶? C4:Sebastian Thrun致辞 C5:无人驾驶车的运作方式 C6:Apollo团队与架构 C7:参考车辆与硬件平台 C8:开源软件架 ...
- 编程学习笔记(第一篇)面向对象技术高级课程:绪论-软件开发方法的演化与最新趋势(1)...
软件工程的课程,对于从事大中型的软件开发是至关重要的一门课程. <面向对象技术高级课程>深入.系统.完整地讲解当今主流的面向对象软件开发方法的分析.设计.实现及重构方法,深入讲解UML语言 ...
- 写给程序员的管理入门课程 -《格鲁夫给经理人的第一课》
写给程序员的管理入门课程 -<格鲁夫给经理人的第一课> 序 格鲁夫给经理人的第一课 <格鲁夫给经理人的第一课> 最早出版于 2007 年,书原名为<High Output ...
- 程序员职场第一课 配套课程大纲 免费视频 免费PPT下载地址 包括全部21讲
分享一下我老师大神的人工智能教程!零基础,通俗易懂!http://blog.csdn.net/jiangjunshow 也欢迎大家转载本篇文章.分享知识,造福人民,实现我们中华民族伟大复兴! 以下是& ...
- 《程序员职场第一课》配套课程大纲、免费视频、免费PPT下载地址(包括全部21讲)
以下是<程序员职场第一课>21讲的详细信息,希望对大家有所帮助!谢谢! 单元名称 课程名称 相关地址 结构与内容 故事 导论 导论: 走入社会的准备 免费视频:http://t.cn/hB ...
- Linux运维工程师入门第一课-赵永刚-专题视频课程
Linux运维工程师入门第一课-75人已学习 课程介绍 本课程包含许多工作中会遇到的问题及解决方案,解决大家工作当中遇到的问题.非常适合刚刚入门的同学来学习linux基础入门. 本课程 ...
- 《程序员职场第一课》配套课程大纲、免费视频、免费PPT下载地址(包括全部21讲)...
以下是<程序员职场第一课>21讲的详细信息,希望对大家有所帮助!谢谢! 单元名称 课程名称 相关地址 结构与内容 故事 导论 导论: 走入社会的准备 免费视频:http://t.cn/hB ...
最新文章
- 打印机在计算机里被删掉,不小心把设置里打印机删掉了怎么办
- 人工智能中“图神经网络GNN”如何理解?(附斯坦福综述)
- 技术工坊|解密区块链DApp的代码逻辑,从请求到数据存储都要经历什么?(上海)...
- vue main.js 导入文件报错Module build failed: Error: No PostCSS Config found in:
- Spring Boot集成Dubbo多模块项目创建与配置
- python字符串单个替换_如何用变量替换列表中的单个字符串?
- 我用 PyTorch 复现了 LeNet-5 神经网络(自定义数据集篇)!
- [转]一步步搭建Ubuntu环境——dpkg 被中断,您必须手工运行 sudo dpkg --configure -a 解决此问题——安装Flashplayer出错 ------不错...
- 【java】高效压缩位图RoaringBitmap的原理与应用
- 今日恐慌与贪婪指数为38 恐慌程度明显上升
- Redis 那么快之底层 ziplist 的奥秘!
- mysql全局sce_cisco SCE 第二部分 SCE平台的安装配置
- 数据库并发中的串行化
- 几个不知道算不算经典的游戏
- 云计算就业方向有哪些 未来的发展前景怎么样
- CPU工作方式、多核心、超线程技术详解[转贴]
- amd cpu排行_amd cpu性能 排行榜_amd处理器性能排行
- Rancher Cluster is being upgraded
- ZoomIt使用方法
- java开发环境变量的配置
热门文章
- 数据结构学习:哈希表
- H5 六边形消除游戏开发 1
- 联想服务器重装系统u盘启动不了怎么办,联想thinkpad无法进入u盘启动怎么办?
- 请19级的童鞋们接收一下
- 深入了解PHP8 JIT(即时编译)功能
- 百度关键词排名查询源码_百度移动搜索关键词排名优化
- Java 计算日期差
- IOS版aplayer使用教程_[按键精灵手机版教程]安卓3.0按键使用教程
- 电脑浏览器一直显示邮箱服务器失败,各种PC客户端都无法连接Outlook.com邮箱
- 数学建模计算机配置,数学建模资源配置问题.doc