一、Traditional Computer Vision & Tools & Libraries

目前,许多平台和操作系统都支持OpenVINO的运行,并将继续扩大支持范围,支持即将推出的Inter集成显卡以及其他智能硬件。

我们可以看见,OpenVINO工具套件包括最新的最优化的OpenCV*、OpenVX*版本,以及加速视频编程和解码的Media SDK,目前Media SDK正在向Open VPL迁移。值得一提的是,之后FPGA的软件包只会根据需求直接提供,将会从正式版本中逐步分离出来。

二、Deep Learning

OpenVINO里面最重要的部分深度学习部署工具套件(Deep Learning Deployment Toolkit,DLDT)用于深度学习的推理加速,作为模型优化器和推理引擎工具套件的核心,务必掌握其使用方法。其中,模型优化器是推理之前对模型进行预处理的工具,模型优化器会输出基于原始生成的深度学习模型的IR文件,该文件仅能在OpenVINO中使用,而推理引擎可以使用IR文件,在编写的应用中执行深度学习推理请求,IR文件实际上是两个文件,包括xml文件(用于描述网络结构)和bin文件(存储模型参数权重)。

通过模型优化器可以支持各种框架下的模型,包括TensorFlow、Caffe、mxnet、ONNX等。值得一提的是,从2024版本开始,推理引擎可以不通过模型优化器转换,直接读取原生ONNX模型。推理引擎可以使用已经转换好的IR文件,并且对于相同模型只需要一套代码,推理引擎就可以部署在多种设备,如Inter CPU,灵动、酷睿或至强、Inter集成式GPU、Videos、VPU和FPGA进行推理。

使用模型优化器转换是一个离线流程,对于一个模型只需要执行一次,只需要花费几秒钟,一旦有IR文件,推理引擎可以反复使用进行推理。

1、OpenVINO整体流程

2、Open Model Zoo

Open Model Zoo提供很多直接可以使用的模型,包括检测、分类、分割、重新识别、2D、3D、音频、视频、NLP等。

3、性能测试Benchmark工具

包括Benchmark app、Accuracy Checker、Model Analyzer等。

4、其他工具

包括DL Streamer(使用少量代码构建视频分析流程)、OVMS(OpenVINO模型服务器提供推理服务器的全部资料,运行到本地或云端)、训练拓展工具、DL WorkBench(一款可视化的基于Docker的BenchMark工具)。

OpenVINO工具套件高级课程第一课:如何充分使用OpenVINO工具套件?相关推荐

  1. 英特尔OpenVINO工具套件高级课程实验操作记录与学习总结

    英特尔OpenVINO工具套件高级课程&实验操作记录与学习总结 实验机器环境部分信息: dc2-user@10-0-255-63:~$ lsb_release -a No LSB module ...

  2. 华为Cloud Native Lives课程第一课-云原生技术的前世今生

    经过十多年的发展,云计算技术已由Cloud Migration阶段发展到了Cloud Native阶段,即云原生. 云原生阶段的代表技术有容器.服务网络.微服务.不可变基础设施和声明式API. CNC ...

  3. 学习心得:Apollo无人驾驶汽车入门课程——第一课:无人驾驶概览

    目录 C1:概述 C2:学习内容 C3:什么是无人驾驶? C4:Sebastian Thrun致辞 C5:无人驾驶车的运作方式 C6:Apollo团队与架构 C7:参考车辆与硬件平台 C8:开源软件架 ...

  4. 编程学习笔记(第一篇)面向对象技术高级课程:绪论-软件开发方法的演化与最新趋势(1)...

    软件工程的课程,对于从事大中型的软件开发是至关重要的一门课程. <面向对象技术高级课程>深入.系统.完整地讲解当今主流的面向对象软件开发方法的分析.设计.实现及重构方法,深入讲解UML语言 ...

  5. 写给程序员的管理入门课程 -《格鲁夫给经理人的第一课》

    写给程序员的管理入门课程 -<格鲁夫给经理人的第一课> 序 格鲁夫给经理人的第一课 <格鲁夫给经理人的第一课> 最早出版于 2007 年,书原名为<High Output ...

  6. 程序员职场第一课 配套课程大纲 免费视频 免费PPT下载地址 包括全部21讲

    分享一下我老师大神的人工智能教程!零基础,通俗易懂!http://blog.csdn.net/jiangjunshow 也欢迎大家转载本篇文章.分享知识,造福人民,实现我们中华民族伟大复兴! 以下是& ...

  7. 《程序员职场第一课》配套课程大纲、免费视频、免费PPT下载地址(包括全部21讲)

    以下是<程序员职场第一课>21讲的详细信息,希望对大家有所帮助!谢谢! 单元名称 课程名称 相关地址 结构与内容 故事 导论 导论: 走入社会的准备 免费视频:http://t.cn/hB ...

  8. Linux运维工程师入门第一课-赵永刚-专题视频课程

    Linux运维工程师入门第一课-75人已学习 课程介绍         本课程包含许多工作中会遇到的问题及解决方案,解决大家工作当中遇到的问题.非常适合刚刚入门的同学来学习linux基础入门. 本课程 ...

  9. 《程序员职场第一课》配套课程大纲、免费视频、免费PPT下载地址(包括全部21讲)...

    以下是<程序员职场第一课>21讲的详细信息,希望对大家有所帮助!谢谢! 单元名称 课程名称 相关地址 结构与内容 故事 导论 导论: 走入社会的准备 免费视频:http://t.cn/hB ...

最新文章

  1. 打印机在计算机里被删掉,不小心把设置里打印机删掉了怎么办
  2. 人工智能中“图神经网络GNN”如何理解?(附斯坦福综述)
  3. 技术工坊|解密区块链DApp的代码逻辑,从请求到数据存储都要经历什么?(上海)...
  4. vue main.js 导入文件报错Module build failed: Error: No PostCSS Config found in:
  5. Spring Boot集成Dubbo多模块项目创建与配置
  6. python字符串单个替换_如何用变量替换列表中的单个字符串?
  7. 我用 PyTorch 复现了 LeNet-5 神经网络(自定义数据集篇)!
  8. [转]一步步搭建Ubuntu环境——dpkg 被中断,您必须手工运行 sudo dpkg --configure -a 解决此问题——安装Flashplayer出错 ------不错...
  9. 【java】高效压缩位图RoaringBitmap的原理与应用
  10. 今日恐慌与贪婪指数为38 恐慌程度明显上升
  11. Redis 那么快之底层 ziplist 的奥秘!
  12. mysql全局sce_cisco SCE 第二部分 SCE平台的安装配置
  13. 数据库并发中的串行化
  14. 几个不知道算不算经典的游戏
  15. 云计算就业方向有哪些 未来的发展前景怎么样
  16. CPU工作方式、多核心、超线程技术详解[转贴]
  17. amd cpu排行_amd cpu性能 排行榜_amd处理器性能排行
  18. Rancher Cluster is being upgraded
  19. ZoomIt使用方法
  20. java开发环境变量的配置

热门文章

  1. 数据结构学习:哈希表
  2. H5 六边形消除游戏开发 1
  3. 联想服务器重装系统u盘启动不了怎么办,联想thinkpad无法进入u盘启动怎么办?
  4. 请19级的童鞋们接收一下
  5. 深入了解PHP8 JIT(即时编译)功能
  6. 百度关键词排名查询源码_百度移动搜索关键词排名优化
  7. Java 计算日期差
  8. IOS版aplayer使用教程_[按键精灵手机版教程]安卓3.0按键使用教程
  9. 电脑浏览器一直显示邮箱服务器失败,各种PC客户端都无法连接Outlook.com邮箱
  10. 数学建模计算机配置,数学建模资源配置问题.doc