鲁大师 AIMARK 性能评测与 OpenVINO

用鲁大师对两台电脑做一个评测对比：

一台是 Intel 11 代酷睿 i7-1195G7 的组装机，

另一台是比较老的 HP OMEN 17 游戏本，作为对比：

Intel 11 代酷睿 i7-1195G7 在 OpenVINO 2022.1 下做 AI 推理性能：

小结

我们常常用鲁大师来测试电脑的CPU、GPU、内存、硬盘的性能，排排名次，看看自己的电脑性能怎么样。这两天安装了鲁大师 6.1 版，发现多了一项测试，AIMARK 性能评测，分别对 CPU 和 GPU 做了评测，可以根据评分，来比较电脑的 AI 性能。

测试使用四个模型，包括：SSD、Inception V3、ResNet-34 和 Deeplab，这背后有 Intel 的 OpenVINO 的影子，同一个模型可以用于 CPU 和 GPU。

用于 AIMARK 测试的四个 AI 模型：

具体的评分标准我们不必关心，但分数可以作为一个参考，来评价自己的电脑做 AI 性能如何。

用鲁大师对两台电脑做一个评测对比：

一台是 Intel 11 代酷睿 i7-1195G7 的组装机，

有一条 EOX 16GB DDR4 2666MHz 内存，西数的 WDC PC SN520 SDAPNUW-256G-1202 SSD 硬盘，

AIMARK 的测试，是以华为 Mate30 手机作为参照单位的。

酷睿 i7-1195G7 单独 CPU 或者 GPU 的 AI 能力，竟然比不过华为 Mate30 手机，可见华为麒麟 990 的强悍！

（这个测试结果可能有些出入，跟我测试用这个组装机的单通道内存和主板有较大关系，有条件的同学可以贴一下双通道的结果。）

这是AI-Benchmark 2019 年 10 月的一篇文章的评测AI-Benchmark 结果：

散热压力测试 10 分钟温度曲线：

另一台是比较老的 HP OMEN 17 游戏本，作为对比：

游戏本有两条海力士 DDR4 2400MHz 8GB内存，双通道的性能比单通道的要好，所以内存的分数比第一台分数高。

Intel 11 代酷睿 i7-1195G7 在 OpenVINO 2022.1 下做 AI 推理性能：

鲁大师给出的 AIMARK 分数不是很直观，所以我使用 OpenVINO 2022.1 版本，使用两种常见的SSD_mobilenet 模型，在 Intel 11 代酷睿 i7-1195G7 上分别对其 CPU、GPU 做推理测试，并与 Intel 的计算棒 NCS2 (MYRIAD) 做对比，得到结果如下：

而车牌识别与车的属性识别，CPU 与 GPU 取得了相近的 73.5FPS 的结果，作为对比，Intel 计算棒 NCS2 的结果是 16.2 FPS。

[ INFO ]        Device: CPU
[ INFO ] Metrics report:
[ INFO ]        Latency: 13.6 ms
[ INFO ]        FPS: 73.5

[ INFO ]        Device: GPU
[ INFO ] Metrics report:
[ INFO ]        Latency: 13.6 ms
[ INFO ]        FPS: 73.6

小结

在这个 AI 飞速发展的时代，连鲁大师也与时俱进，推出了 AIMARK 来对 AI 性能做评测。

作为传统 CPU 的老大，Intel 自然也不甘落后，面对 Nvidia 的 GPU 及各种 NPU 构架的 AI 芯片的剧压，Intel 在硬件上从核显的 GPU，到现在的独立 GPU，一改原来挤牙膏的作风，努力做着改变；软件上也不断完善作为 AI 推理部署构架的 OpenVINO ，从独立软件安装包，到融入PIP 和 Conda 安装，从新版本直接支持百度的 PaddlePaddle 模型，也可以看出其诚意。

令人感慨：

打败你的，也许不是同行，是跨界！

老徐 2022/ 4/ 9