如今说到体感游戏,大家一定都不陌生,比如微软的 Kinect、任天堂的 Switch,都曾是游戏业的革命性产品。而另一款网红产品—抖音,也在去年底上线过一个“尬舞机”的音乐体感游戏(现在成了隐藏功能):

游戏开始后,随着音乐会给出不同的动作提示,用户按照提示摆出正确动作即可得分。援引官方说法,“尬舞机”主要应用了今日头条 AI Lab 自主开发的“人体关键点检测技术”,依靠这项技术,抖音能够检测到图像中所包含人体的各个关键点的位置,从而实现从用户姿态到目标姿态的准确匹配。

以上这些体感游戏,都牵涉到计算机视觉中的一个细分领域: 人体姿态估计(pose estimation) ,即识别图像中的人体关键点(人体上有一定自由度的关节,如头、颈、肩、肘、腕、腰、膝、踝等)并正确的联系起来,通过对人体关键点在三维空间相对位置的计算,来估计人体当前的姿态。

人体姿态估计有不少难点,比如:如何从图片中区分出人和背景;如何定位人体的关键点;如何根据二维的关键点坐标计算出三维中的姿态;如何处理四肢交叉或遮挡的情况;如何定位多人;如何提升计算速度等等。而相关技术在游戏、安防、人机交互、行为分析等方面都有应用前景。因此,这是计算机视觉甚至人工智能领域中极具挑战的一个课题。(小声说句,我的硕士毕业论文就是这个方向)

不过,因为前人的贡献,现在你只需通过少量的 Python 代码,也可以实现从照片或视频中进行人体姿态估计。这都要仰赖于 CMU 的开源项目: Openpose

OpenPose 是基于卷积神经网络和监督学习并以 caffe 为框架写成的开源库,可以实现人的面部表情、躯干和四肢甚至手指的跟踪,适用多人且具有较好的鲁棒性。是世界上第一个基于深度学习的实时多人二维姿态估计,为机器理解人类提供了一个高质量的信息维度。
其理论基础来自《Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields》,是 CVPR 2017 的一篇论文,作者是来自 CMU 感知计算实验室的曹哲、Tomas Simon、Shih-En Wei、Yaser Sheikh。
项目地址: https://github.com/ZheC/Realtime_Multi-Person_Pose_Estimation
(摘自网络)

论文演示效果:

此方法可以达到对视频流的实时多人检测。要知道,Kinect 可是加了一个额外的红外深度摄像头才做到如此准确地识别(还不能是这么多人)。

详细的原理,我在这里就不冒充大牛强行解释了。但通俗地说几点,为什么 Openpose 有如此突破性地效果:

  1. 以往的识别思路是自上而下:先找人,找到人了再进一步区分身体不同部分。Openpose 则是自下而上: 先找手脚关节等特征部位,再组合人体
  2. Openpose 团队将 人脸识别手部识别 的已有成果整合到了姿态识别中,取得了更好的效果;
  3. 有了 大数据 的支持,这是过去的研究所没有的。看看这个 CMU 为采集人体数据所搭建的设备,你就会有所体会:

之前的文章 Python+OpenCV 十几行代码模仿世界名画 中,我们提到 OpenCV-Python 在 3.3 版本中加入了 深度神经网络(DNN) 的支持。同样在项目 Samples 中,提供 Openpose 的一个 Python 简单实现版本。(只支持图像中有单个人)

官方代码:

https://github.com/opencv/opencv/blob/master/samples/dnn/openpose.py

使用方法,命令行进入代码所在目录执行:

python openpose.py --model pose.caffemodel --proto pose.prototxt --dataset MPI

--model 参数和 --proto 参数分别是预先训练好的人体姿态模型和配置文件。因为模型文件很大,并不包括在 OpenCV 代码库中,可以在 Openpose 项目(https://github.com/CMU-Perceptual-Computing-Lab/openpose )找到下载地址。

另外可以通过 --input 参数指定识别的图片或视频地址,默认则使用摄像头实时采集。

执行后效果:

核心代码:

net = cv.dnn.readNetFromCaffe(args.proto, args.model)
inp = cv.dnn.blobFromImage(frame, 1.0 / 255, (inWidth, inHeight), (0, 0, 0), swapRB=False, crop=False)
net.setInput(inp)
out = net.forward()

和之前 fast-neural-style 的代码类似,大部分的工作都是 Openpose 做好的,OpenCV 这里只是使用训练好的神经网络进行计算。所以核心代码其实没有几行,而且跟上次的例子几乎一致。剩下一半的代码都是在把获取到的关键点坐标绘制成人体的骨架结构。

这里顺带提醒一下,我发现代码中的一个断言 assert(len(BODY_PARTS) == out.shape[1]) 无法满足,会导致程序终止。如果出现这样的问题,就把这句注释掉,并不会对结果有影响。

拿到人体关键点数据后,我们就可以做进一步的判断。比如我们加一个很简单的判断:

neck = points[BODY_PARTS['Neck']]
left_wrist = points[BODY_PARTS['LWrist']]
right_wrist = points[BODY_PARTS['RWrist']]
print(neck, left_wrist, right_wrist)if neck and left_wrist and right_wrist and left_wrist[1] < neck[1] and right_wrist[1] < neck[1]:cv.putText(frame, 'HANDS UP!', (10, 100), cv.FONT_HERSHEY_SIMPLEX, 2, (0, 255, 0), 2)

如果左手腕和右手腕的高度都超过脖子的高度,就认为是一个抬手的动作,在屏幕上输出“ HANDS UP! ”。注意在 OpenCV 坐标系里,图像的坐标原点是左上角。

效果:

如此,一个简单的动作识别程序就有了。虽然很粗糙,但已经可以附加在很多应用上,比如:商场、科技馆里的互动游戏、交互式的视觉艺术作品等等。感兴趣的同学不妨亲自试一试,期待看到你们借此做出更有意思的项目。

python openpose相关推荐

  1. 用 Python+openpose 实现抖音尬舞机

    游戏开始后,随着音乐会给出不同的动作提示,用户按照提示摆出正确动作即可得分.援引官方说法,"尬舞机"主要应用了今日头条 AI Lab 自主开发的"人体关键点检测技术&qu ...

  2. opencv+python+OpenPose姿态实时识别

    opencv+python+OpenPose 姿态实时识别 1.姿态识别 标记 颈.肩.肘.腕.腰.膝.踝 等特征点进行姿态识别,这些关节都有一定程度的自由度. 2.OPenPose OpenPose ...

  3. 解决python openpose导入自己项目后,运行出现No module named pyopenpose的问题

    问题描述: openpose编译完成后,如果直接使用pycharm打开openpose\build\examples\tutorial_api_python创建项目运行的话,不会出错.但是当移动ope ...

  4. 用 Python+openpose 实现抖音尬舞机 1

    如今说到体感游戏,大家一定都不陌生,比如微软的 Kinect.任天堂的 Switch,都曾是游戏业的革命性产品.而另一款网红产品-抖音,也在去年底上线过一个"尬舞机"的音乐体感游戏 ...

  5. 解决python运行openpose找不到模块的bug

    Error: OpenPose library could not be found. Did you enable BUILD_PYTHON in CMake and have this Pytho ...

  6. OpenPose Python API调用:ImportError: cannot import name 'pyopenpose' from 'openpose'

    OpenPose Python API 调用方法 cmake-gui选项中勾选BUILD_PYTHON选项 cd build sudo make -j'' sudo make install cd ~ ...

  7. python利器怎么编程-OpenCV-Python,计算机视觉开发利器

    人工智能 ,一个已经被谈论了几十年的概念(最早是 图灵 在 1950年 提出).如今这几年,相关技术的发展速度是越来越快.高大上如无人驾驶.智能安防.AI辅助诊断,接地气如刷脸支付.内容推荐.自动翻译 ...

  8. 抖音是用python写的吗_用 Python 实现抖音尬舞机

    原标题:用 Python 实现抖音尬舞机 如今说到体感游戏,大家一定都不陌生,比如微软的 Kinect.任天堂的 Switch,都曾是游戏业的革命性产品.而另一款网红产品-抖音,也在去年底上线过一个& ...

  9. ImportError: cannot import name 'pyopenpose' from 'openpose'错误解决方法

    前提条件:openpose1.5配置过程前面都成功,c++ api成功运行,但是python api配置中,cmake也添加了build_python_path.运行中仍出现 ImportError: ...

  10. ST-GCN源码运行完整版(含OpenPose编译安装)及常见问题

    ST-GCN源码运行完整版(含OpenPose编译安装) -------本文仅为学习笔记,不做任何商业用途------- 下述相关工具包下载链接ST-GCN所需工具,提取码ze36 一.准备工作 1. ...

最新文章

  1. 中国科协发布20个重大科学问题和工程技术难题
  2. BZOJ3566 SHOI2014概率充电器(动态规划+概率期望)
  3. 机器学习应用方向(一)~英文姓名消歧(name disambiguation)
  4. Windows 动态链接库DLL浅解
  5. 神奇的bibtex插件:你的论文文献小助手
  6. PyCharm出现module ‘matplotlib’ has no attribute ‘verbose问题
  7. 混淆矩阵怎么看_道理我都懂,但是神经网络反向传播时的梯度到底怎么求?
  8. BZOJ 3456: 城市规划(dp+多项式求逆)
  9. 解决 mcrypt.h not found
  10. easyui源码翻译1.32--LinkButton(按钮)
  11. 解决Ubuntu显卡驱动的问题
  12. 给《人人都是产品经理》的一封信
  13. 无线通信中多径传播包络服从瑞利衰落衰落MATLAB仿真
  14. RTOS中的任务句柄到底是什么意思?
  15. 推荐几个高质量的软件测试实战项目
  16. 颈椎前路caspar撑开器_Mobi-C人工颈椎间盘在颈前路手术的临床应用
  17. windows系统漏洞修复CVE-2016-2183,CVE-2013-2566,CVE-2015-2808
  18. Java面向对象的知识(二)
  19. sql server 2012 “远程过程调用失败”【0x800706be】
  20. 微信小程序定制价格多少钱

热门文章

  1. 汽车抛负载7637-5A/5B测试介绍
  2. 用AS3编写的具有将多段视频连起来播放的 flash视频播放器---003
  3. coreos mysql_Fedora CoreOS 介绍
  4. 有手就行:零基础渗透网站步骤
  5. 科技文献检索课题 计算机,科技文献检索完整作业
  6. Win11截图键无法使用怎么办?Win11截图键无法使用的解决方法
  7. MyEclipse 8.5可用的序列号
  8. 2022精选最新金融银行面试真题——附带答案
  9. 斐讯N1刷无线打印服务器,斐讯N1刷armbian制作cups打印服务器支持airprint不使用foo2zjs|hp1020...
  10. FPGA——基于Verilog HDL语言的交通信号灯控制系统