作者: Ann Yuan 、 Andrey Vakunov 来源:TensorFlow Bolg编译:威踢踢虹膜跟踪可广泛应用,例如用于辅助技术的免提界面以及了解用户的点击和手势以外的行为。虹膜跟踪也是一个具有挑战性的计算机视觉问题。在变化的光照条件下,眼睛经常被头发遮住,并且根据头部的旋转角度和人的表情被感知为不同的形状。现有的解决方案严重依赖于专用硬件,通常需要昂贵的耳机或远程眼动仪系统。这些方法不适用于计算资源有限的移动设备。启用眼睛重新着色的示例。3月,我们宣布发布了一个新程序包,用于检测浏览器中的面部标志。今天,我们很高兴通过TensorFlow.js人脸标志检测模型将虹膜跟踪添加到此程序包中。MediaPipe Iris模型使这项工作成为可能。我们已经弃用了原始的facemesh模型,并将在将来对人脸标志检测模型进行更新。

请注意,虹膜跟踪不会推断人们正在看的位置,也不能提供任何形式的身份识别。在模型的文档  和随附的模型卡中,我们详细描述了模型的预期用途,局限性和公平性(与Google的AI原则保持一致)。

MediaPipe虹膜模型能够使用单个RGB摄像机实时跟踪虹膜和瞳孔的界标,而无需专用硬件。该模型还返回眼睑和眉毛区域的界标,从而能够检测到轻微的眼球运动,例如眨眼。

引入@ tensorflow / face-landmarks-detection

左上方是@ tensorflow-models / facemesh @ 0.0.4的预测,右上方是@ tensorflow-models / face-landmarks-detection @ 0.0.1的预测。虹膜界标为红色。

熟悉我们现有的 facemesh 模型的用户可以升级到新的 faceLandmarksDetection 模型,并只需进行少量代码更改,下面将对此进行详细说明。faceLandmarksDetection对facemesh进行了三项重大改进:

  1. 虹膜关键点检测
  2. 改善眼睑轮廓检测
  3. 改进了对旋转脸部的检测

这些改进在上面的动图中得到了突出显示,该动图演示了faceLandmarksDetection和facemesh返回的界标在同一图像序列是如何不同的。

安装

有两种安装faceLandmarksDetection软件包的方法:

  1. 通过脚本标签:
<script src="https://cdn.jsdelivr.net/npm/@tensorflow/tfjs@2.6.0/dist/tf.js">script><script src="https://cdn.jsdelivr.net/npm/@tensorflow-models/face-landmarks-detection">script>

通过NPM(通过yarn,网址:https://yarnpkg.com/):

$ yarn add @tensorflow-models/face-landmarks-detection@0.0.1$ yarn add @tensorflow/tfjs@2.6.0

用法

安装软件包后,只需加载模型权重,然后传递图像即可开始检测面部标志:

// If you are using NPM, first require the model. If you are using script tags, you can skip this step because `faceLandmarksDetection` will already be available in the global scope.const faceLandmarksDetection = require('@tensorflow-models/face-landmarks-detection');// Load the faceLandmarksDetection model assets.const model = await faceLandmarksDetection.load(    faceLandmarksDetection.SupportedPackages.mediapipeFacemesh);// Pass in a video stream to the model to obtain an array of detected faces from the MediaPipe graph.// For Node users, the `estimateFaces` API also accepts a `tf.Tensor3D`, or an ImageData object.const video = document.querySelector("video");const faces = await model.estimateFaces({ input: video });

输入的内容estimateFaces可以是视频,静态图像,`tf.Tensor3D`,甚至是供Node.js管道中使用的ImageData对象。然后,FaceLandmarksDetection返回输入中面部的预测对象数组,其中包括有关每个面部的信息(例如,置信度得分以及该面部中478个界标的位置)。

这是一个样本预测对象:

{    faceInViewConfidence: 1,    boundingBox: {        topLeft: [232.28, 145.26], // [x, y]        bottomRight: [449.75, 308.36],    },    mesh: [        [92.07, 119.49, -17.54], // [x, y, z]        [91.97, 102.52, -30.54],        ...    ],       // x,y,z positions of each facial landmark within the input space.    scaledMesh: [          [322.32, 297.58, -17.54],        [322.18, 263.95, -30.54]    ],    // Semantic groupings of x,y,z positions.    annotations: {        silhouette: [            [326.19, 124.72, -3.82],            [351.06, 126.30, -3.00],            ...        ],        ...    }}有关API的更多详细信息, 请参阅我们的自述文件。

性能

FaceLandmarksDetection是一种轻量级的程序包,只有大约3MB,因此非常适合在各种移动设备上进行实时推理。在测试时,请注意TensorFlow.js还提供了几种不同的后端供选择,包括带有 XNNPACK的 WebGL和WebAssembly(WASM),用于具有低端GPU的设备。下表显示了程序包如何在几种不同的设备和TensorFlow.js后端上执行。桌面: 移动: 所有标准都是在Chrome浏览器中收集的。

展望未来

TensorFlow.js和MediaPipe团队都计划使用改进的虹膜界标将深度估计功能添加到我们的人脸界标检测解决方案中。我们坚信共享可实现可重复研究和快速实验的代码,并期待看到更广泛的社区如何利用MediaPipe虹膜模型。作者提供了新软件包,可以在Web浏览器中通过此链接使用:

https://storage.googleapis.com/tfjs-models/demos/face-landmarks-detection/index.html


详细解读,8000字线性代数知识点长文,带你入门深度学习/机器学习

2020-11-03

资料 | Python – 100天从新手到大师开放中,内附下载方式

2020-11-03

资源 | 《30天吃掉Tensorflow》开放下载

2020-10-23

AI研习社是AI学术青年和开发者社区,为大家提供一个顶会资讯、论文解读、数据竞赛、求职内推等的技术交流阵地,欢迎登陆www.yanxishe.com加入我们吧~

投稿、转载、媒介合作联系微信号 | bajiaojiao-sz

商务合作联系微信号 | LJ18825253481

谷歌浏览器32位安装包_谷歌团队新作!只需下载3M安装包,就能让你的手机浏览器跟踪眼球运动...相关推荐

  1. 微赞,你正在使用本地安装, 但未下载完整安装包, 请从微赞官网下载完整安装包后重试....

    你正在使用本地安装, 但未下载完整安装包, 请从微赞官网下载完整安装包后重试. 解决方法: 路径中不能中文. 转载于:https://blog.51cto.com/wutou/1736988

  2. 谷歌浏览器32位安装包_谷歌浏览器发布紧急安全更新修复Blink内核中的任意代码执行漏洞...

    上月底谷歌浏览器推送紧急安全更新对浏览器漏洞进行修复,当时谷歌浏览器博客并未公布漏洞的具体细节信息. 蓝点网当时也在文章中称通常这种不公布漏洞的更新,都是比较严重的问题因此只有等多数用户修复后才会公开 ...

  3. 谷歌浏览器32位版本安装包_Windows 10 OEM渠道告别32位版本 这意味着什么?

    本周,微软宣布,自2020年5月更新开始,Windows 10 OEM 渠道将彻底告别32位版本.在这之后,软件巨头将不再向原始设备制造商提供非64位版本的系统.对于当前仍在使用早期32-bti系统的 ...

  4. 32位汇编基础_内存_每个应用进程都会有自己独立的4GB内存空间

    1.每个应用进程都会有自己独立的4GB内存空间 这句话很多人听起来可能会很矛盾很不解. 例如,我的电脑只有2GB的内存,打开个软件机会占用4GB内存,而我的电脑内存只有2GB,显然不够用,但是为什么程 ...

  5. mysql 32位4g存储_基础 - 32位操作系统最多只支持4G内存。

    32位操作系统最多只支持4G内存. CPU能不能直接访问硬盘的数据呢, 不能. 只能通过把硬盘的数据先放到内存里, 然后再从内存里访问硬盘的数据.我们平时玩游戏碰上读图loading 进度条的这个过程 ...

  6. mysql只有32位的吗_#金鸡奖##星辰大海演员计划#32位青年演员曝光,并非只有周冬雨斩获过金马奖...

    昨日,电影频道公布了#星辰大海演员计划#,即由32位资深影人推荐了32位青年演员,并一同见证中国电影的前进. 这32位青年演员分别是:周冬雨.王俊凯.易烊千玺.刘昊然.陈飞宇.许魏洲.宋祖儿.陈学冬. ...

  7. 七日杀16.1 服务器修改器,七日杀三十二项32位修改器_七日杀 a16.1b1多功能三十二项修改器-66街机网...

    资源说明: 七日杀 a16.1b1多功能三十二项修改器32位[潇潇蓝龙],由"潇潇蓝龙"制作,一款全功能修改器,基本上是全能力开关,支持任意调整生物伤害.方块距离.生物距离.体力消 ...

  8. Oracle occi 抓包,instantclient 32下载-instantclient-basic(轻量级数据库)32位 11.2.0.4.0 官方版 - 河东下载站...

    instantclient-basic(轻量级数据库)32位是款完全免费的数据库客户端:提高这款软件,您可以不用进行安装标准的客户端,就可以支持您使用OCCI.ODBC程序等,还不要进行修改,就可以正 ...

  9. 华为emui10安装谷歌三件套_谷歌三件套小米专版2020下载-谷歌三件套一键安装小米手机下载3.0.3...

    <谷歌三件套小米专版2020>是能够一键帮助大家安装谷歌三件套的压缩包,用户下载这软件能够快速的帮助大家自动解压谷歌三件套,同时自动开启安装赶紧过来下载看看吧! 谷歌三件套小米专版2020 ...

  10. 32位md5解密_用户名与密码前后加密、后台解密实现方案

    随着https的推广,越来越多的网站转到https协议了.但是还是有不少网站没有切换到https,还是使用http.使用http协议的网站,如果没有自己做用户名.密码及敏感信息加密:网络就会明文传输这 ...

最新文章

  1. 吴恩达深度学习笔记(114)-RNN梯度消失问题详解
  2. 二十、Threaded I/O模型
  3. python3 deque(双向队列)
  4. sql跨数据库如何访问linux 下mysql_SQL跨数据库访问linux或windows的mysql和定时作业 (转)...
  5. 20应用统计考研复试要点(part8)--应用多元分析
  6. Java ByteArrayInputStream markSupported()方法与示例
  7. ZZULIOJ 1066:字符分类统计
  8. Unix 电子书大全
  9. 写一个含数字,拼音,汉字的验证码生成类
  10. Salesforce 知识点记录(JSZip在lighting中使用时遇到的坑)
  11. alpine安装curl
  12. 基于STM32的PWM电机驱动TB6612、A4950
  13. linux中yum -y install mysql为什么默认是mariadb?以及mysql yum源的配置
  14. 计算机第一级开机密码设置,电脑如何设置开机密码 电脑开机密码设置方法
  15. 内网穿透神器frp之进阶配置——stcp及p2p模式
  16. 账号密码登录和注册业务逻辑
  17. 自制Unity 色相环调色板
  18. Ubuntu中的Load/Unload Cycle Count问题及解决方案
  19. STM32学习心得:SPI-Flash-W25Q16DV
  20. 带小数的String转整数Integer

热门文章

  1. java毕业设计——基于java+JavaBean+jsp的网上零食销售系统设计与实现(毕业论文+程序源码)——网上零食销售系统
  2. 面试时,如何巧妙回答跳槽问题
  3. unity3d资源商店买的素材下载遇到问题
  4. python程序员专用壁纸_Python程序员必用的电脑桌面
  5. java8编程入门 pdf_Java8编程入门官方教程(第6版).pdf
  6. GMapping原理分析
  7. 绿盾加密导致Visual Stdio无法使用
  8. (转载)十四步实现拥有强大AI的五子棋游戏
  9. 小米随身wifi的linux驱动,小米随身wifi驱动
  10. lvgl 笔记(3)-中文字库的制作和使用(windows模拟和esp32)