2019年6月26日,谷歌对Dropout算法提出的专利申请正式生效,专利有效期为15年,2034年9月3日到期。Dropout算法最早由Hinton于2012年提出,是一种在深度学习、训练神经网络时被普遍使用的算法,可以有效解决过拟合现象,由于Dropout是人工智能最底层算法,使用范围十分广泛,此次专利申请在人工智能领域引起轩然大波。

一、背景

Dropout 算法可以有效解决深度学习中的过拟合陷阱。

Dropout最早于2012年被图灵奖获得者Hinton提出,由Alex首次用于卷积网络的图像分类。由于神经网络拟合能力过强,在实际的训练情况中极易出现“过拟合”,“过拟合”情况一旦出现会导致训练完成后的神经网络模型无法用于训练集之外的其他数据。Dropout算法的作用便是在神经网络训练过程中以一定概率丢弃部分神经元来防止“过拟合”现象,在深度学习领域中的应用极为普遍,现在主流的卷积、循环神经网络训练都会用Dropout技术作为正则化器。基于Dropout的广泛应用,Dropout的变形例如Targeted Dropout、 Sample Dropout等陆续被开发问世。

深度学习基础算法类专利凤毛麟角。

从全球范围看,深度学习专利集中在产业下游。2018年全球深度学习领域新增专利数量为7429项,虽然专利数量呈现爆发式增长,但从分布情况来看主要集中在产业中下游,即对深度学习神经网络的使用及人工智能应用模式的创新。目前,计算机视觉创新热度最高,2018年相关专利数量超过4000个,占比超过全部专利数量的一半;另外,自动驾驶和自然语言处理应用领域的专利数量也在迅速飙升。但是深度学习基础算法的专利占比较低,一是由于深度学习基础算法研发技术要求高,只有谷歌等实力强劲的科技巨头才有在深度学习上游布局的可能。二是基础算法前期研究周期太长,回报率低,许多企业不愿涉足。

谷歌历来对基础领域专利布局高度重视。

从专利数量来看,2016年至2018年谷歌总共发布专利数量为1659项,在全球企业排名中仅次于IBM和微软,位列第三位,其中以发明专利居多。谷歌善于通过基础算法进行生态构建,持续地注重基础算法专利的储备和布局,在此次对Dropout申请专利之前,谷歌已经多次对基础算法进行专利申请,如自然语言处理中的word2vec和视频压缩中的ANS等。近年来,谷歌在深度学习基础算法领域专利布局进一步深化,其专利申请相较之前呈明显增加的趋势,并在2013年呈现爆发式增长,其布局重点领域为自动驾驶汽车基础技术,如环境感知、操作控制等。谷歌在基础领域的专利布局使其得以牢牢把控产业上游“闸口”。

二、案例介绍

事件描述。2016年8月2日,谷歌对Dropout算法提出了专利申请,该项专利于2019年6月26日正式生效,专利有效期为15年,2034年9月3日到期。在专利申请的文档主体中,谷歌提供了神经网络的结构图和训练流程图,并介绍了专利申请的背景,对专利进行了简要概括,提供了专利分类,并描述了专利的实施原理。谷歌在Dropout专利申请成功后还没有后续动作,该专利目前仍然处于免费状态,但是谷歌对于业界的讨论并没有给出正面回应,深度学习开发者、AI初创企业和AI科研机构等都仍旧面临谷歌对于Dropout算法进行收费或者限制的风险。

后续发展。业界对谷歌申请Dropout专利主要存在两种意见。乐观者认为此次不是谷歌第一次进行基础算法的专利申请,并且谷歌没有对算法进行限制或者收费的先例,此次谷歌针对Dropout申请专利有较大概率是为了防止在进行技术开发中被其他公司起诉,是一种自我保护行为,谷歌不会对Dropout使用者进行限制。悲观者认为谷歌对深度学习底层算法进行专利申请,握住了整个深度学习领域的命脉,所有Dropout算法使用者都面临“卡脖子”的风险。

三、简评

我国深度学习领域以企业为主体的专利数量占比较低。

近几年,我国深度学习专利增长迅速,但是以企业为主体的专利数量较少,企业创新主体的地位没有得到充分体现。从总体构成上看,我国深度学习领域的研发力量集中于科研院所,而美国主要集中于企业。2018 年,美国以企业为申请主体的新增专利数占到其专利总申请数量的 81.5%,而我国此项比重仅为 40.8%。科研院所在深度学习领域研发创新中戏份较重体现出一定弊端,一是各个院所之间相对独立,并且科研院所研发经费相较大型企业略显窘困,导致研究力量比较分散,研发方向不够聚焦,难以真正解决基础领域重点难点问题。二是科研院所与产业、市场的应用需求衔接不足,研发创新成果难以实现真正的应用落地,研发到应用之间存在断层。

我国应当高度关注人工智能基础算法专利布局。

我国人工智能代表企业聚焦语音识别、图像识别、端到端自动驾驶系统、图像分割神经网络、视线追踪等领域开发应用产品,但是与美国科技巨头如 IBM、谷歌、微软等相比,我国在人工智能基础算法布局处于空白,在未来发展中略显乏力。此次谷歌对 Dropout 技术申请专利应当引起行业管理部门重视,鼓励企业在新兴领域原始创新上加大资金、人才等投入力度,在底层架构、基础理论等方面勇于做先行者和开拓者。同时相关企业应当增强知识产权意识,通过专利布局对未来新兴领域的产业生态构建进行超前谋划,积极在基础算法领域进行专利布局,打好行业发展根基。

来源:赛迪智库

案例:谷歌人工智能算法Dropout申请专利相关推荐

  1. Tensorflow:tf.contrib.rnn.DropoutWrapper函数(谷歌已经为Dropout申请了专利!)、MultiRNNCell函数的解读与理解

    Tensorflow:tf.contrib.rnn.DropoutWrapper函数(谷歌已经为Dropout申请了专利!).MultiRNNCell函数的解读与理解 目录 1.tf.contrib. ...

  2. 算法可以申请专利么_Ta 在假笑么?这个识别算法可以鉴定

    文章发布于公号[数智物语] (ID:decision_engine),关注公号不错过每一篇干货. 来源 | HyperAI超神经(id:HyperAI) 作者 | 神经小姐姐 场景描述:假笑可能已经成 ...

  3. 谷歌人工智能算法RankBrain运行原理解析

    本文地址:http://blog.csdn.net/shanglianlm/article/details/49678931 近日,新闻爆料说谷歌正在使用一个机器学习人工智能系统"RankB ...

  4. surf和sift算法被申请专利后部分opencv版本无法使用后的安装pycharm+opencv使用surf和sift算法教程

    安装pycharm+opencv教程使用surf和sift算法 surf和sift算法在pycharm中的问题 安装过程 使用的软件版本 安装步骤 一.pycharm的安装 二.尝试打开pycharm ...

  5. 算法可以申请专利么_国内提供计算机视觉(CV)算法岗位的公司名单

    Summary:国内提供计算机视觉(CV)算法岗位的公司名单 Author:Amusi Date:2019-09-15 微信公众号:CVerhttps://github.com/amusi/CV-Jo ...

  6. 软件算法能申请专利吗

    不能.对软件著作权的保护不延及开发软件所用的思想.处理过程.操作方法或者数学概念等. <计算机软件保护条例> 第六条 本条例对软件著作权的保护不延及开发软件所用的思想.处理过程.操作方法或 ...

  7. 在印度与软件相关的发明可不可以申请专利?

    在印度与软件相关的发明可不可以申请专利? 吴国平  北京市隆安律师事务所 事实上,这是个非常复杂的问题.即使你耐心读完本文,你会发现,你仍然无法回答这个问题.无论如何,文本将从印度专利法.印度专利局审 ...

  8. 解读谷歌的AI杀手级专利:Dropout

    谷歌的Dropout专利于2019年6月25日正式生效了. Dropout是什么?能干什么? Dropout是一种预防过拟合的神经网络训练方法.通常神经网络的最后一层是全连接层,参数非常多,容易过拟合 ...

  9. 微软发布 Azure 物联网安全中心;阿里巴巴在美申请专利,以实现跨区块链统一管理;Google利用足球训练下一代人工智能……...

    关注并标星星CSDN云计算 极客头条:速递.最新.绝对有料.这里有企业新动.这里有业界要闻,打起十二分精神,紧跟fashion你可以的! 每周三次,打卡即read 更快.更全了解泛云圈精彩news g ...

最新文章

  1. mysql 常用sql语句 简介
  2. 国内元老级病毒研究论坛发文号召会员抵制瑞星产品
  3. 关于产品 / 市场契合点 PMF 的 12 个问题全解读(下)
  4. php双向链表+性能,PHP双向链表定义与用法示例
  5. java threadlocal 并发_Java并发编程:ThreadLocal
  6. mysql动力节点老杜_【动力节点】高清MySQL视频教程
  7. 证监会行业分类代码对照表(2001+2012年)
  8. 当当图书项目首页实现
  9. cocos2dx3.17的csb文件使用方法
  10. Mplayer SMplayer 软件配置
  11. 攻壳机动队中的塔奇克马有灵魂吗?烧脑深度思考,慎点
  12. sql cast 和convert用法详解
  13. 如何辨别中标麒麟和银河麒麟
  14. java如何生成api文档_api文档自动生成工具
  15. RK3288源码编译
  16. windows getLastError 错误码大全
  17. 由于之前的错误,Context[]启动失败(SSM)
  18. 多路复用技术(频分多路复用、时分多路复用和波分多路复用)
  19. Arduino 浊度传感器 TS300B 的使用
  20. Linux操作系统应用

热门文章

  1. 关于显示webpack不是内部或外部命令问题的解决方法
  2. 江苏高等学校计算机等级考试大纲与样卷,江苏省高等学校计算机等级考试大纲(2015 年修订).pdf...
  3. 高性能迷你服务器,分享几个关于迷你电脑主机的优缺点
  4. 经营者购买餐饮商铺需要注意些什么
  5. AG9310与AG9311参数对比和方案选择方法
  6. python课程设计 文字游戏 魔塔3
  7. 如何用PS制作故障风格的海报
  8. 数控铣削图案及编程_数控铣床编程30例带图
  9. 山东省第五届省赛题C Colorful Cupcakes(五维数组+记忆化搜索)
  10. 2021RSAC -- 网络韧性