全民讨伐 Google AI “作恶”项目
点击上方“CSDN”,选择“置顶公众号”
关键时刻,第一时间送达!
内部员工的严重抗议,终于让谷歌在 AI 武器化的道路上悬崖勒马了。
作者 | 郭芮
责编 | 唐小引
近日,据纽约时报、路透社等外媒报道,此前因不满公司与美国五角大楼合作的 Maven 项目,谷歌大量员工提出了抗议和辞职。为此,谷歌方面最新表示,将制定指导其参与军事项目的道德政策,并明确禁止 AI 武器化。预计在未来几周内,谷歌就将正式发布新的准则。
至此,长达八个月的反对 AI 军事化“抗争”终于落下了帷幕。
但员工们的最终胜利却并没有轻描淡写的几句话这么简单。事实上,从去年的 9 月份开始,公司内部甚至外部就一直有反对的声音不断传出,终于在项目还未正式落地的现在被成功叫停。
李飞飞:“任何 AI 武器化的项目,都是违背我的原则的”
2017 年 8月,美国国防部长 Jim Mattis 到硅谷访问谷歌高层。次月,谷歌有史以来第一份与五角大楼的 AI 合同出现——几名谷歌高管讨论这份合同的可行性,其中就包括谷歌云首席科学家李飞飞。
据《纽约时报》报道,当紧张的谷歌高层讨论如何对外公布这个与五角大楼的 AI 合作契约时,李飞飞强烈建议回避“AI”这个词,她担心此事可能会造成一场骚乱。“我不知道如果媒体开始错误报道谷歌正在秘密制造人工智能武器或人工智能技术来为国防工业提供武器,会产生什么后果。”此外,在写给同事的邮件中她也提到:“AI 武器可能是 AI 技术中最敏感的话题之一,媒体可能会对此大做文章,从而对谷歌风评不利。”
李飞飞并不赞同将 AI 用于军事上,“我相信以人为中心的 AI 能以积极、善意的方式造福人类。任何 AI 武器化的项目,都是违背我的原则的。”
此外,也有一些高层坚持反对意见。比如谷歌 DeepMind 的一名高管就明确表示反对谷歌参与军事项目和监督任务,并对与国防部的合作提出了抗议。其实在 DeepMind 被谷歌收购之初,双方的协议中就表示 DeepMind 的技术将永远不会被用于军事或监控用途。
此时,谷歌还没对外公布 Maven 项目,只在内部高层引发了热议。
员工抗议升级,高管“充耳不闻”
但是不出预料的是,李飞飞的担忧还是成真了。
消息是从谷歌内部的交流平台泄露的。这导致的最直接后果就是引发了巨大轰动的内部员工“联名上书”事件——3 月份时,谷歌 3000 多名员工联名上书,强烈抵制谷歌与五角大楼的合作。
但是,员工的不满并没能阻碍公司的计划。谷歌内部发言人只是反复保证,“(我们的技术)仅供人类审查,不会存在侵犯隐私性的使用”。此番毫不负责的言论员工们并不买单。次月,事件进一步发酵。
据外媒 Gizmodo 报道,截止 5 月有近 4 千名员工向公司呈交了书面请愿书,希望谷歌立即取消该项目,并建立“未来不与军方掺和”的规定。此外还有十几名谷歌员工集体请辞,以抗议公司继续参与军方的 Maven 项目。
与此同时,国际机器人武器控制委员会(ICRAC)也向 Alphabet CEO 拉里·佩奇、谷歌 CEO Pichai、谷歌云 CEO Diane Greene 和谷歌云首席科学家李飞飞发出公开信,呼吁谷歌退出军方项目,承诺不将其技术武器化。
如上图所示,为公开信上的部分学者名单。其中的两位发起人 Peter Asaro 和 Lucy Suchman 已经在联合国面前听证了自动武器报告,第三位发起人 Lilly Irani 是位科学教授,同时也是谷歌前雇员。
支持还是反对?谷歌 CEO Pichai 正面回应
而且,Maven 项目也与谷歌一贯的“不作恶”原则严重矛盾。步步紧逼之下,为了摆脱“道德的枷锁”,5 月份,在最新修改的行为准则中,谷歌还悄悄地将“不作恶“原则调整到了最后。
在修改准则的整个期间,关于支持还是反对 Maven 的讨论也一直不断。
比如,一位(目前已)辞职的工程师将谷歌一个会议室更名为克拉拉·伊墨瓦尔(为抗议将科学用于战争在 1915 年自杀的德国化学家);负责谷歌 AI 研究的杰夫·迪安在反对将机器学习用于自动武器的公开信上签名;谷歌云的 CEO 戴安娜·格林与谷歌创始人塞尔盖·布林举办了圆桌会议,讨论谷歌参与 Maven 项目的性质和使用 AI 的道德问题;谷歌副总裁和著名的前国防部研究员温特·瑟夫、谷歌 AI 研究员梅雷迪斯·惠塔克向全球谷歌职员直播讨论情况......在以谷歌员工及学者为代表的反对派和以谷歌部分高管为代表的支持派僵持不下之时,谷歌云 CEO Diane Greene 出面了。
据《纽约时报》报道,Greene 表示,这个项目没有杀人目的,并且规模很小,交易金额仅为 900 万美元。外媒 Defense One 也报道过,去年,美国国防部对 Maven 预算的资金规模为 7000 万美元,谷歌手持的 900 万占比 12.8%。谷歌 2017 年财报也显示,去年,谷歌总营收为 319.14 亿美元,单看交易金额,Maven 仅仅只占去年谷歌营收的 0.28%。
但 Greene 的澄清并没有止住谷歌群众的愤怒,各种反对的声音仍日趋高涨。因此在上周四的谷歌全员会议上,谷歌 CEO Pichai 直接正面表示,公司考虑了职员意见,将会提出新的“经得住时间考验”的准则,作为谷歌在国防和情报承包等事项的行动指南。
这场“胜利”可以说是来得十分突然。
写在最后
从“棱镜门”事件到 Facebook “数据泄露门”,再到如今的谷歌“军事门”——科技与军事政府的界限一直是群众们极为敏感的话题。
谷歌此次的“AI 武器化”事件只是其中的一个缩影。注重个人隐私安全的网民们,和亟需掌握技术利益的第三方,此间的矛盾必定是难以调和的。
从长远角度来看,AI 的快速发展下其应用场景只会越来越为广泛,军事化应用似乎也是可以预料的——但是此次谷歌的妥协,还是表明了想要获取用户利益者的同意,还有很长很长的一段路要走。
征稿啦!
CSDN 公众号秉持着「与千万技术人共成长」理念,不仅以「极客头条」、「畅言」栏目在第一时间以技术人的独特视角描述技术人关心的行业焦点事件,更有「技术头条」专栏,深度解读行业内的热门技术与场景应用,让所有的开发者紧跟技术潮流,保持警醒的技术嗅觉,对行业趋势、技术有更为全面的认知。
如果你有优质的文章,或是行业热点事件、技术趋势的真知灼见,或是深度的应用实践、场景方案等的新见解,欢迎联系 CSDN 投稿,联系方式:微信(guorui_1118,请备注投稿+姓名+公司职位),邮箱(guorui@csdn.net)。
————— 推荐阅读 —————
点击图片即可阅读
全民讨伐 Google AI “作恶”项目相关推荐
- Google AI 教育项目今起免费开放,支持中文
3月的第一天,谷歌就为各级别的AI开发者和研究人员带来了福利:免费的机器学习和人工智能课程.首先推出的机器学习速成班课程约为15小时,包括互动课程.谷歌研究人 新智元报道 作者:马文.克雷格 [新智元 ...
- Google AI “作恶”,4000 员工抗议,十余人失望辞职!
点击上方"CSDN",选择"置顶公众号" 关键时刻,第一时间送达! 号称"不作恶"的谷歌还是"破戒"了!这次引发了员工的 ...
- 讨伐 Google!为什么建智能城市要毫无隐私?| 极客头条
[CSDN 编者按]未来势必会是物联网.AI.云计算与大数据相结合的高科技时代,然而这一天到来之前,不少人在畅想这座「未来之城」时,依然会觉得有些不可思议,同时也对自己的隐私也表示深深地担忧. 日前, ...
- 3个可以写进简历的京东AI NLP项目实战,走完这五步就是Top算法工程师
允中 发自 凹非寺 量子位 编辑 | 公众号 QbitAI 如何入门NLP?如何在实际案例中应用理论知识?如何成为行业Top10%的NLP工程师?如何规划AI工程师职业发展,一线AI公司有哪些项目? ...
- Google AI 碾压集成电路设计专家,ASIC智能设计时代来了!
今年的集成固态电路会议(ISSCC)的主题是"为AI时代提供动力的集成电路",而开幕全体会议的目的是描绘AI"折叠"半导体空间的程度. Google AI 负责 ...
- Rust 升级成微软第一梯队语言;“熊孩子”乱敲键盘攻破 Linux 桌面;500 个值得学习的 AI 开源项目| 开发者周刊...
整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) CSDN开发者周刊:只为传递"有趣/有用"的开发者内容! 本周热门项目 0.Rust 升级成为微软一级项目 2015 ...
- 李飞飞重返祖国执掌Google AI中国团队:不忘初心,中国已觉醒
李根 假装发自 上海 量子位 出品 | 公众号 QbitAI 刚刚在上海,李飞飞正式宣布了一个激动人心的消息. 首先是Google AI中国中心正式成立. 其次,李飞飞这位享誉全球的AI学者.Goog ...
- 【周刊】“熊孩子”乱敲键盘攻破 Linux 桌面;500 个值得学习的 AI 开源项目;Rust 升级成为微软一级项目...
整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) CSDN开发者周刊:只为传递"有趣/有用"的开发者内容! 本周热门项目 0.Rust 升级成为微软一级项目 2015 ...
- Google 开源的项目集合
原链接 文为大家整理了 Google 开源的项目,看看有没有感兴趣的,排名顺序按照 Github ★Star 数排列. 0.机器学习系统 TensorFlow★Star 62533 TensorFlo ...
最新文章
- 如何创建计算机视觉场景训练数据
- 今天谈一谈python自动化测试中使用异步
- 重磅发布: 阿里云WAF日志实时分析上线 (含视频)
- 路由网址这是mvc时代系列之三:网络路由与ASP.NET MVC生命周期(上)路由网址
- vue子组件调用父组件内的方法
- POJ 3069 Saruman's Army(贪心)
- 随想录(形式化验证小结)
- 盘点国内外私募基金业绩报酬计提方式
- 乌班图服务器系统网卡驱动,Linux_Ubuntu系统无法衔接网络 该怎样安装无线网卡驱动?,ubuntu已经很好的兼容了主流的 - phpStudy...
- 数字阵列麦克风处理技术概述
- 基于感知器准则的线性分类器设计
- 【无标题】2023速卖通开店教程,入驻图文讲解!
- VUE+ECharts 制作饼图
- 社群裂变营销“肩负”着公司百分之九十的流量
- Nginx反向代理服务器高速缓存数据结构的部分实现
- Feedforward ANC 主动降噪原理
- 电子狗产品在做宣传时发布图文笔记应该注意些什么?
- Day651.NoSQL与RDBMS合理搭配问题 -Java业务开发常见错误
- hackerrank - Basic Join - Challenges
- 3D建模师入行之初,就业是角色建模好还是场景建模好?
热门文章
- redis 3.0.0 linux下载,CentOS7安装配置redis-3.0.0
- leetcode题库6-- Z 字形变换
- 《统计学习方法》—— 逻辑斯谛回归 与 最大熵模型 的介绍以及详细推导
- 关于拷贝常规数组、std::array和std::vector速度的一些测试
- 中国天花灯市场趋势报告、技术动态创新及市场预测
- Qt C++连接MySQL教程,解决QSqlDatabase:QMySQL driver not loaded
- 同为开发:有了分布式/高并发等这些Java项目经历,面大厂稳了!
- 总结了12个Numpy高级函数,完美解决数据处理,拿来即用!
- Linux 下杀毒软件 CPU 占用率为何持续升高
- 苹果公司支付1.13亿美元和解“降速门”指控;三大运营商或于年底联合宣布5G消息商用;DBeaver 7.2.5 发布|极客头条...