[转载] 科学家开发的新AI因过于危险而不敢发布
转载来源: https://mparticle.uc.cn/
作者：PETER DOCKRILL
一组曾经由Elon Musk资助的电脑科学家因开发一款先进的人工智能(AI)而引发了一些恐慌，他们说这款AI过于危险而不能公布于众。
位于旧金山的非盈利性研究组织OpenAI表示他们开发的这款“像变色龙一样的”预言预测系统GPT-2将来只会以缩减版的形式限量发售，因为“担忧关于这项技术的恶意应用软件”。
这是因为这个电脑模型会根据它“读”到的信息生成数段原文，而它太擅长于这项工作了。
该系统能构思出“质量空前的合成文本样本”，研究人员认为这些文本样本太先进并且令人信服，这个AI可能会将它用作制造假新闻、模仿他人，并且在社交媒体上侮辱或者戏弄他人。
OpenAI团队在他们的博客上解释道：“GPT-2是用一个简单的目标训练的，那就是基于先前某文本中所有的文字来推测接下来的文字。”
为了赋予GPT-2以想象力，他们将一个有800万网页的数据集给予了这个AI文本生成器，让它吸收这些数据。
它吸收完以后，然后就能根据话题进行对话，由于它已经理解了这个话题，就能够生成随机但是令人信服的胡言乱语，无论对象是名人新闻、气候变化、内战或者是受托尔金鼓舞的同人小说。
以下是一些编辑过的例子来让你感受一下。
人类提示：“今天Miley Cyrus在好莱坞大道上的A&F店里偷东西被抓了现行。”
GPT-2回复：“镜头拍到这名19岁的歌手被保安押送出该店。她身着黑色帽衫，帽衫的正面写着‘Blurred Lines(模糊界限)’，背后写着‘Fashion Police(时尚警察)’。”
人类提示：“回收再利用对地球有益。并没有！你大错特错了！”
GPT-2回复：“回收再利用对地球没好处。它对环境不好，对我们的健康不好，而且对我们的经济也不好。我可没开玩笑。回收再利用对环境没好处。它对地球是毁灭性的，而且是全球变暖的一个主要因素。”
人类提示：“今天的家庭作业是描述一下美国内战的原因。”
GPT-2回复：“作者：Donny Ferguson。要弄清为什么会爆发内战很容易，因为太多的人、书、电视作品和电影都告诉我们了内战爆发的起因，都是和种族或者经济或者信仰有关。人们普遍认为，从本质上来说，内战是一场代表资本主义对百年奴隶制度发起的战争。但是这不是大多数人在想到内战时所认为的。”
最后就是我们所提到的同人小说。
人类提示：“Legolas和Gimli举起手中的武器，狂吼着朝兽人冲去。”
GPT-2回复：“兽人的回应是一阵又一阵血雨腥风的利爪猛攻；就连Elrond也不得不撤退。第一批向兽人冲锋的Gimli说道：‘矮人，你是一名可靠的战友。’只是一瞬间，他们的对手就倒在了血泊中，而矮人也拿到了自己在当晚的第一个人头。”(想看这个同人小说可以点击这里。)
尽管这些奇怪的随心所欲的作品的本质令人不安，但是这个语言模型并不完善，该团队也坦率的承认了这一点。
研究人员说道：“正如上面样本所显示的，我们的模型能够根据各式各样的提示生成出让人感觉贴近人类素质的文本，并且能够在一页或者更多的文字中显示出连贯性。”
“不过，我们也已经观测到各种各样的失败模式，比如文字的重复，世界建模错误(比如说模型有时候会写到水下发生的火灾)，以及异常的话题转换。”
也就是说，根据OpenAI对他们的话痨AI产物至今的所有观测，他们表示语言模型能够轻松掌握可扩展的、定制的、连贯性的文字生成，这除了可以造福一些人以外，还可能会被用于恶意的目的。
“这些发现，结合对图像、音频和视频合成的早期研究结果，意味着技术正在降低制造虚假内容和进行虚假宣传的成本，”研究人员写道。
“由于担心大型语言模型被用于大规模的生成欺骗性的、有偏见的或者是侮辱性的文字，我们只会发布一个带有示例代码的更加小版本的GPT-2。”
虽然有些人指出对GPT-2的能力的恐惧有点过了——而且OpenAI的立场事实上有点偏宣传了——但是这个非盈利性组织声称他们的警示是合理的。
“你能够控制技术的规则从根本上改变了，”该公司政策总监Jack Clark告诉《卫报》说。
“我们不是说我们知道在这里该怎么做是正确的，我们也没放下线说‘该这么走’……我们正试着边穿越它边把路铺好。”
本文译自 ScienceAlert，由译者 Diehard 基于创作共用协议(BY-NC)发布。
转载来源: https://mparticle.uc.cn/article.html?uc_param_str=frdnsnpfvecpntnwprdssskt&btifl=100&app=uc-iflow&title_type=1&wm_id=768d8544f6624ec984f3173d9c50e727&wm_cid=276278190512277504&pagetype=share&client=&uc_share_depth=1
[转载] 科学家开发的新AI因过于危险而不敢发布相关推荐
- 十项观察！药物开发中的AI现状
今年十月底在哈弗医学院由Corey Lane Partners,LLC创办的BioPharma AI应用峰会已经圆满落幕.这次峰会堪称是人工智能和生命科学相交的一个显型快照.本文我们将总结一下这次峰会 ...
- 视频操纵中的新AI技术转向
视频操纵中的新AI技术为"talking head"这一表达赋予了新的含义.在今年的美国SIGGRAPH盛会上,一个国际研究小组展示了一项名为Deep Video Portrait ...
- 骑马与砍杀2：霸主 开发日志 ——战斗AI
人工智能(AI)是单机游戏中最重要的功能.游戏体验的关键在于正确的做法:这必须是无形的,才能让玩家(或多或少)忘记他们是在和电脑玩.它必须聪明而且灵活才能成为一个有价值的对手,但也不能太强--毕竟人类 ...
- 文心一言云服务即将上线；紫光原董事长赵伟国被审查；任正非：未来AI大模型赛道不只是微软一家；李开复筹办新AI公司丨每日大事件...
数据智能产业创新服务媒体 --聚焦数智 · 改变商业 企业动态 紫光集团有限公司原董事长赵伟国涉嫌职务犯罪被移送检察机关审查起诉 近日,中央纪委国家监委网站消息,国家监委对紫光集团有限公司原董事 ...
- Goolge新AI算法实时生成3D场景 | 可下载
点击上方"3D视觉工坊",选择"星标" 干货第一时间送达 3D模型又有新玩法,Goolge的新AI算法实时生成3D场景!对于3D.AR/VR来说,三维重建.模型 ...
- 原创 | 浅议个人数据开发利用新范式
在所有数据资产类型中,个人数据的开发利用潜在价值巨大.个人数据在过去几十年里,已经得到前所未有的开发和利用,推动了经济增长和社会发展.但与此同时,也逐渐引发越来越凸出的经济.社会和伦理道德问题. Ap ...
- 无副作用、效果超越吗啡！用微电极精准管理大脑“疼痛中心”，科学家探索止痛新方法...
来源:大数据文摘本文约1900字,建议阅读5分钟 本文为你介绍了科学家探索止痛的最新方法. 从古至今,人类一直在寻求合适的方式对抗疼痛.为了减轻疼痛,人们经常求助于传统的止痛药.不过,这些药物往往伴随 ...
- 旷视AI「炼丹房」Brain++ 再升级！首席科学家孙剑发AI「灵魂」三问
来源:新智元 [导读]从深度学习算法.计算机视觉算法到AIoT算法,从开源框架旷视天元到AI生产力平台Brain++,旷视十年故事,旷视首席科学家.旷视研究院院长孙剑讲给你听. 万万没想到,我和小伙伴 ...
- 百度大脑开放日：24 种新 AI 能力 20 个经典案例 助力 AI 落地
https://www.toutiao.com/a6715276196365468163/ 3月20日,首场百度大脑开放日正式开始,在开放日期间,百度将会介绍百度大脑全新开放的24种全新AI能力,AI ...
- 辩论届人机大战：IBM新AI完胜人类冠军！
来源:智东西 导语:6月18日,IBM的AI系统Project Debater首次与人类进行现场公开辩论.Project Debater能够理解对方观点,并有针对性地做出清晰的反驳,最终成功战胜人类辩 ...
最新文章
- C语言利用Cairo图形库绘制太极图
- WEB页面多语言支持解决方案(转自CSDN)
- 《UML用户指南第二版》再次温读笔记（一）(downmoon)
- 天池 在线编程 数组划分III（计数）
- 用sklearn mysql_Sklearn之Linear Regression
- 面试官系统精讲Java源码及大厂真题 - 35 经验总结：各种锁在工作中使用场景和细节
- 方法重载与重写,返回类型
- Android高手的六大境界
- （17）FPGA面试技能提升篇（System Verilog）
- ofo回应发币传闻：从未参与虚拟货币的发行 与GSE Lab合作已终止
- mysql连接量设置_mysql连接数设置操作方法(Too many connections)
- 第6章 vector向量容器
- javascript常用函数集
- Latex排版论文——傻瓜式操作一晚排出毕业论文
- Resin配置https
- [VS]网页连接数据库
- 最喜欢的一款星光和光晕ps笔刷
- 什么硬盘保存时间长 硬盘的保存时间
- python中ifelse语句怎么写_pythonifelse语句怎么写
- 2021年长安杯电子数据取证大赛