“AI写手”火了!大学生用GPT-3写“鸡汤文”,骗过一堆人登上科技头条
GPT-3是OpenAI语言人工智能模型,由1750亿个参数组成。总部位于旧金山的OpenAI研究实验室今年5月开始逐步推出了该模型,并引起越来越大的反响。这个庞大的语言模型几乎可以胜任所有可以用文字表达的工作:从回答问题、写文章、写诗歌、甚至写代码……无一不包。那么,现实中它究竟有多厉害呢?
最近,国外一名刚入门GPT-3不久的伯克利大学生利亚姆·波尔(Liam Porr),以一个假名,然后用人工智能模型建了一个完全假的博客。不过,这却成功“骗倒”了一大批内容阅读者。
这个充满讽刺性和欺骗性的“AI把戏”很快骗过了Hacker News等科技极客圈子,然后真相曝光——瞬间成为了热点话题——这么多人怎么就被一个完全由AI搭建起来的所谓“博客”给诓了?居然还有不少人“订阅”了上面的消息?
尽管许多人猜测到目前为止超强大的语言生成AI工具——GPT-3会如何影响内容生产,但这种“以假乱真”的程度和效果是他们始料未及的。这是目前唯一一次GPT-3如此真实地展示自己的实力,足以说明这一工具的应用潜力。
在加州大学伯克利分校(University of California, Berkeley)学习计算机科学的波尔说,这次经历中最突出的一点是:“实际上,它超级简单,这是最可怕的部分。”
登上头条狂涨粉的“AI鸡汤文”
虽然GPT-3还没有彻底开放,但波尔却依然轻轻松松获取了接口。波尔提交了一份申请。他填写了一张表格,里面有一份关于他打算使用的简单问卷。但他也没有等上多少时间。在联系了伯克利的人工智能社区的几名成员后,他很快找到了一名已经有此权限的博士生。
这个博士生同意合作后,波尔很快就写了一个小脚本让他运行。它给了GPT-3一个博客文章的标题和介绍,并给出了几个完整的版本。Porr的第一个帖子(在Hacker News上发布的那个)和之后的每一个帖子都是从一个输出中复制粘贴过来的,几乎没有编辑。
他说:“从我想到这个想法并与那个博士生取得联系,到我真正创建了这个博客——这大概只花了几个小时。”
波尔用假名字“adolos”写的第一篇假博客,居然顺顺利利就登上了YC新闻平台Hacker News热门榜第一名!波尔说,他使用了三个独立的账号在Hacker News上提交并投票,试图把他的帖子推得更高。管理员说这个策略不起作用,但他的点击率标题起作用了。
不需要太多编辑就能生成内容的诀窍是——理解GPT-3的优缺点。波尔说:“它很擅长创造漂亮的语言,但不太擅长逻辑和理性。”因此,他选择了一个不需要严格逻辑的流行博客类别——“鸡汤文”,这样就能实现高效和自助式的产出。
然后,他按照一个简单的公式来写他的标题:他在Medium和Hacker News上翻来翻去,看看在这些类别中发生了什么,然后把一些相对相似的东西放在一起。《感觉生产力不高?也许你应该停止思虑过多》“”(Feeling unproductive? Maybe you should stop overthinking)他为其中一篇文章写道。《大胆和创造力胜过智慧》(Boldness and creativity trumps intelligence),他又在另一篇文章中写道。有几次,这些标题并没有起到作用。但只要他坚持正确的话题,这个过程就很容易实现,“鸡汤文”成功地帮着博客蹭蹭蹭狂涨粉。
两周后,他几乎每天都发帖子。随后不久,Hacker News上就有人指责波尔的博客文章是GPT-3写的。另一名用户却回应说,这条评论“不可接受”。甚至有读者读后留言称,“好文!和Ethan Hawke在Ted的演讲一样深刻!”对波尔的假博客持怀疑态度的少数人,居然就这样被社区的其他成员投了反对票,妥妥证明了并非“大众的眼睛都是雪亮的”。
一大部分人愣是没看出来文章不是人类写的,Medium、YC的新闻平台等多家平台都转载刊发了他的第一篇博客、他的博客居然还疯狂涨粉人气居高不下……这让小哥波尔开始感到不淡定了,不过他自己也感到非常惊讶。
波尔说,他想证明GPT-3可以冒充人类作家。事实上,尽管该算法的书写模式有些奇怪,偶尔也会出现错误,但在他在Hacker News上发表的最重要的帖子上,只有三四个人怀疑该算法可能是由某个算法产生的。而且,所有这些评论都立即被其他社区成员否决。
最后,波尔以一条自己写的神秘信息结束了这个项目。标题为《如果我没有道德,我将如何对待GPT-3》,文章将他的过程描述为一个假设。同一天,他还在自己真正的博客上发表了一篇更直白的自白,澄清曝光了“假博客”的始终。
AI语言工具引发担忧与思考
根据OpenAI的算力统计单位petaflops/s-days,训练AlphaGoZero需要1800-2000pfs-day,而OpenAI的GPT-3用了3640pfs-day,看来拥有微软无限算力的OpenAI,现在真的是为所欲为了。
对于专家来说,这一直是这种语言生成算法引起的担忧。自从OpenAI首次发布GPT-2以来,人们就猜测它很容易被滥用。而GPT-3已经成为OpenAI迄今为止推出最新、最大的AI语言模型。在自己的博客文章中,该实验室重点关注了人工智能工具作为大量制造错误信息的武器的潜力。其他人则想知道是否可以用它来大量发布谷歌游戏相关关键词的垃圾帖子。
去年2月,OpenAI的GPT-2(该算法的早期版本)登上了新闻头条,OpenAI宣布将保留该版本,以防被滥用。这一决定立即引发了强烈反响,研究人员指责该实验室在“搞噱头”。到了11月,该实验室终于改变了立场,发布了这个模型,当时还言之凿凿地称“到目前为止没有发现滥用的有力证据”。这不,这回“翻车”翻得有点厉害了。
该实验室对GPT-3采取了不同的方法;它既没有拒绝,也没有允许公众访问。取而代之的是,它将算法提供给了那些申请私有测试的研究人员,目的是收集他们的反馈,并在今年年底将这项技术商业化。
波尔说,他的实验还展示了一个更平凡但仍然令人不安的选择——人们可以使用该工具生成大量的点击诱导内容。他说:“很有可能会出现大量平庸无质量的博客内容,因为现在进入的门槛太低了。”“我认为在线内容的价值将大大降低。”
波尔计划用GPT-3做更多的实验。但他仍在等待OpenAI的介入。他说:“他们可能对我的所作所为感到不满。”“我是说,这有点傻。”
背后的“AI大法”OpenAI
在成立的短短四年时间里,OpenAI已经成为全球领先的人工智能研究实验室之一。与Alphabet旗下的DeepMind等其他人工智能巨头一样,谷歌不断推出引人注目的研究成果,并因此成名。它也是硅谷的宠儿,创始人包括埃隆·马斯克(Elon Musk)和传奇投资者山姆·奥特曼(Sam Altman)。
最重要的是,它因其使命而受到推崇。它的目标是成为第一个创造人工智能的机器——一个具有人类思维的学习和推理能力的机器。其目的不是统治世界;相反,该实验室想要确保这项技术是安全发展的,并且它的好处能均匀地分配给全世界。
这意味着,如果AGI技术的发展遵循阻力最小的道路,那么它很容易失控。围绕在我们身边的那种笨拙的人工智能,就是一个例子。问题是,AGI一直都很模糊。该领域内的共识是,这种先进的能力将需要几十年,甚至几个世纪的时间——如果真的有可能发展它们的话。许多人还担心,过分追求这一目标可能会适得其反。
大多数人第一次听说OpenAI是在2019年2月14日。那天,实验室宣布了一项令人印象深刻的新研究:只需按下一个按钮,就可以生成令人信服的论文和文章。
但也有一个问题:研究人员说,这种被称为GPT-2的模型释放起来太危险了。如果这样强大的技术落入坏人之手,就很容易被“武器化”,制造大规模的虚假信息。这立即引起了科学家们的强烈反对。
在持续不断的炒作指控中,OpenAI坚称GPT-2不是噱头。更确切地说,这是一项经过深思熟虑的实验,经过一系列内部讨论和辩论后达成一致。大家一致认为,即使这次的行动稍微有点过火,但它将为处理更危险的研究开创先例。
但OpenAI与GPT-2的媒体宣传活动也遵循了一种成熟的模式,这种模式让更广泛的人工智能社区产生了怀疑。多年来,该实验室的重大、引人注目的研究公告一再被指责助长了人工智能的炒作周期。批评人士还不止一次地指责该实验室大肆宣扬其研究结果,甚至达到了错误描述的地步。出于这些原因,该领域的许多人都倾向于保持一定的距离。
GPT-2引发如此强烈的反弹还有另一个原因。人们觉得OpenAI又一次违背了它之前关于开放和透明的承诺,并走上了营利的道路。未公开的研究让人们更加担忧和怀疑——会不会是这项技术一直处于保密状态,为将来获得许可做准备?但是人们并不知道,这不是OpenAI唯一一次选择隐藏它的研究。
【编辑推荐】
- 边缘计算为企业解决的4个问题
- 数据中心交换机市场未受COVID-19的影响
- 为什么AI感知与人类感知无法直接比较?
- 刷新企业上云新体验,华为云三款重磅新品C位亮相
- 推荐一款Python开源库,技术人必备的造数据神器!
“AI写手”火了!大学生用GPT-3写“鸡汤文”,骗过一堆人登上科技头条相关推荐
- AI实时筛查癌细胞,普通显微镜简单改装就能用,谷歌新突破登上Nature子刊
安妮 一璞 发自 凹非寺 量子位 出品 | 公众号 QbitAI 检测号称人类健康头号杀手癌症,现在实现了质的飞跃. 一个偏远小镇的乡村诊所,现在也有机会用AI,采用人机结合的方式,筛查出难度极高的淋 ...
- 朱松纯团队工作登上 Science 头条—AI“读懂”人类价值观
近日,国际顶级学术期刊<Science Robotics >发表了朱松纯团队(UCLA袁路遥.高晓丰.北京通用人工智能研究院郑子隆.北京大学人工智能研究院朱毅鑫等作者)的最新研究成果--实 ...
- 用chatgpt超级写手批量制作抖音带货文案并直接SEO霸屏
带货文案怎么写? 最好的解决方案就是学习同行. 简版流程: 通过抖音热点宝(手机端)的种草视频, 或者抖音筛选出最多点赞,半年内的带货视频. 提取出带货文案, 然后用chatgpt直接改写一下带货文案 ...
- 标贝科技| AI裁判、写手、保姆…站在人性和技术的十字路口
人工智能(AI)已经成为科技界最热门的话题,没有之一,这个行业之所以奇妙而具有前景,正在于其无限的应用场景,但凡能和智能,特别是低智商活动沾上点关系的工作都能交给人工智能去做,比如正在如火如荼进行的 ...
- AI智能写作破解:机器人写手的三大秘密
随着人工智能技术的不断发展,AI智能写作逐渐成为了一种趋势.但是,是否真的可以用机器代替人类进行写作呢?本文将从多个方面进行分析和讨论,揭示机器人写手的秘密. 一.AI智能写作的背景 首先,我们需要了 ...
- 写手们要下岗了?百度开启AI智能写作平台
https://m.zol.com.cn/article/7154458.html?tuiguangid=toutiao 2019-04-28 05:53:00 人工智能已经从虚无缥缈的美好幻想成为了 ...
- 使用AI写作工具,进阶文案写手:WordHero AI
如何使用WordHero AI写作工具,应聘入门级英语文案写手工作? 什么是人工智能写作工具? 人工智能写手(AI writer),是新开发的文案软件,它可以轻松生成特定风格的仿真人写作句子,甚至还包 ...
- AI小编问世!阿里智能写手核心技术首次公开!
一. 引言 内容化已经成为淘宝近几年发展的重点,我们可以在手机淘宝APP(以下简称手淘)上看到很多不同的内容形式和内容型导购产品,例如,"有好货"中的以单个商品为主体的富文本内容, ...
- 魔改GPT自动写网文,速度一秒十字,还能给太监作品无限续更 | 开源
博雯 发自 凹非寺 量子位 报道 | 公众号 QbitAI 如果一个人只看网文,那会写出来怎样的文字? 看了100G网文后,这个AI模型帮你试了一下. 先来一段自由创作: 乍眼看去很有内味,而且基本是 ...
最新文章
- zookeeper快速入门——部署
- 使用PostSharp开始AOP
- 腾讯面试题Java 并发包之线程池综述
- 使用Docker中的mysql
- “赋值”与“初始化”
- 三维重建9:点云图像的滤波方法小结
- java 事件分发线程_深入浅出Java多线程(2)-Swing中的EDT(事件分发线程) [转载]...
- 每日一题(1) —— 数组计算
- 牛客 挑选方案问题(排列组合)
- nginx 中文文档
- jmxtrans安装使用
- 使用Flask-SQLAlchemy插件操作MySQL
- 一个在职的软件测试的日常工作是怎么样的?
- C#之Bcd码时间转成ToDateTime
- [改善Java代码]不要在构造函数中抛出异常
- 常用算法之-快速排序
- 服务器pci-e硬盘,来一发干货,PCI-E SSD硬盘使用须知
- 索尼 swiftkey_iOS8 3rd Party键盘的评测-SwiftKey和Swype
- k8s的service端口暴露与代理
- 4699. 如此编码