离谱!两高中生用AI生成裸照,疯狂「变现」...
点击下方卡片,关注“CVer”公众号
AI/CV重磅干货,第一时间送达
点击进入—>【计算机视觉】微信技术交流群
转载自:新智元 | 编辑:拉燕
【导读】生成式AI火了以后,限制输出内容的就只剩人们的想象力了。这不,两个高中生用AI生成裸照,疯狂在道德的底线游走。
生成式AI爆火之后,人们发现,这AI还真的什么都能生成啊。
从ChatGPT生成语段和用户自如对话,到AI生成图像,再到搭载GPT-4的微软全家桶连ppt都能一键生成,好像没有什么东西是生成式AI做不到的了。
能是一方面,怎么加以利用变现又是另一码事了。
这不,国外几个不知天高地厚的大学生,竟然用AI生成裸照在Reddit上卖。
甚至还大赚了一笔。
不得不说,这法子可真「刑」。
AI卖「黄」?
图片的这个姑娘叫Claudia,她有着乌黑的长发,甜美的笑容。在社交媒体上,她会update自己的心情,觉得自己美美哒。
然而在Reddit上,只要你跟她私聊,她就卖你裸照。
不得不说,在Reddit上她还挺火。
可惜,Claudia是个假的。社交媒体上的所有照片,包括上面这张,全都是用AI生成的。
据两位合成媒体领域的研究人员说,这一组Claudia的照片都是冲着坑蒙拐骗去的。总有人看不出这是AI,然后为此买单。
最近,像Midjourney和Stable Diffusion这种能生成图片的AI发展非常快,他们所展现出的创造性备受瞩目。
但在Claudia之前,绘图AI一般都是靠生成一些逼真的艺术作品或者美丽的画作夺人眼球。
在Claudia之后,人们认识到用AI生成假人的图片的功能,还有这个让人意想不到的变现手段。
其实很多年以来,一部分新技术的发展都跟色情行业有那么一点关系,AI图像生成看来也没能免俗。
目前,Reddit上有好几千个账户都在搞AI图像生成——而且大部分生成的都是女性。带来的影响就是,改变了人们对于模特,和一部分演员的需求,同时加深了人们对于物化女性这个议题的担忧。
有人匿名表示,「反正也遇不到真人,就算不是AI生成的也遇不到真人,那她究竟是真是假又怎么样呢?」
Claudia的账户并没有做出回应。但是有两位大学生表示,自己是该账户的管理者。在接受「滚石」杂志采访时表示,他们从Claudia这个账户挣了100美元。
研究人员继续出发,根据一些AI图像生成器留下的蛛丝马迹,确定了几个女性用户的在线资料。他们判断,这些头像是AI生成的。
就像是Claudia的账户一样,这些账户也在Instagram、Reddit、推特和OnlyFans等论坛上分享女性的裸照,并标明付费以解锁更多图片。
研究人员联系了这些账户后这些账户没有对该问题做出任何相关回应。由于大部分AI图像生成的时候并没有任何水印,所以普通用户无法进行辨别。
所以,有大量的用户被这些免费图片吸引,给这些账户留言。因为,他们相信这些照片是真的(也许是因为不在乎)。
为啥这么逼真?
AI生成图像的原理其实并不复杂。
在整个过程中,AI会先生成一个较低分辨率的图像,然后慢慢增加细节和复杂度。神经网络有很多层,每一层神经网络负责处理不同级别的特征。
从简单的边缘和纹理,再到复杂的场景等等。
各层神经网络之间互相连接,这样AI就可以将不同层次上的特征进行组合。
比如,AI可能会先确定一个场景的大致布局的框架,然后在这个基础上慢慢添加其它物体或者细节。在这个过程中,AI根据prompt调整该部分的组合,以生成相关图像。
目前很多AI生成器靠的是所谓的扩散模型。任何人都可以输入简短的prompt,然后免费得到一张足以以假乱真的图片。
初次创建完还能进一步调教,让照片变得更有说服力。
底线在哪里?
技术说完了,事儿本身说完了,就该考虑一些技术之外的东西了。
从大往小说,技术应该被这么应用吗?人人都可以免费生成图片拿来变现,今天是裸照,明天又会是什么?
毕竟,无所不能的AI真的无所不能,人们的想象力和鬼点子可是越来越多。
而缺少相关法律法规约束的话,这种行为只会越来越多,并且难以控制。Claudia的管理者面对媒体的诘问,只要轻飘飘的说上一句,我这是假的呀!就能逃脱任何指控了。
再进一步,Claudia这个账户折射出了女性所面临的一部分社会问题。物化女性等词汇本身就屡次出现在人们的讨论之中。
小编认为,这种生成的裸照显然是对女性的冒犯,更不用说拿来传播得利了。
相信AI的未来一定是利大于弊的,只不过在充满荆棘的道路上还是要谨慎前行。
参考资料:
https://www.washingtonpost.com/technology/2023/04/11/ai-imaging-porn-fakes/
点击进入—>【计算机视觉】微信技术交流群
最新CVPR 2023论文和代码下载
后台回复:CVPR2023,即可下载CVPR 2023论文和代码开源的论文合集
后台回复:Transformer综述,即可下载最新的3篇Transformer综述PDF
扩散模型和Transformer交流群成立
扫描下方二维码,或者添加微信:CVer333,即可添加CVer小助手微信,便可申请加入CVer-扩散模型或者Transformer 微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer等。
一定要备注:研究方向+地点+学校/公司+昵称(如扩散模型或者Transformer+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群▲扫码或加微信号: CVer333,进交流群
CVer计算机视觉(知识星球)来了!想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料,欢迎扫描下方二维码,加入CVer计算机视觉,已汇集数千人!▲扫码进星球
▲点击上方卡片,关注CVer公众号
整理不易,请点赞和在看
离谱!两高中生用AI生成裸照,疯狂「变现」...相关推荐
- 可真刑!两高中生用 AI 生成涩图,疯狂变现
- 【AI周报】AI与冷冻电镜揭示「原子级」NPC结构;清华、商汤提出「SIM」方法兼顾语义对齐与空间分辨能力
01 # 行业大事件 施一公等团队登Science封面:AI与冷冻电镜揭示「原子级」NPC结构,生命科学突破 今日,<Science>杂志以封面专题的形式发表了 5 篇论文,共同展现了通过 ...
- 极客公园-零基础看懂全球 AI 芯片:详解「xPU」
https://www.sohu.com/a/169062329_413980 随着 AI 概念火爆全球,做 AI 芯片的公司也层出不穷.为了让市场和观众能记住自家的产品,各家在芯片命名方面都下了点功 ...
- 超 31% 生成文本涉暴力色情,GPT-3 模型在 AI Dungeon 游戏里疯狂「飙车」!
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达 转自 | 新智元 来源 | GitHub 编辑 | LRS AI被人 ...
- 两个iphone怎么大量传照片_「唯物」传个视频到 iPhone,有了新方法
出个难题:老婆用 iPhone 刚录的视频,想传到老公 Android 手机上,或者反方向老公传给老婆,有什么简便方法? 以下两个,可能是普通人最容易想到的: 有网的话,通过云存储中转:iPhone ...
- Python原生服务端签名生成请求订单信息「orderString」
接口文档:https://docs.open.alipay.com/204/105465/ 一.签名方法示例:「代码中的私钥是随机生成无法使用,做示例用」 def sign(params):sort_ ...
- OpenAI CTO、吴恩达夫人……AI 领域值得关注的「她」力量,个个都是女强人
内容一览: 「她时代」来临,一些有着强大信念与热情的女性,纷纷投身至 AI 领域,成为不可或缺的存在与力量.值此国际妇女节到来之际,HyperAI超神经盘点了领域内令人印象深刻的杰出的女性代表. 关键 ...
- 计算机的主存储器可以分为哪两类,2017年计算机应用基础模拟试题「答案」(2)...
A.PY B.SP C.WBX D.ZRM 29.在UCDOS全拼输入方式中,在提示行上向前或向后翻页查找,要按键( ) A.〈和〉 B.-和= C.[和] D.(和) 30.使用UCDOS全拼方式输 ...
- AI 世界里,挖掘机「生产」哪家强?
作者 | 学术头条 来源 | 学术头条 如果有人问你,"挖掘机技术哪家强?" 你大概率会想起这句知名广告词:"中国山东找蓝翔".(不打广告,不打广告.) 那如果 ...
最新文章
- 新兴经济体助力BCH长足发展
- 51nod1228 序列求和(伯努利数)
- uwsgi gevent
- 是什么管脚分配_FPGA是什么?里面有什么?能做什么?
- 如何查看笔记本电脑配置参数_江淮平板运输车图片配置参数查看(罗平)
- 【Tika基础教程之一】Tika基础教程
- java-developer 性能是怎么样的?
- 完美解决IE6中fixed抖动问题的方法
- 百倍加速!Python量化策略的算法性能提升指南
- 第九章(三)多阶段决策问题
- 递推算法之平面分割问题总结
- 代码走查,使用插件findbugs(eclipse)
- DSP学习笔记——基于TMS320F28335
- 在IE/Chrome/Firefox等浏览器在线打开Word等Office文档完全解决方案
- Exception processing template “xxx“: An error happened during tem
- Swing之绘图消除锯齿
- 【JY】有限单元分析的常见问题及单元选择
- About Refactoring
- NASA授予下一代航天计算处理器合同,中国情况如何?
- matlab mcr安装图标,MCR 安装文档--matlab 2010b