新京报：“AI换脸”被滥用 科技莫成“黑产”帮凶
一家之言
AI“换脸”技术被应用于色情视频，本身就是对科技的侮辱，借此形成“黑色产业链”，造成的社会危害更是不可低估。
科技的发展推动了社会进步，同时也带来很多风险和隐患。从前，很多人只知道运用软件Photoshop（PS）能够修改图片，如今，AI（人工智能）直接将“修图”技术进化成“换脸”。近日，新京报记者在调查时发现，互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的淫秽视频，在百度贴吧、闲鱼等主要网络平台均有出售。
如果有人觉得，明星艺人被美化也好、丑化也罢，都不关自己的事，那就大错而特错了。因为，在现实中，“AI换脸”已经不仅仅是一门技术，一条依附于“AI换脸”的“黑色产业链”已经形成。据新京报记者的调查报道称，有的商家不仅提供成品的视频，还接受买家的订制，只要买家提供20张照片，就可以搞出任何人的“小电影”。还有的商家“授人以渔”，售卖教学视频供人学习，出示学生证还能打七折。
互联网不是法外之地。“AI换脸”技术被应用于淫秽视频，本身就是对科技的侮辱，借此形成“黑色产业链”，造成的社会危害更是不可低估。
首先，“AI换脸”为淫秽视频的传播提供了新的兴奋点，让那些本来未必会接触淫秽视频的未成年人群体，因为“追星”情结而增加了“看一看”的兴趣，最终误入其中，难以自拔。
其次，在“AI换脸”技术下，每个人都可能成为受害者。尤其是普通人，一旦被“AI换脸”成为“小电影”的主角，由于身边人的鉴别能力较弱，大多数人在转发信息时更注重内容的轰动性和刺激性，而非可靠性，就算是一个做工粗糙的视频，也可能会在“以讹传讹”中给无辜的当事人带来极大的精神伤害。
第三，“AI换脸”的应用场景不仅是色情视频，还可能被用于电信诈骗。如果有人通过“换脸”向“被换脸者”的亲友索要钱财，就算诈骗不成功，也可以造成损害当事人名誉的影响。
第四，“AI换脸”技术具有一定的趣味性和挑战性，会吸引更多人尝试其训练模型的乐趣，从接受者变成参与者。特别是青少年对新事物的接受能力强，计算机技术水平往往较高，其中一些法制观念或道德意识较弱的人在“小试身手”后很容易踩过界，变成“黑色产业链”的一环。
尽管“AI换脸”技术的主要危害在于使用者的滥用，但因“AI换脸”自带“混淆人格”的功能属性，因此，相关部门对“AI换脸”行为的法律限制和行为规范也应更具针对性。首先，公安部门、网络监管者、网络贴吧和电子商务平台的经营者，都有义务清除违法售卖的包含“AI换脸”技术的违法色情视频。对于面向公众销售的或代为制作换脸视频的营利性行为，应坚决予以禁止。
其次，让“AI换脸”技术的爱好者意识到，不管是否使用“AI换脸”技术，在中国境内，凡是传播具有性行为、性器官、裸体的图像或视频都是具有法律风险的，“换脸”技术并不能消除原始素材的违法性，将之作为“技术成果”与大家分享是有风险的。
第三，制作者应防范自己的“换脸”视频被人利用，用于各类欺诈和侵权活动。不要因为觉得“好玩”，就随便帮人制作“爸爸妈妈我要钱啊”之类的视频。
第四，未经当事人授权的“换脸”行为，是对公民人格权和肖像权的侵犯。掌握“AI换脸”技术的人，应该对他人多怀尊重之意，不可轻易“戏之”，更不可没有底线地将“换脸”技术用于非法牟利，否则难免会遭到法律的严惩。
缪因知（法律学者）
新京报：“AI换脸”被滥用 科技莫成“黑产”帮凶相关推荐
- “AI换脸”诈骗背后，如何应对黑灰产使用手段？
目录 诈骗是如何发生的? AI换脸诈骗的操作防范 AI换脸的风险分析与技术防范 近日,警方通报了一起使用智能AI技术进行电信诈骗的案件.被骗者是福州市某科技公司法人代表郭先生,他通过微信视频接到自己好 ...
- 黑产肆虐，AI如何扛起反欺诈大旗
时下,金融欺诈主要来源于网络黑产.据统计,网络黑产的直接从业者已超过40万,上下游人员总计超过170万,黑产手里握有的身份证约有1000万张,造成的欺诈金额每年正以40%的比例增长着. 面对肆虐的黑产 ...
- CSDN日报190923：盘点那些被AI换脸、一键“脱”衣所滥用的AI模型
CSDN日报来啦!给大家奉上当日最新鲜的技术干货! 人工智能|盘点那些被AI换脸.一键"脱"衣所滥用的AI模型 作者:beyondma 虽然笔者对于技术的滥用深恶痛绝,但技术本身是 ...
- 竹子进宝说:AI换脸成新型骗局 成功率接近100%
大家好,我是竹子进宝开发者,我叫做竹子进宝,一点点做好每一件事小事,像竹子一样节节升. 设置开发竹子进宝的初衷也是想让更多人面对生活的时候,能更从容的选择和有勇气选择自己想过的生活,多一份副业多一份选 ...
- 9月4日科技资讯|微信支付二维码被诉侵权；AI 换脸 App「ZAO」致歉； Android 10 正式发布
「CSDN 极客头条」,是从 CSDN 网站延伸至官方微信公众号的特别栏目,专注于一天业界事报道.风里雨里,我们将每天为朋友们,播报最新鲜有料的新闻资讯,让所有技术人,时刻紧跟业界潮流. 整理 | 胡 ...
- AI“换脸”打开潘多拉魔盒，如何应对？
来源:科学网 近日,一款名为"ZAO"的换脸APP引发舆论关注.用户上传照片,就可以把影视剧主角的脸替换成用户自己的脸.在过把"明星瘾"的同时,也让大众关注到& ...
- 华为三星折叠手机可看不可摸；小米架构再调整；杨幂 AI 换脸视频制作者回应 | 极客头条...
「CSDN 极客头条」,是从 CSDN 网站延伸至官方微信公众号的特别栏目,专注于一天业界事报道.风里雨里,我们将每天为朋友们,播报最新鲜有料的新闻资讯,让所有技术人,时刻紧跟业界潮流. 快讯速知 三 ...
- “ZAO”火爆背后的AI换脸技术有多可怕？隐私泄露？法律风险？
30日晚间,一款名为"ZAO"的换脸社交软件在朋友圈刷屏,不少科技圈人士坦言"刷了一整夜",而ZAO的创始人正好为陌陌总裁.首席运营官王力. 陌陌还推出了哈你. ...
- AI换脸鉴别率超99.6%，微软用技术应对虚假信息
来源 | 微软亚洲研究院AI头条(ID:MSRAsia) 近日社交网络上爆红的一款换脸应用,让许多普通用户体验到了跟爱豆同框.与偶像飙戏的快乐,也因数据使用带来的问题陷入了舆论的漩涡--除了用户隐私保 ...
最新文章
- fegin调用为什么要序列化_全方位解析Java的序列化
- FreeDos 历史
- 免费申请Firefly-RK3288开源板
- RAM的一个实例，向下取整
- hdu3333(线段树)
- Understanding Clouds from Satellite Images的kernel调研＋肉眼识别每种云朵示例
- About “PostMessage” SendMessage
- php读这文件速度,php 测试硬盘读写-php 测试硬盘写速率
- VScode中常用element语法
- 第二篇: 在虚拟主机上使用ASP.NET Ajax
- SAP License：SAP顾问是如何炼成的——SAP到底是什么？
- windows终止处理程序( __try __finally) 简单解析
- matlab读取2级文件夹，并把图像保存到指定的文件夹
- Big Sur MacOS高清动态壁纸
- c#实现短信发送程序
- 【Java WEB】Linux常用命令汇总
- 知识图谱嵌入的Translate模型汇总（TransE，TransH，TransR，TransD）
- 笔记本nc10装linux,三星nc10笔记本如何设置U盘启动
- MeeGo系统前景到底会如何
- 资讯｜MIUI11正式版推送12款小米手机