AIGC 存储内容安全解决方案

AIGC会帮助恶意份子更高效地炮制违法违规内容。

2022年，ChatGPT的推出，使 AIGC 这个名词进入了大众的视野。Stable Diffusion、MidJourney等可以生成图片的 AIGC 直接引爆了 AI 作画领域。Gartner 将生成性 AI 列为2022年五大影响力技术之一。

大量的 AIGC 在上线初期就面临关停风险，核心原因就在于AIGC输出的内容具有不确定性，导致这些平台因涉嫌传播违规内容而被勒令下架。所以，AIGC 的发展必须解决内容上的安全与规范。

4月11日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，这意味着国家已经在密切关注 AIGC 的发展，在合法合规的前提下，支持 AIGC 的商用及健康发展。

内容输入审核

用户通过 AIGC 应用输入原始的文本、图片 prompt ；
将用户的原始输入信息直接进行审核；
根据审核结果：敏感信息直接拦截、正常信息进入 AIGC 大模型。

内容生产审核

正常的 prompt 进入大模型，生成 AI 数据（文本、图片、音视频）；
生成的图片、文本数据进行审核；

根据审核结果：敏感数据直接拦截，正常的文本内容可直接通过应用返回给用户，正常图片进入对象存储 COS。

内容存储审核

生成音视频数据先进入对象存储 COS，再进行异步审核；
对于存储在 COS 中经过了审核后的图片、音视频数据，可在应用层通过 COS 链接的形式返回给用户进行访问查看。

不同数据场景使用不同的策略：

在用户输入的 prompt 提示词场景：可适当降低审核要求，让用户尽可能保持输入体验，重点拦截高度敏感的内容；
在 AIGC 模型生成的内容场景：严格把控提高审核要求，确保存储、分发的内容是合法合规的，除高度敏感的内容外，擦边、低俗等内容也应在管控拦截范围内。

AIGC 存储内容安全解决方案相关推荐

浪潮as5300技术方案_浪潮智能存储AS5300G2双活解决方案
智慧医疗已成为提高就医效率.减少医疗差错的有效科技手段.江西省泰和中医院通过采用浪潮智能存储AS5300G2双活解决方案,构筑了一个满足医院数字化.信息化.智能化.可持续发展的信息支撑系统平台,使业务 ...
阿里云发布首个流式存储与播放解决方案
本文讲的是阿里云发布首个流式存储与播放解决方案[IT168资讯]9月11日,首个面向视频监控行业的流式存储与播放一体化方案在阿里云官网上线.借助这份技术方案,摄像头接入云端的时间将从一两个月缩短到一周 ...
基于SSD的存储IO优化解决方案
2019独角兽企业重金招聘Python工程师标准>>> 基于SSD的存储IO优化解决方案我们一起走过的10年,还是曾经的硬盘,一成不变的开机速度,让人无法忍受的操作体验.I/O瓶颈 ...
天空卫士监控行为显示叉_天空卫士发布统一内容安全解决方案，助力企业数据安全...
CTI论坛(ctiforum)11月13日消息(记者李文杰):移动互联网时代,人类现实世界与信息世界已经交融在一起,高速扩展的信息世界里--信息安全至关重要.但在信息安全事件频出的今天,信息安全技术 ...
360显示html邮件内容,“邮件怎样发送视频内容”的解决方案
问题描述: 发邮件时,除了文字.图片.附件外,还能发送视频内容. 解决方案: 1. 打开你的邮箱,点击写信,出来如下的界面,这里我以QQ邮箱为例 2. 点击[正文]部分的[html],如图: 3 ...
selenium 获取请求返回内容的解决方案
selenium 获取请求返回内容的解决方案参考文章: (1)selenium 获取请求返回内容的解决方案 (2)https://www.cnblogs.com/zgq123456/articles ...
浙江经信公布人工智能5大榜单网易易盾内容安全解决方案上榜
浙江经信微信公众号昨日,浙江省经济和信息化厅(以下简称:"浙江经信")发布了人工智能5大榜单,网易易盾榜上有名. 据悉,本榜单评选是经企业自愿申报,各地经信部门推荐.浙江省 ...
英方联合XSKY星辰天合推出基于对象存储的备份解决方案
近日,上海英方软件股份有限公司(以下简称 "英方")与北京星辰天合科技股份有限公司(以下简称"XSKY星辰天合")宣布联合推出基于对象存储的备份解决方案,以解决 ...

AIGC 存储内容安全解决方案

AIGC 存储内容安全解决方案相关推荐

最新文章

热门文章