价值观、隐私保护全覆盖 网信办拟为生成式AI“立规矩”
4月11日，国家互联网信息办公室（以下简称“网信办”）起草发布了《生成式人工智能服务管理办法（征求意见稿）》，并向社会公众展开为期一个月的意见征求。
这份管理办法（征求意见稿）共计21条，从适用范围看，既包括了提供生成式人工智能服务的主体，也包括使用这些服务的组织和个人；管理办法覆盖了生成式人工智能输出内容的价值导向、服务提供方的训练原则、隐私权/知识产权等各项权利的保护等等。
GPT类生成式自然语言大模型及产品出现后，既让公众体验到了人工智能的飞跃式进步，也暴露出安全风险，包括产生带偏见和歧视性的内容、数据泄露、侵犯隐私、AI造假等问题。全球范围，各国对人工智能的监管渐成趋势。
在中国，《生成式人工智能服务管理办法》一旦出台，国内生成式AI的大模型及产品提供方不能再无序乱“卷”了，采用者使用生成式AI时也有了规范圈。
为生成内容设“禁区”
“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。
本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。”
4月11日，网信办公布的《生成式人工智能服务管理办法（征求意见稿）》（以下简称《办法》）在第二条中明确了《办法》的适用主体和“生成式人工智能”的定义。
从该条内容看，诸如百度、阿里、腾讯、华为等目前已经公开表示有生成式大模型及产品的公司，如果对中国境内用户提供服务，将在《办法》的管理范围内，而用户使用相关产品和服务，也需要遵守《办法》的规定。
《办法》也强调了，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
在这一前提下，《办法》为生成式人工智能产品或服务的提供方划定了“禁区”，包括生成的内容和研发的基本原则。
在内容上，《办法》要求：利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容；利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
在研发上，《办法》要求提供方在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
从这些要求看，《办法》基本涵盖了市面上的自然语言大模型产品在用户实操中暴露出来的安全及伦理问题，包括产生歧视性偏见、虚假信息等内容
人类借由生成式AI产出的问题内容已经层出不穷地出现在网络上。
比如，ChatGPT曾为用户咨询“如何入店行窃”时提供过步骤，尽管附上了“入店行窃违法的提示”；它的“角色扮演”功能曾被用户诱导以DAN（Do Anyting Now）身份回答问题，给出的答案里出现了“爆粗口”的情况；还有人用ChatGPT测试的假消息在国内传播，成了“辟谣”的内容。
微软集合进搜素引擎Bing的聊天机器人，被海外媒体人曝光“辱骂用户”；AI生图应用Midjourney更是被人利用造出过“教皇穿巴黎世家羽绒服”、“马斯克与通用汽车CEO约会”的假图，甚至还有人用它制造了各种不存在的地震历史和太阳风暴灾害等等。
针对虚假信息、辨别AI生成内容层面，《办法》要求提供者从源头上“能够保数据的真实性、准确性、客观性、多样性”；应当按照《互联网信息服务深度合成管理规定》对生成式的图片、视频等内容进行标识；而生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。
中国监管为生成式人工智能的内容设置禁区，某种程度上也是在要求提供大模型及产品的企业把好预训练和数据的关。
强调数据来源和个人信息保护
除了对生成内容强调价值观导向、社会公德、遵守法律及反歧视外，《办法》也对生成式人工智能相关的预训练及数据来源、个人信息保护等权益做出要求。
例如，《办法》要求，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责，不含有侵犯知识产权的内容；数据包含个人信息的，应当征得个人信息主体同意；对用户输入信息和使用记录承担保护义务，不得非法留存能够判断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。
生成式AI产生的数据侵权问题也确实存在，比如，用户在使用对话式机器人满足一些工作需求时，难免会上传公司的资料，如不注意，很可能造成商业秘密的泄露。此前，韩国电子巨头三星在对ChatGPT提出“限问令”后就表示，内部数据因员工与该应用的交互而出现泄露。
《办法》不仅指向生成式人工智能产品和服务的提供者，也对产品和服务使用者划定了原则。
比如，不利用生成内容损害他人形象、名誉及其他合法权益，不进行商业炒作、不正当营销。
由于《办法》时根据上位法《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规制定，这些法律法规将适用于违反《办法》的行为，包括侵犯知识产权、侵犯个人信息等违法行为。
《办法》共计21条，其中有13条明确针对 “提供者”，即利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人。
由此可见，《办法》一旦正式出台，国内做生成式大模型及产品的企业及采用方将须在规则范围内行事。据网信办官网显示，公众可以通过三个渠道提出反馈意见，反馈的截至日期为2023年5月10日。
价值观、隐私保护全覆盖 网信办拟为生成式AI“立规矩”相关推荐
- 网信办拟规定：平台未经用户同意不得强制订阅关注账号；Twitter回应大范围宕机；Krita 4.4.0发布|极客头条
整理 | 郑丽媛 头图 | CSDN 下载自东方 IC 「极客头条」-- 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧. 国内 ...
- 一周新闻纵览：如何加强个人信息保护？ 网信办正在做这四方面工作；微软麻将Al来了；银行花式营销ETC“套路”引争议
你高高在上时,应该对下面的人都好些.因为等你掉下来的时候,说不定还会遇到他们. --菲洛梅娜 1 百度统计: 关于近期恶意攻击问题的严正声明 IT之家8月28日消息 百度统计今日发布<关于近期 ...
- 1月第4周业务风控关注 | 中央网信办加强全平台网络传播秩序管理
易盾业务风控周报每周报道值得关注的安全技术和事件,包括但不限于内容安全.移动安全.业务安全和网络安全,帮助企业提高警惕,规避这些似小实大.影响业务健康发展的安全风险. 01 政策监管观察 [国家网信办 ...
- 一周新闻纵览：网信办：切勿购买修改朋友圈定位服务；网信办三季度约谈网站747家；过度索取住客信息，华住旗下酒店涉嫌侵犯隐私
1 网信办: 切勿购买修改朋友圈定位服务 针对央视新闻频道披露的闲鱼.转转等网络二手平台存在出售微信朋友圈定位修改服务的乱象,昨天,国家网信办举报中心提醒广大网民,切勿购买修改朋友圈定位服务,更不要轻 ...
- 网信办督促平台整改算法歧视、大数据杀熟：必须保护用户合法权益
3月17日消息,近日国家网信办针对"算法歧视.大数据杀熟"等问题作出回应,近年来某些手机应用软件和平台过度收集用户隐私信息,特别是大数据杀熟现象越来越猖獗.所谓大数据杀熟,简单来说 ...
- 脸书注册消失；网信办约谈脉脉；滴滴试运营监控｜互联网行业公会
国内要闻 1."脸书"中国公司注册信息消失 国家企业信用信息公示系统昨日显示,"脸书科技(杭州)有限公司"已完成注册.但今日再次查询时发现,上述公示系统中已无 ...
- 5月第3周业务风控关注 |网信办公布整治教育类应用的成果 关闭“作业狗”等20余款应用...
易盾业务风控周报每周呈报值得关注的安全技术和事件,包括但不限于内容安全.移动安全.业务安全和网络安全,帮助企业提高警惕,规避这些似小实大.影响业务健康发展的安全风险. 1.网信办公布整治教育类应用的成 ...
- 360手机浏览器_网信办：UC、QQ、360、搜狗等8款手机浏览器被纳入首批整治范围...
点击蓝字 关注我们 UC.QQ.华为.360.搜狗.小米.vivo.OPPO等8款影响力较大的手机浏览器被纳入首批重点整治范围 为有效解决网民反映强烈的手机浏览器网络传播乱象,国家网信办即日起对手机浏 ...
- 360手机浏览器_网信办出手：华为、360、qq等8款手机浏览器被列入首批重点整治名单...
10月26日,网信中国公众号发文表示,为有效解决网民反映强烈的手机浏览器网络传播乱象,国家网信办即日起对手机浏览器进行专项集中整治,重点聚焦行业突出问题实施"靶向治疗",通过督导整 ...
最新文章
- 比特币黄金BTG遭遇51%算力攻击,即将归零？
- apache使用.htaccess删除.html扩展名_Web前端入门：html元素解析
- 【机器学习】决策树代码练习
- 深度学习和目标检测系列教程 12-300：常见的opencv的APi和用法总结
- 九十、Python的GUI系列 | QtDesigner进行界面设计
- mysql置疑原因_SQLSERVER数据库经常置疑的原因
- linux 硬软链接区别
- VC6.0下opencv1.0的环境配置
- REST服务的自动化测试
- 韩顺平php视频笔记72-74 面向对象编程的三大特征3 重载override与重写overload 魔术常量
- linux gcc换成c99标准,关于GCC和C99中可变参数宏
- Linux安装网易云音乐
- 2022版史上最牛Java学习路线图（视频教程+配套资料）
- html5音乐播放器在线生成,一款极简的HTML5音乐播放器-skPlayer
- 规范化理论：候选键的求解理论和算法
- w ndows中的文档文件是,在 Wndows 资源管理器中刻录 CD 或 DVD.doc
- 前有标兵，后有追兵，自热老兵莫小仙胜算还剩几成？
- 孙子兵法 三十六计（猫鼠版）
- 什么护眼台灯比较专业？2023央视推荐的护眼灯
- 通用搜索引擎的垂直化倾向