UGC之殇：如何确保内容安全

近日，某UGC大厂因内容审核专员猝死事件连续成为舆论焦点，也将内容安全审核从业者们推上了风口浪尖。

互联网内容正以指数规模增长。近年来，监管部门和行业协会为了约束内容乱象、规范平台运营，频频出手整治，不但在“加强审核能力建设”“健全内容审核机制”等方面作出要求，还配合“建立内容审核标准”等出台多项细则。

“内容安全审核从业者”也成了维护网络内容安全、营造清朗网络空间的绝对刚需。

UCG平台

内容安全审核员压力山大

不同于门户网站时代推行的编辑负责制，以今日头条、抖音、快手、B站、知乎等代表的UGC（Users Generate Content，用户原创内容）平台，通常采取机器抓取和算法推荐的方式向用户推荐内容，极易产生违法犯罪、标题党、色情、暴力等大量有害身心的违规内容。

客观上，UGC平台在内容安全上面临着非常严峻的压力。

今年1月份，大量通过学校、医院等公共场所摄像头获取的监控视频开始在B站中流传，甚至出现了男医生直播妇科手术事件。该直播事件已被日照市公安局东港分局立案。

但这只是问题一隅。“若因平台上有内容创作者、授权人或其他第三方作出被指令人反感的内容，使广告商削减广告，可能会对我们的广告收入带来重大不利影响。”B站在招股书中直言。

平台内容安全是网络安全乃至国家安全的重要组成部分，因此平台要负起主体责任，过滤掉有害内容，净化网络环境。由于UGC平台生产的内容数量庞大，通常采用机器初筛、后续进行人审复核的“人机协同”模式。

AI内容审核具有范围广、高效率、低成本等优势，但很难提升内容审核的精确度，包括有歧义的文字、模糊的图片等。

因此，在用户上传文本、语音或图片后，机器对内容解构并提取关键信息，与数据库中的违规内容进行对比，进行清洗过滤。与此同时，数据库特征样本和筛选标准也由人工完成。

内容审核专员需要通过夜以继日地工作，来确保筛选系统识别的标记内容在发布之前能得到及时审核和确认。

随着各平台审核系统的越发完善，对单个审核员的能力要求也越来越具体，可用“三重门”来概括：

一重门是要做好UCG产品的“防火墙”，是防止产品因为内容问题被通报而“夭折”；

二重门是既要符合平台的审核规则要求，过滤内容，又要考虑用户的喜欢，让用户看到的内容保质保量；

三重门是需要承受用户的压力，毕竟作者都希望自己的观点、原创、思考不被别人轻易抹去。

这“三重门”，既为内容安全审核员制定了高标准的要求，也让审核员们承受了过重的压力。

护架卫士可以确保UGC内容安全建设，为平台审核员“减负”：

01专业的运营服务能力

专业的内容安全审核服务商，拥有上百名资深内容安全专家，以及多个数百人规模项目长期运营经验。

我们聚焦于服务企业的业务发展要求，以结果为导向，高质量助力客户持续稳定运营。

02行业领军企业都选择的内容安全服务商

为腾讯视频、京东、金山文档、新氧、Keep等领军企业提供多年内容安全服务，覆盖全行业、全维度的服务案例，是最好的交付成绩单。

03标准与监管对齐

内容安审通用审核标准均源自《内容审核标准》《视听节目审核通则》《电子商务法》《网络直播自律公约》《短视频平台规范》《信息服务管理办法》等权威标准，完全符合监管要求。

04机审+人审的一体化解决方案

提供“机审+人审+智能审核平台”一站式服务，既承载企业内容安全审核责任，又规避了企业自建平台的成本、技术及运营风险，也无需企业寻求不同服务商满足需求。

05自研违规内容识别引擎

基于NLP技术（Fasttext、HMM、CRF、Word2Vec等）构建的复杂算法模型体系，避免单一模型的误杀和漏杀。

违规识别高准确千亿级海量样本库、百万级违规词库、上万种变体类型，数百种语义标签、高效识别各类场景中涉政、色情、违禁、垃圾广告等违规内容。

06独有的暗网开源情报

全面深入的外网情报收集、舆情分析，为服务企业及监管机构提供暗网开源情报。

实时监测舆情趋势，动态追踪违规态势，增量模型小时级更新，违规词库秒级更新、产品快速迭代升级。

UGC衍生出来的庞大的内容生态系统想要实现治理，仅凭平台一方之力显然无法真正做到。构建起一个监管主导、运营商协同、平台企业承担主体责任、内容安全服务商各司其职、网民遵守的综合治理模式或许才是破局的关键。

正在运用机审、人审等多种手段对UGC内容生态中的有害信息进行清理，服务平台与多方共同营造风清气朗的网络空间。

UGC之殇：如何确保内容安全相关推荐

微信小程序开发（一）系统对接微信UGC类小程序内容安全接口JAVA版
系统对接内容安全接口JAVA版文章目录系统对接内容安全接口JAVA版前言一.微信中UGC类小程序是什么? 二.微信内容安全接口是什么? 三.微信内容安全接口能干什么? 四.微信内容安全接口怎么 ...
田志刚：企业知识管理与用户创造内容（UGC）
User Generated Content(UGC),用户产生内容,是web2.0网站的一个很大的卖点,也是一个很诱人的"乌托邦":一点小钱,做个网站,等着用户产生有价值的内容, ...
UGC发垃圾机制和内容审核
知乎:http://www.zhihu.com/question/20103086 重复是第一天敌,用户不喜欢被强迫看重复的内容,而垃圾信息则是通过重复这个手段来加强在目标人群中曝光量. 行为特征,文 ...
API 场景最佳实践：UGC内容检测
UGC内容检测API实践近年来随着UGC的兴起,内容审查变得越来越重要,而纯人工的审核方式已经很难跟上业务的发展需要,因此机器辅助审核应运而生. 本文主要以iOS Demo的形式,介绍如何使用阿里云 ...
音频UGC内容推荐系统的思考
推荐在音频领域UGC内容平台的挑战 UGC平台的特点主UGC+PGC- 生产者多,体系丰富,内容多,质量层次不齐新增强劲 -每天上传的内容很多 UGC积累--历史积累内容多平台价值观选择一个赛 ...
直播当道，平台该如何做好内容审核规避风险？
中国互联网内容经历了两次大的变更,从文字到视频,最后到直播. 不得不说,内容以及内容的创作者离用户更近了,实时性也更强.然而,另一个风险也随之出现--- 如何确保内容安全? 文字到视频,都是先上传再审 ...
小红书下架整改：难以把控的UGC
• 引言 • 压死小红书的,从来都不是媒体这根最后的稻草. 文 | 公关之家作者 | 发条褐 l 渡劫的小红书 7月29日晚,多名网友发现小红书在安卓应用商城无法下载.目前除小米商城的IOS ...
可信知识实证在UGC时代情报应用中的思考与探索
可信知识实证在UGC时代情报应用中的思考与探索在当前互联网高度发达.可发布信息源和信息渠道猛增且多元化的大背景下,信息形态变得广泛且多模.从传统的纸质文档,到中期的电子结构化文档.电子非结构化文本, ...
HTML 5适合小公司，适合在大平台上做内容
Web App,现在有时候也称为轻应用,不仅是通过浏览器就能打开的应用.现在随着 HTML 5 在手机端的优越性,已经慢慢称为了 Web App 的主流.Web App 除了出现在 PC 的浏览器中, ...

UGC之殇：如何确保内容安全

UGC之殇：如何确保内容安全相关推荐

最新文章

热门文章