听运营者们分享背后的故事 2017网易易盾成就内容安全王道
【51CTO.com原创稿件】2017年1月8日,天公作美吹散了漫天雾霾,网易大厦在周末的下午迎来了一百多位互联网运营小伙伴,共聚“亿级互联网产品背后的故事”线下沙龙,一起讨论互联网内容安全运营的话题。
谈及举办这场活动的初衷,网易易盾总经理周森表示,随着国内互联网的蓬勃发展,网民数量的激增,互联网的运营工作越来越难:例如对用户上传内容尺度难以把握、海量垃圾信息骚扰难清理、垃圾样本变化多端难过滤、人力审核成本不堪重负……
那么这些问题该如何解决?不同阶段的运营会遇到哪些典型问题?互联网安全的真实现状又是怎样一番场景?未来该往什么方向发展?为了解答这一连串的疑问,周森领导的网易易盾团队邀请了美拍、畅游游戏,以及网易自身的资深运营专家予以解答,通过他们的讲述,我们不仅可以听到运营者们背后的故事,对于互联网内容安全的未来发展更是有了更清晰的判断。
网易跟贴:让用户遇见另一个自己
孙媛媛是沙龙第一位发言嘉宾,身为网易跟帖运营主管的她,从自己工作的角度,向大家介绍了网易跟帖背后的运营故事。
孙媛媛先介绍到,网易跟贴是网易门户新闻下的网友评论,内容以犀利有才著称,是网易新闻的特色,也是中国网民智慧和社会生态的集中反映。目前网易跟贴累计注册用户数达到3亿+,日均参与顶、踩的用户数近9000万,日均发贴条数120万+,日均发贴用户数30万+,已经成为国内最活跃、最有深度的新闻评论社区。
“我们的工作就是要保证优质的跟贴内容能够凸显出现,同时保持观点的多样性,吸引大家评论。”孙媛媛透露,跟帖越踊跃,运营工作者的工作就繁重,网易的运营人员平均每天要审核6000-8000条跟贴,内容包括政治敏感、广告、低俗、色情、刷屏五花八门。
正如孙媛媛所强调的,建立的人与人之间的关系是以内容为前提,在优化用户的阅读体验、探索互动运营的过程中,内容的健康非常重要,也是互联网社交类产品的立足根本。
美拍:谈谈社区产品反作弊与内容监控
美拍安全产品经理田孟月的发言非常接地气儿,她不仅列举了大量实际社区运营案例,更是从运营者的角度出发,对社区产品运营给出非常多有效的建议。
她率先谈到了大家经常遇到的作弊行为,其中既有针对电商的刷单行为,也有针对广告文章刷阅读数刷赞行为,还有针对社交的刷粉丝行为。这些作弊行为以营利为目的,既伤害了用户体验,也影响了社区/产品氛围。
她以美拍为例,介绍社区产品常见的作弊形态,如SEO营销、广告骚扰、色情、上热门等。那么该如何发现作弊行为呢?她给出了五个建议:一是通过产品统计数据监控,二是通过业务数据例行评估、三是通过举报数据分析、四是进行产品前端巡查,最后是依靠群众的力量,从用户反馈中发现端倪。
当谈到如何进行高效的内容监控时,田孟月认为,内容审核不仅仅局限于文字,还包括图片、视频、音频,人工审核已经渐渐无法完成海量的审核任务,应该充分发挥技术优势,提高审核效率,减少人工审核成为。除此之外,敏感词的词库需要及时更新,违规的内容要上报,与上级主管单位保持联系,确保内容审核工作与时俱进。
畅游游戏:一夫当关 竖游戏安全之盾
邢哲源是畅游游戏安全工程师,他表示在游戏安全领域内,每天都会面临着不同的威胁,其中以盗号、作弊和垃圾信息最为常见。目前随着个人电脑和安全软件的普及、硬件密保和手机密保的推广,账号安全问题已经得到的极大的改善,反作弊与反垃圾信息就成为了工作的重点。
这些作弊行为和发送垃圾信息的行为,对内影响游戏内商城收益,扰乱游戏内经济系统,更关键的是,外挂账号发送大量无用的数据包,影响服务器性能并占用带宽资源;对外而言,对于游戏玩家来说,大量明显的“非人”账号堆积在一起容易影响玩家情绪和感官,可以说是百害无一利,人人欲诛之。
邢哲源表示,在最初,他们采取的措施是技术对抗,通过技术手段“发现”游戏客户端可能存在的外挂程序;随后发展成数据分析,他们根据用户的集群性和行为相似性,带入合理的模型进行分析,从而发现目标。“现在我们已经可以两者结合在一起,根据不同项目不同时期需求进行调整。”
在邢哲源看来,处罚规则是整个反作弊&反垃圾体系中最重要的环节,他认为,以维护游戏环境和谐为职责的他们,不仅需要打击罪恶,同时也需要“引人向善”,于作弊者,每一次的处罚都是一次试错过程,简单的处罚规则更容易破解。“中间的度一定要把握好。”
网易易盾:内容优化运营实战策略及企业级产品经验交流
网易易盾高级产品经理饶晓艳一上台,底下听众的议论就不绝于耳,在大家看来,毕竟前面几位发言嘉宾珠玉在前,看上去这么年轻的一个女士,能聊出什么新料呢?可饶晓艳发言结束后,台下报以热烈持久的掌声,这是对她发言的肯定,也是对网易易盾做了大量幕后工作的敬意与认同。
饶晓艳首先表示,这是一个内容为王的时代,从流量到场景,从产品到人,都在围绕着内容做文章。那究竟为什么在内容运营中要专门做反垃圾呢?饶晓艳以音乐评论举了一个例子,目前我国云音乐的用户数突破2个亿,在UGC方面,用户自主创建歌单超过8000万,大约有50%的用户会边听歌边看评论,音乐评论总量已经超过2亿条。“在这些评论中,掺杂着大量广告、低俗信息,极大地影响了评论者的使用感受和评论积极性。” 饶晓艳谈到,对运营者而言,大量违规的垃圾信息的存在,也违反了国家规定,给运营工作带来了极大的风险。
她将发垃圾的不法分子称之为“垃圾虫”,并将这类人群的特点归纳成六类,那就是占领热门、不分昼夜、持续对抗、分工协作、利益明确、法律边缘。
那么究竟该如何对症下药呢?饶晓艳表示,网易易盾的做法是首先明确产品主要的垃圾分类,是属于网友普通的情绪谩骂,还是专业团队打擦边球打广告,还是明知法律令行禁止发布反动内容?
做好分类之后,就要根据内容的形式进行过滤,看用户是通过文字内容、图片内容、视频内容还是音频内容进行传播?文字内容的过滤大家往往都比较了解,但是像图片过滤就需要用到机器学习、鲁棒图片特征检测、人脸识别这些技术了。而视频过滤则用到视频转码压缩、视频流分析、截图分析、视频特征识别等技术。
“以图片识别为例,网易易盾的服务目前可以支持人脸识别、色情图片检测、动漫识别、相似匹配、水印识别等多种识别方式。” 饶晓艳还表示,在语音过滤领域,网易积累多年经验,语音MD5库实时过滤有害语音,可以同时将语音转成文字进一步过滤。
正所谓“眼见为实”,饶晓艳在现场打开网易易盾的官网,在产品界面,向大家演示了图片、文字的过滤识别,如此简便易操作的方式赢得了大家的认可。
在线下会议结束时,还有听众针对她所介绍的网易易盾产品不断提问,追问细节,可见众人对网易易盾产品的兴趣浓厚。
也有的听众问,为什么网易如此关注互联网内容安全话题?其实这位听众有所不知,网易可能是国内最有发言权的互联网权威之一了,从关键词、黑白名单到过滤器这些反垃圾技术应用之日起,网易的反垃圾团队经过了19年的技术积累,并且早已将大数据分析、人机识别、人工智能这些新兴技术应用到反垃圾实践中。2017年,记者希望中国互联网内容安全可以吸引越来越多的人参与,网易易盾也能充分发挥技术优势,帮助更多的互联网客户实现全面的内容安全。
作者:周雪
来源:51CTO
听运营者们分享背后的故事 2017网易易盾成就内容安全王道相关推荐
- 黄永玉《十二生肖》合集藏品已空投,走进十二生肖背后的故事
5月12日至14日,黄永玉<十二生肖>数字藏品全部秒空售罄.十二生肖.十二年,不可多得的艺术佳品. 本次活动共有281位藏家集齐全部12件数字藏品,百度百科艺术家计划与百度超级链空投了一份 ...
- 听“Siri之父”讲述Siri背后的故事
听"Siri之父"讲述Siri背后的故事 Adam Cheyer是人工智能领域里的先驱,他生命中的绝大多数时间都奉献给了他所谓的"口头陈述目标",至今他依然为此 ...
- 腾讯技术分享:微信小程序音视频技术背后的故事
1.引言 微信小程序自2017年1月9日正式对外公布以来,越来越受到关注和重视,小程序上的各种技术体验也越来越丰富.而音视频作为高速移动网络时代下增长最快的应用形式之一,在微信小程序中也当然不能错过. ...
- Vue框架背后的故事
文章目录 前言 Vue萌芽 Vue名字的由来 因着Vue免试进入Meteor Vue逐步完善 Taylor推荐Vue Vue因受质疑发布1.0 LinusBorg加入 萌生全职做Vue想法 Vue在恰 ...
- 大会 | SEE Conf:Ant Design 3.0 背后的故事
SEE Conf大会精彩回顾 1月6日,首届蚂蚁金服体验科技大会 SEE Conf 2018 在杭州成功召开.SEE = Seeking Experience & Engineering,意为 ...
- 专访最强夫妻店:“神庙逃亡2”开发背后的故事
摘要:Imangi近期发布了Temple Run 2,上架仅数小时即登顶App Store榜单.在做第一款游戏时Imangi只有三人,为了做出更好的游戏,不仅新添两名成员,更舍弃自家的游戏引擎,转投U ...
- 作者谈《阿里巴巴Java开发手册(规约)》背后的故事
1.前言 距离<阿里巴巴Java开发手册(规约)>(下称<手册>)对外正式发布已经1年多了.在过去的3日子里,这本小小的手册在业界产生了巨大的影响力.值此一周年之际,我们不妨一 ...
- FreeSWITCH背后的故事(译)
http://www.dujinfang.com/2009/10/31/freeswitchbei-hou-de-gu-shi.html 本文原是是Anthony Minessale写的.杜金房先生翻 ...
- 市值首超6000亿美元!微软云转型背后的故事
关注ITValue,查看企业级市场最新鲜.最具价值的报道! 2017年10月,微软市值首次超过6000亿美元.这是Satya Nadella成为微软第三任CEO后,所创造的新微软历史,上一次微软市值 ...
最新文章
- 2019牛客全国多校训练三 题解
- 12岁AI开发者现身DuerOS发布会:得开发者得天下
- python mmap对象
- excel2010设置列宽为像素_vba:如何设置excel图表的宽度和高度(以像素为单位)?...
- 输入 3 个正数,判断能否构成一个三角形。
- JVM优化系列-JVM G1 垃圾收集器
- java钓鱼_基于java的鱼友约钓鱼的系统
- 支付宝 app,网站支付宝登录
- Too many open files故障解决一例
- Autodesk 3ds Max 渲染之后保存页面卡死问题
- 软件项目管理测试文档,软件项目管理具体方法体系示例
- 漫画戏说:如何破解MD5加密算法
- 关于语音提醒app的设计思考
- 【BZOJ1062】糖果雨(NOI2008)-数形结合+二维树状数组
- python 微信自动回复_python微信机器人自动回复
- Java数组实现进制转换
- 文笔很差系列1 - 也谈谈AlphaGo
- A* 流程+代码详细注释
- Python | 怎么在基金定投上实现收益最大化
- 怎么开发联机小游戏_惊!!!个人游戏开发者的福音来了!
热门文章
- win7 双系统 使用 MBRFix 卸载 Ubuntu
- android 人生日历,人生日历Android版新增日子,从此生活“拍”着过
- HTML5 Canvas | w3cschool菜鸟教程
- speedoffice表格中身份证号码显示不全怎么解决?
- [备忘] 使用UltralSO制作Ubuntu的U盘启动盘
- 概率统计Python计算:用样本均值和方差计算总体参数的点估计
- 【MySQL】数据库设计文档生成
- 开发实战分享|小程序扫码获取图书信息(内附详细教程)
- RadioButton+Fragment和XlistView及多条目加载
- ORACLE EBS WORKFLOW实现多附件下载