近日，某UGC大厂因内容审核专员猝死事件连续成为舆论焦点，也将内容安全审核从业者们推上了风口浪尖。
互联网内容正以指数规模增长。近年来，监管部门和行业协会为了约束内容乱象、规范平台运营，频频出手整治，不但在“加强审核能力建设”“健全内容审核机制”等方面作出要求，还配合“建立内容审核标准”等出台多项细则。
“内容安全审核从业者”也成了维护网络内容安全、营造清朗网络空间的绝对刚需。
UCG平台
内容安全审核员压力山大
不同于门户网站时代推行的编辑负责制，以今日头条、抖音、快手、B站、知乎等代表的UGC（Users Generate Content，用户原创内容）平台，通常采取机器抓取和算法推荐的方式向用户推荐内容，极易产生违法犯罪、标题党、色情、暴力等大量有害身心的违规内容。
客观上，UGC平台在内容安全上面临着非常严峻的压力。
今年1月份，大量通过学校、医院等公共场所摄像头获取的监控视频开始在B站中流传，甚至出现了男医生直播妇科手术事件。该直播事件已被日照市公安局东港分局立案。
但这只是问题一隅。“若因平台上有内容创作者、授权人或其他第三方作出被指令人反感的内容，使广告商削减广告，可能会对我们的广告收入带来重大不利影响。”B站在招股书中直言。
平台内容安全是网络安全乃至国家安全的重要组成部分，因此平台要负起主体责任，过滤掉有害内容，净化网络环境。由于UGC平台生产的内容数量庞大，通常采用机器初筛、后续进行人审复核的“人机协同”模式。
AI内容审核具有范围广、高效率、低成本等优势，但很难提升内容审核的精确度，包括有歧义的文字、模糊的图片等。
因此，在用户上传文本、语音或图片后，机器对内容解构并提取关键信息，与数据库中的违规内容进行对比，进行清洗过滤。与此同时，数据库特征样本和筛选标准也由人工完成。
内容审核专员需要通过夜以继日地工作，来确保筛选系统识别的标记内容在发布之前能得到及时审核和确认。
随着各平台审核系统的越发完善，对单个审核员的能力要求也越来越具体，可用“三重门”来概括：
一重门是要做好UCG产品的“防火墙”，是防止产品因为内容问题被通报而“夭折”；
二重门是既要符合平台的审核规则要求，过滤内容，又要考虑用户的喜欢，让用户看到的内容保质保量；
三重门是需要承受用户的压力，毕竟作者都希望自己的观点、原创、思考不被别人轻易抹去。
这“三重门”，既为内容安全审核员制定了高标准的要求，也让审核员们承受了过重的压力。
知道创宇护架卫士
确保UGC内容安全建设
为平台审核员“减负”
知道创宇整合十年内容风控实战经验，推出护架卫士「人机协同」内容审核解决方案，具有六大优势，在为平台审核员减轻审核压力的同时，确保UGC平台内容安全建设：
01
专业的运营服务能力
知道创宇作为专业的内容安全审核服务商，10年内容安全领域耕耘，拥有上百名资深内容安全专家，以及多个数百人规模项目长期运营经验。
我们聚焦于服务企业的业务发展要求，以结果为导向，高质量助力客户持续稳定运营。
02
行业领军企业都选择的内容安全服务商
知道创宇为腾讯视频、京东、金山文档、新氧、Keep等领军企业提供多年内容安全服务，覆盖全行业、全维度的服务案例，是最好的交付成绩单。
03
标准与监管对齐
知道创宇内容安审通用审核标准均源自《内容审核标准》《视听节目审核通则》《电子商务法》《网络直播自律公约》《短视频平台规范》《信息服务管理办法》等权威标准，完全符合监管要求。
04
机审+人审的一体化解决方案
提供“机审+人审+智能审核平台”一站式服务，既承载企业内容安全审核责任，又规避了企业自建平台的成本、技术及运营风险，也无需企业寻求不同服务商满足需求。
05
自研违规内容识别引擎
基于NLP技术（Fasttext、HMM、CRF、Word2Vec等）构建的复杂算法模型体系，避免单一模型的误杀和漏杀。
违规识别高准确千亿级海量样本库、百万级违规词库、上万种变体类型，数百种语义标签、高效识别各类场景中涉政、色情、违禁、垃圾广告等违规内容。
06
独有的暗网开源情报
全面深入的外网情报收集、舆情分析，为服务企业及监管机构提供暗网开源情报。
实时监测舆情趋势，动态追踪违规态势，增量模型小时级更新，违规词库秒级更新、产品快速迭代升级。
UGC衍生出来的庞大的内容生态系统想要实现治理，仅凭平台一方之力显然无法真正做到。构建起一个监管主导、运营商协同、平台企业承担主体责任、内容安全服务商各司其职、网民遵守的综合治理模式或许才是破局的关键。
知道创宇正在运用机审、人审等多种手段对UGC内容生态中的有害信息进行清理，服务平台与多方共同营造风清气朗的网络空间。
如有护架卫士相关业务需求
请扫码获取专家支持
👇 点击阅读原文，了解更多护架卫士～
原文始发于微信公众号（知道创宇）：UGC之殇：如何确保内容安全
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论