信通院召开内容风控标准研讨会，知道创宇分享人工审核经验

近日，为进一步推动《内容审核体系成熟度评估规范》和《人工审核服务基础能力要求和评估方法》标准编写工作，中国信息通信研究院牵头召开了内容风控标准研讨会。会议对《内容审核体系成熟度评估规范》文稿内容，及《人工审核服务基础能力要求和评估方法》框架展开了讨论。

知道创宇作为“内容科技产业推进方阵”首批成员，受邀参加此次会议，内容风控产品经理王晨迪进行了《知道创宇人工审核团队能力介绍》分享。

✦

✦

人工审核在内容安全领域

具有不可替代性

2020年初，风靡全球的视频平台YouTube将内容人工审核团队大量裁撤，全部替换为AI审核。这导致2020年整个第二季度，因没有人工审核员参与内容初审，一众被误伤的YouTuber头疼不已；大量的申诉，给YouTube团队增加了重新审核的工作量。最终，YouTube迅速叫停这项举措，并且大批返聘在年初解雇的人工审核团队。

这次尝试，充分说明了人工审核的不可替代性。即便互联网内容数据库不断扩容、AI审核手段不断精进，也无法弥补审核AI准确率受审核类型、内容违规变种繁杂、网络黑灰产对抗手段加剧等影响而导致的机审误报率高的问题。

互联网行业的内容安全审核挑战

不断增加

随着互联网行业对日常生活的影响逐步扩大，内容安全在各项法律法规中的占比逐渐增加。多项政策并行、各类专项整治行动的开展，对社交媒体、电商平台等流量占比较重的互联网行业带来了巨大冲击。

世界贸易组织发布的《电子商务、贸易和新冠肺炎大流行》报告中指出，各国针对疫情采取的封锁限制、社交疏远和其他措施，推动了消费者增加网上购物、使用社交媒体和网络举行电话会议。但疫情伴随的蝴蝶效应，使广大人民群众加大了对互联网社交、电商行业的依赖程度。

以社交媒体为例，尽管已向成熟方向发展，但也不乏部分无良自媒体浑水摸鱼。在社交媒体平台上，每日会产生海量UGC内容，其中存在着大量未经核实的不良信息，极易对青少年身心健康、社会稳定乃至国家安全造成恶劣影响。

因此，内容合规、精细运营、黑产防治已成为互联网行业需要关注的重要问题。以电商为例，社交电商、直播电商、跨境电商等新模式、新业态不断涌现，随着政策监管趋严，电商同样面临业务合规、内容合规的新风险。

知道创宇人工审核能力优势

知道创宇作为专业的内容安全审核服务商，10年聚焦内容安全领域的耕耘，拥有上百名资深内容安全专家，具备多个数百人规模项目长期运营经验，专注达成客户的业务发展要求；以结果为导向，高质量助力客户持续稳定运营，与客户共同发展。

知道创宇具有多年监管单位、大型企业服务经验，积累了海量垃圾特征样本数据，应用于内容安全运营工作当中。目前，知道创宇人工审核的标签覆盖了7个一级标签、45个二级标签。

除了提供文本、图片、视频、音频、文档、电视墙、应急、关联等人工审核服务外，还承接内容标注、算法训练辅助等工作，均能达到实时接收、定制要求、快速布控、快速审核的应急响应能力。

团队经验丰富，素质过硬

知道创宇提供体系化、完善的审核人员培养机制，定期举行全员信息安全培训，打造出一批素质过硬、政治立场坚定、具备综合知识储备的审核员。团队内内容安全审核经验2年以上的员工占比超50%，5年以上的员工占比超20%。

同时，知道创宇作为专业的网络安全公司，始终把安全作为交付的重要要素，基于安全、合规、隐私、连续、透明，为企业提供有技术、有未来、可信赖的云服务。多年的合规治理经验以及业界优秀实践，也融入到对业务内容风控的管理、技术和流程中。

目前，知道创宇采用人机结合的内容风险控制体系，能够良好地辅助审核人员对内容进行把关，提升工作效率。知道创宇内容安全审核产品「护架卫士」与智能审核平台，将内容安全业务各环节高效串联并运转，也为各行各业提供了具体可执行的审核标准参考，在实际应用中效果显著。

未来，知道创宇将坚持以人工智能为基石、以人工审核为中坚力量，助力内容安全防护体系向着更精细化、更完善的方向发展，为不同平台的内容管理体系提供更高效、更规范、更可信的参考路径。

【活动预告】

DataFun 2022年智能风控技术峰会

2022年04月09日16:50-17:30 

《知道创宇：内容风控的“护航”与“未来”》

原文始发于微信公众号（知道创宇）：信通院召开内容风控标准研讨会，知道创宇分享人工审核经验