AI审核时代,互联网内容安全的最后守门人

  • A+
所属分类:云安全
AI审核时代,互联网内容安全的最后守门人


AI审核时代,互联网内容安全的最后守门人


“网络空间不是法外之地,清朗网络我们守护。“

而我们是谁?


2020年,国家网信办动作不断,严厉打击各类互联网违法违规行为。公开信息显示,全国网信系统去年依法约谈网站4282家,对4551家网站给予警告,暂停更新网站1994家,会同电信主管部门取消违法网站许可或备案、关闭违法网站18489家。净化网络环境的任务是长期的,2021年,国家网信办打击互联网违法违规行为将成常态。监管通报可能会导致平台停运、停更,并伴随着网民的巨大争议。


AI审核时代,企业对事前、事中、事后全链路的内容风控是否买单?AI审核在全链路中发挥着怎样的能力?内容审核专家又承担着怎样的责任?


AI审核时代,互联网内容安全的最后守门人



人机协作是内容安全闭环的基础


随着新技术、新应用的不断普及,个性化算法推荐被广泛应用于信息内容的分发与推荐,在提高信息内容分发效率的同时,也带来了内容安全、传播虚假新闻等问题。利用深度学习等AI技术伪造或合成的图片、音频、视频,进行敲诈勒索、假冒身份、散布虚假信息等行为都加大了内容治理的难度。


以智能检测视违规频为例,准确率很难达到百分之百。机器学习应用于机器审核的前提是有大量多样化标注的训练样本,并且用于实际监管的数据与训练样本有一定的相似性。然而被监管的视频内容场景多样、内容多样,机器学习目前的技术水平达不到百分百的敏感内容审核准确率和召回率。所以,在机器去除大量明显非敏感视频后,需要由人工进行二次审核。机器审核可以大幅降低人工审核的工作量,同时人工审核会进一步提高审核准确率。


因此,想做好内容安全,必须人机协作。无论是从算法研究、服务开发、策略运营、用户运营、人工审核和技术支持等环节都需无缝链接,且需具备“实战经验+数据积累+多岗协作”的能力,才能完成整体的内容安全的闭环。


基于此,人工审核专家被称为“AI审核时代,互联网内容安全的最后守门人”,当之无愧。



知道创宇业务安全大脑应用平台

全链路业务风控解决方案


知道创宇基于“AI+引擎+安全大数据+人工专家”,已搭建了知道创宇业务安全大脑应用平台,为全行业(政企单位、领军企业、中小企业、自媒体团队)提供全链路业务风控解决方案,涵盖内容安全、互联网认证、内容标注、诚信认证、不良信息监督举报等产品服务。深刨自动化的服务体验背后,其实仍是“AI+引擎智能风控”和“人工专家风控”的双剑合壁。


AI审核时代,互联网内容安全的最后守门人


在现实场景中,知道创宇业务安全大脑应用平台会遇到很多需要人工审核来填补机器无法覆盖的场景的问题。抛开算法推荐、深度伪造等新技术带来的困境,仅仅中国语言博大精深,色情、赌博、诈骗一类的问题内容永远会有变形。


在拥有足量、多样化的训练样本前提下,机器对视频内容识别、过滤等任务的完成速度可能更快,但是在正确率上,机器识别结果很难超过训练数据标注人员群体给出的结果。但是随着数据的积累,机器的内容识别、过滤能力会逐步加强,在全链路的审核流程中,占据更大的百分比。



知道创宇「人机协同」两大使用场景


1. 智能「人机协同」作业平台

背景:由于审核管理一直缺乏通用的审核规范,审核人员操作的后台也是内部比较边缘的后台,使得大多数审核人员在使用审核操作系统时遇到很多问题,比如操作繁琐、交互体验不友好,甚至很多操作需要跳转到多个后台处理。


产品介绍:基于知道创宇10年专业内容安全审核实战经验,打造的自有智能审核平台。标准化的内容审核平台,可以提高内容审核专家工作效率,帮助快速获得内容安审能力。


目前,知道创宇已将智能审核平台产品化,高度集成、高度开放,可以兼容不同行业的不同需求的审核场景(个人&企业认证、文本、图像、视频、图文、音频内容安全审核等),支持自定义有害标签及过滤规则,可实现本地化部署,赋能企业端用户。

2. 护架卫士「人机协同」内容安全服务

背景:知道创宇业务安全大脑应用平台目前在处理效率、准确率上已经达到了比较好的效果,但还是存在一些疑似违规的内容需要人工再次确认。


产品介绍:“AI+引擎智能风控”与“人工专家风控”双剑合璧,覆盖涉政、涉黄、涉恐、涉赌、涉民族宗教、涉意识形态、涉公共秩序等违规信息识别。海量安全数据样本沉淀,实时审核多节点部署,达到秒级返回速度,精准拦截违规内容,助力企业实现平台稳定运营、内容统一管控、全程溯源、实时审查。



AI审核时代,互联网内容安全的最后守门人




AI审核时代,互联网内容安全的最后守门人
精彩推荐



知道创宇杨冀龙:云安全践行者
成都13岁男孩猥亵敲响警钟 未成年人网络环境治理刻不容缓
《数字经济》对话知道创宇赵伟 安全保障数字经济



AI审核时代,互联网内容安全的最后守门人
AI审核时代,互联网内容安全的最后守门人

👇 点击阅读原文,了解更多护架卫士~

本文始发于微信公众号(知道创宇):AI审核时代,互联网内容安全的最后守门人

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: