重保案例专栏
国家针对网络环境的监管力度日趋严格，在重要时期，各地监管单位更面临着严峻的内容安全风控压力挑战。知道创宇在内容安全治理方面具备十余年经验，得到了监管单位、政府机构、世界五百强企业的高度认可。
本篇“重保案例专栏”，将以多个不同监管单位的案例，梳理监管行业内容安全一体化治理解决方案，为众多有重保需求的单位提供成功经验。
网络环境治理趋严，监管单位挑战剧增
2022年以来，国家网信办等相关监管部门发布了《网络安全审查办法》《互联网宗教信息服务管理办法》《未成年人网络保护条例(征求意见稿)》等十余项法规，部署开展“清朗”“铁拳”等系列专项行动，整治各领域网络乱象。
“清朗”行动开展3个月以来，共处置违规直播间56.3万个，清理违规短视频235.1万条，关闭违规用户账号12万个。可以看出，国家针对网络环境的监管力度较往年更加严格。
2020年3月1日，国家网信办发布的《网络信息内容生态治理规定》正式施行，明确了“地方网信部门负责统筹协调本行政区域内网络信息内容生态治理和相关监督管理工作，地方各有关主管部门依据各自职责做好本行政区域内网络信息内容生态治理工作。”
以省、市、县（区）为单位的监管部门（公安部、网信办、扫黄打非办），兼具对辖区内备案网站合规性管理的责任。辖区网站内容安全兹事体大，一方面，不良内容会影响广大网民的上网体验；另一方面，在重要时期，政府单位等重要网站也更易成为攻击者篡改的目标。因此，保护内容安全是辖区网络空间治理能力的重要体现。
然而，互联网鱼龙混杂的内容激增以及趋严的网络环境治理趋势，无不对监管单位产生了不小的压力与挑战。
监管行业内容安全治理三大痛点
✓
辖区网络资产庞杂，
易产生内容安全死角
网络资产的范围广，凡是网络当中活动的或可以被访问到的目标，都可以归类为网络资产，如门户网站、自媒体、短视频、电商平台等，而辖区内网络资产的内容风控也成为决定整个辖属网络安全建设是否达标的关键因素。
监管单位重点关注的机构网络资产数量庞大且分散，各机构独自管理，若监管单位缺少对各机构的网络资产的统一管理措施，便容易出现资产遗漏的状况，导致内容安全死角的产生，带来未知的内容风险。
✓
网络内容数量激增，
安全监测、防护、审核压力倍增
2021年，我国网民规模已达10.32亿，网民数量激增也使文字、图片、短视频等各类网络内容激增。这其中违规内容层出不穷，且因其具备场景多、变种多、对抗性强等特点使审核难度增加。同时，在重要时期，还会有攻击者对网页进行篡改，传播不良内容，造成巨大影响。
对于监管单位来说，办公室人员编制较少，又承担着整个辖属网络资产的内容风控工作，工作压力大。在重要时期保障、支持各类专项行动如“清朗”“净网”“扫黄打非”等行动，以及应对突发内容安全事件时，即使超负荷工作也难以管理大量的内容安全问题，更遑论专项行动中还需要人审研判取证来辅助机审结果。
✓
突发舆情热点了解不足，
无法及时抓住源头
在突发舆情热点时，需要第一时间了解属地内的网络资产是否进行跟风、炒作行为。而由于监管单位人力资源有限，对于舆情热点，缺少专业团队进行跟踪梳理并及时解读。
另外，对于发现跟风、炒作、发表不良言论的网络资产，也缺少有效工具及团队进行追踪溯源，导致无法在第一时间发现并阻断扩散源头。
监管行业案例一览
针对监管单位面对的压力与挑战，知道创宇针对具体单位的业务需求，基于十余年内容风控实战经验，采用ScanA监管版内容安全云监测，为监管单位提供内容安全智能一体化解决方案。
某网信办
根据该网信办要求，知道创宇采用ScanA监管版内容安全监测，主动采集属地内ICP备案网站等网络资产，并掌握政府机关、事业单位、高校、医疗、国防机构等重点单位网络资产。
通过引擎内置的涉黄、涉政、暴恐、反动、博彩、民生等敏感词汇海量样本库，进行机审初判+人审研判的审核流程，输出准确率高于99.5%的内容风险取证结果。助力该单位全面了解全区网站内容安全态势，配合辖区党政机关单位及时掌握本单位网站内容动态。
某扫黄打非办公室
根据该扫黄打非办公室需求，知道创宇采用ScanA监管版内容安全监测，协助该单位主动发现非法出版物在网络上的销售、传播行为，进行严密封堵和查缴。
根据最新内容治理策略，知道创宇进行专项策略布控，提升精确化监测服务能力，对属地网络资产提供历史数据内容监测，发现色情、博彩、涉未成年人等内容隐患，有力净化网络环境。
某公安局
根据该公安要求，知道创宇采用ScanA监管版内容安全监测，主动采集属地内ICP备案网站等网络资产，通过引擎内置的涉黄、涉政、暴恐、反动、博彩、民生等敏感词汇海量样本库，对存在明显违法违规的网络犯罪行为予以发现。
协助公安机关进行人审研判、取证通报。除了日常的辖属范围内容风险识别，还应公安要求，对重点舆情事件进行辖属范围内的发现、取证。
知道创宇ScanA：
内容安全智能一体化解决方案
知道创宇ScanA内容安全智能一体化解决方案分为监管版、政府版、企业版三个版本，其中ScanA监管版，针对监管单位对互联网的不良信息治理、净化互联网空间的管控目标而推出。
通过互联网违规内容识别SaaS服务，可将网站、公众号、微博等被监管目标批量加入到监测列表，采用爬虫和AI引擎，识别黄赌毒、涉政等违规风险，准确率高达99.9%。
同时，能够按照监控策略分别实施ICP网站备案检测、不良内容识别、违法信息监测与处置等各项功能。
只需5分钟，辖区违规信息，一键监控
ScanA的工作流程：
捕获辖区网络资产→违规内容识别取证→人审研判实时告警→违规内容整改验证→定期输出分析报告。
8大功能，为内容监管助力
辖区资产主动采集
建立管辖范围内的互联网监测信息基础数据库，对辖区ICP备案网站、公众号、APP、微博等内容载体进行全面收集。
全面资产监测能力
具备对网站、公众号、微博等网络资产进行“机审+人审”的主动监测能力；具备对APP的人工巡查能力。
违规内容识别引擎
通过主动监测爬取网站文字、图片、JS等内容，并基于海量的数据库对接AI引擎精准高效识别网站涉政、涉黄、博彩等违法违规内容。
疑似违规专家研判
针对AI机审疑似违规内容，安全专家会再次进行人工复核精准研判；针对自定义敏感词监测，人工专家可根据定制化需求进行审核研判。
辖属舆情主动监测
对辖属范围内的网站、APP、公众号、微博等进行数据爬取、整合、清洗，判断舆情的负面影响。将传播范围、事态变化等分析结果以可视化方式呈报监管单位。
违规内容取证留存
针对违规内容进行精准识别定位，对违规内容的上层链接入口进行准确定位并截图取证留存，违规界面截图取证留存，便于后期复核查询。
违规内容分析报告
违规网站内容下载留存并整理分析，定期输出监测报告给予相关监管部门，监管部门进行企业/网站违规通报。
7*24违规通知预警
机审完成后有疑似违规会实时通知告警人审进行研判、确认，7*24H值守，为内容安全保驾护航。
监管单位收益
01
辖属网络资产统一监管，避免内容安全死角
通过对辖区网络资产进行梳理，建立监管单位对辖区各机构网络资产的统一监管措施。
同时，对网站、公众号等辖区网络资产存在的内容风险问题进行摸底排查及定期监测，避免内容安全死角产生，消除内容安全隐患，协助监管单位对辖属资产进行内容安全治理，避免因内容风险问题导致被上级单位通报。
02
AI赋能的人机协同高效团队，省心省力
SaaS服务一键接入，“零部署、零维护”，所有交付工作由知道创宇专家团队完成，无需客户参与。
针对本级和上级监管单位规定的最新内容治理策略，可进行专项策略布控。
通过千亿级海量样本库、百万级敏感词库、上万种变体类型、数百种语义标签，结合创宇安全智脑行为分析，能高效识别各类场景中涉政、博彩、色情、违禁、毒品、垃圾广告等违规内容，同时监控域名数量可达100万个。人机协同，可输出准确率高于99.5%的内容风险取证结果，省心省力。
03
属地舆情动态及时掌握，快速研判
专业舆情团队紧跟舆情热点，可对日常舆情、突发事件等进行属地范围内的监测，协助监管单位即时掌握了解属地舆情动态。
对可能引发和潜在的各类舆情风险点进行监测和综合研判，可及时有效的向本级和上级报送舆情信息。
通过知道创宇威胁情报数据库，对于突发舆论事件亦可快速追本溯源，从源头进行阻断。
正值重保季，知道创宇期望通过实战锤炼的内容安全能力助力监管单位守护网络空间的良好环境，为亿万网民营造安全、清朗的网络。
原文始发于微信公众号（知道创宇）：重保案例专栏｜监管行业如何构建一体化内容安全治理体系？
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论