01 概述目前，生成式人工智能（生成式AI，或AIGC）是人工智能发展的热点，更多的人愿意并主动开始使用人工智能模型帮助自己的学习与工作。但目前由算法进行生成的内容通常没有进行完善的检测监管，在《LL...
02月22日26 views评论人工智能
安全性
大模型输出内容安全：分类和保障
02月22日26 views评论人工智能
安全性
02月22日26 views评论人工智能
安全性
警报：大模型正叩响内容安全大门
随着大语言模型在各领域的广泛应用其潜在风险和威胁逐渐凸显不准确或误导性信息引发的「内容安全」正成为无法忽视的安全隐忧↓不公平性与偏见对抗性攻击恶意代码生成以及安全漏洞利用持续发出风险警报* 2023年...
01月26日6 views评论chatgpt
llm
警报：大模型正叩响内容安全大门
随着大语言模型在各领域的广泛应用其潜在风险和威胁逐渐凸显不准确或误导性信息引发的「内容安全」正成为无法忽视的安全隐忧↓不公平性与偏见对抗性攻击恶意代码生成以及安全漏洞利用持续发出风险警报* 2023年...
01月26日12 views评论chatgpt
llm
中国xx集团信息技术工程师面试
本文由掌控安全学院 - sbhglqy 投稿 进入面试间，坐着三位面试官，压力扑面而来，三位面试官先做了自我介绍，介绍了一下面试的流程后才开始面试。 一、自我介绍 不多说。 二、看你...
10月20日15 views评论ctf
数据集
重保案例专栏｜监管行业如何构建一体化内容安全治理体系？
重保案例专栏国家针对网络环境的监管力度日趋严格，在重要时期，各地监管单位更面临着严峻的内容安全风控压力挑战。知道创宇在内容安全治理方面具备十余年经验，得到了监管单位、政府机构、世界五百强企业的高度认可...
02月03日47 views评论一体化
网络资产
CSO面对面｜对话迷你世界，畅谈游戏行业的安全建设
近年来，游戏行业面临的安全威胁层出不穷，肆虐的黑灰产攻击、多样化的外挂等给各大厂商带来巨大困扰，沙盒游戏作为当下热门的游戏类型之一，在拥有越来越大的用户基数时，也迎来多种游戏安全难题。游戏厂商如何应对...
08月06日14 views评论安全建设
安全问题
两会重保，内容安全你忽视了吗？
十三届全国人大五次会议与全国政协十三届五次会议即将在京召开。在新冠疫情持续不断、全球经济复苏充满挑战的当下，世界目光聚焦中国两会。当前，国际格局正处复杂变化的重要时刻，俄乌开战，网络舆论战更成为现实战...
03月03日78 views评论scan
政府机构
UGC之殇：如何确保内容安全
近日，某UGC大厂因内容审核专员猝死事件连续成为舆论焦点，也将内容安全审核从业者们推上了风口浪尖。互联网内容正以指数规模增长。近年来，监管部门和行业协会为了约束内容乱象、规范平台运营，频频出手整治，不...
02月22日79 views评论平台
用户