扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063确保人工智能安全、可靠、可控,有利于人类文明进步,是人工智能发展必须解决的重要课题。党的二十届三中全会《决定》作出“建立...
AIGC安全评估
背景介绍最近有朋友问到AIGC安全评估的一些问题,最近做了一些调研,因为博主视野有限,文章不足之处请谅解。根据国家网信办、国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门的要求,...
对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。 往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上) 三 生成式AI分类 生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属...
Gartner:2024年 十大战略技术趋势
Gartner:2024年10大技术趋势2024年,人工智能将主宰企业,而云服务、安全和可持续性的影响力也在上升节选来源:Gartner近日,Gartner发布2024年企业机构需要探索的十大战略技术...
【论文速读】| 攻击图谱:从实践者的角度看生成式人工智能红队测试中的挑战与陷阱
基本信息原文标题:Attack Atlas: A Practitioner’s Perspective on Challenges and Pitfalls in Red Teaming GenAI原...
生成式大模型训练数据的法律规制 ——以比例原则为分析视角
编者荐语本文通过运用比例原则的核心价值,应对生成式大模型训练数据带来的风险与挑战,进而构建一套关于生成式大模型训练数据风险管理的理论框架。本文发表于《信息安全与通信保密》2024年7期引用格式:钟海燕...
新加坡网络安全局发布《AI系统安全指南》
扫码立即加入学习!来源:互联网法律匠作者:麻策律师这是新加坡政府机构今年第三次发布AI安全相关文件。新加坡在人工智能领域的安全治理野望,属于路人皆知的存在。继新加坡在2024年5月30日发布的《生成式...
缩小攻击面对抗生成式人工智能网络犯罪
一图看懂网络安全"四法二条例"前沿典藏版一图看懂《网络安全法》前沿典藏版一图看懂《密码法》前沿典藏版一图看懂《数据安全法》前沿典藏版一图看懂《个人信息保护法》前沿典藏版一图看懂《关键信息基础设施安全保...
网络安全中人工智能的伦理问题
即使我们并不总是有意识地意识到这一点,人工智能现在已无处不在。我们已经习惯了电子商务中的个性化推荐系统、由对话式人工智能驱动的客户服务聊天机器人等等。在信息安全领域,多年来我们一直依赖人工智能驱动的垃...
澳洲关于隐私以及开发和训练生成式人工智能模型的指南(全文翻译)
编者按关于LLMs(大型语言模型)的风险和监管,本公号发布过以下文章:ChatGPT是网络上的一个模糊的JPEG文件(外专观点)ChatGPT是如何劫持民主进程(外专观点)ChatGPT:欧洲禁止Re...
AI疲劳了?让我们来看看真正的AI 安全要点
unsetunset0x00 前言unsetunset趋势科技美国企业首席风险官 David Roth 与特邀演讲嘉宾 Forrester 副总裁兼首席分析师 Jeff Pollard 最近就人工智能...
AI vs. AI:人工智能时代的网络安全攻防战
网络犯罪分子正利用人工智能(AI)发动更为复杂、规模化和先进的定向网络攻击。AI为攻击者提供了动力,使他们能够创造出逃避检测的变形恶意软件、极具说服力的网络钓鱼手段,并实现了高级攻击的自动化。Deep...
29