前言确保人工智能安全、可靠、可控,有利于人类文明进步,是人工智能发展必须解决的重要课题。党的二十届三中全会《决定》作出“建立人工智能安全监管制度”“完善生成式人工智能发展和管理机制”等重要部署。如何加...
专家观点 | 深化人工智能安全监管研究
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063确保人工智能安全、可靠、可控,有利于人类文明进步,是人工智能发展必须解决的重要课题。党的二十届三中全会《决定》作出“建立...
AIGC安全评估
背景介绍最近有朋友问到AIGC安全评估的一些问题,最近做了一些调研,因为博主视野有限,文章不足之处请谅解。根据国家网信办、国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门的要求,...
Lazarus APT 组织大量利用社会工程技术和生成式人工智能瞄准加密货币投资者
导 读卡巴斯基全球研究和分析团队发现了一场由 Lazarus APT组织策划的复杂恶意活动,目标是全球加密货币投资者。2024 年 5 月,卡巴斯基专家通过分析卡巴斯基安全网络遥测中的事件,发现了一次...
【论文速读】| 攻击图谱:从实践者的角度看生成式人工智能红队测试中的挑战与陷阱
基本信息原文标题:Attack Atlas: A Practitioner’s Perspective on Challenges and Pitfalls in Red Teaming GenAI原...
缩小攻击面对抗生成式人工智能网络犯罪
一图看懂网络安全"四法二条例"前沿典藏版一图看懂《网络安全法》前沿典藏版一图看懂《密码法》前沿典藏版一图看懂《数据安全法》前沿典藏版一图看懂《个人信息保护法》前沿典藏版一图看懂《关键信息基础设施安全保...
澳洲关于隐私以及开发和训练生成式人工智能模型的指南(全文翻译)
编者按关于LLMs(大型语言模型)的风险和监管,本公号发布过以下文章:ChatGPT是网络上的一个模糊的JPEG文件(外专观点)ChatGPT是如何劫持民主进程(外专观点)ChatGPT:欧洲禁止Re...
AI疲劳了?让我们来看看真正的AI 安全要点
unsetunset0x00 前言unsetunset趋势科技美国企业首席风险官 David Roth 与特邀演讲嘉宾 Forrester 副总裁兼首席分析师 Jeff Pollard 最近就人工智能...
专题·大模型安全 | 生成式人工智能对国家安全的挑战
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 西安交通大学法学院、人工智能与信息安全法律研究中心 副教授 王新雷;西安交通大学法学院硕士研究生 唐琳玲生成式人...
黑客在有针对性的攻击中部署人工智能编写的恶意软件
在一起针对用户的电子邮件活动中,研究人员发现了恶意代码,分析后发现是在生成人工智能服务的帮助下创建的,用于传播 AsyncRAT 恶意软件。尽管供应商实施了保护措施和限制,但人工智能工具依然可能被滥用...
警惕!一种用于网络钓鱼攻击的生成式人工智能恶意软件...
近日,HP 研究人员检测到一个由生成式人工智能服务生成并用于传递 AsyncRAT 恶意软件的 dropper。在调查恶意电子邮件时,HP 研究人员发现了一种由生成式人工智能服务生成并用于传递 Asy...
人工智能拟人化的危险:信息安全视角
安小圈第512期人工智能 安全生成式人工智能革命没有丝毫放缓的迹象。聊天机器人和人工智能助手已成为商业世界不可或缺的一部分,无论是用于培训员工、回答客户问题还是其他完全不同的用途。我们甚至给它们赋予...
11