编者按关于LLMs(大型语言模型)的风险和监管,本公号发布过以下文章:ChatGPT是网络上的一个模糊的JPEG文件(外专观点)ChatGPT是如何劫持民主进程(外专观点)ChatGPT:欧洲禁止Re...
AI疲劳了?让我们来看看真正的AI 安全要点
unsetunset0x00 前言unsetunset趋势科技美国企业首席风险官 David Roth 与特邀演讲嘉宾 Forrester 副总裁兼首席分析师 Jeff Pollard 最近就人工智能...
专题·大模型安全 | 生成式人工智能对国家安全的挑战
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 西安交通大学法学院、人工智能与信息安全法律研究中心 副教授 王新雷;西安交通大学法学院硕士研究生 唐琳玲生成式人...
黑客在有针对性的攻击中部署人工智能编写的恶意软件
在一起针对用户的电子邮件活动中,研究人员发现了恶意代码,分析后发现是在生成人工智能服务的帮助下创建的,用于传播 AsyncRAT 恶意软件。尽管供应商实施了保护措施和限制,但人工智能工具依然可能被滥用...
警惕!一种用于网络钓鱼攻击的生成式人工智能恶意软件...
近日,HP 研究人员检测到一个由生成式人工智能服务生成并用于传递 AsyncRAT 恶意软件的 dropper。在调查恶意电子邮件时,HP 研究人员发现了一种由生成式人工智能服务生成并用于传递 Asy...
人工智能拟人化的危险:信息安全视角
安小圈第512期人工智能 安全生成式人工智能革命没有丝毫放缓的迹象。聊天机器人和人工智能助手已成为商业世界不可或缺的一部分,无论是用于培训员工、回答客户问题还是其他完全不同的用途。我们甚至给它们赋予...
专题·大模型安全 | 生成式人工智能的数据安全风险与应对措施
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中国信息安全测评中心 高松大模型技术的发展,掀起了生成式人工智能的新浪潮。该技术在各个行业、领域快速应用,催生出...
生成式人工智能风险规制与保护路径
与传统的依赖于程序计算、概率计算、数据加工、人类创造力的人工智能不同,Open AI公司在2022年末推出的ChatGPT拥有机器学习、深度学习、人类反馈学习等自主学习能力。以ChatGPT为代表的生...
法律如何应对人工智能的发展
随着自动驾驶汽车、ChatGPT、人形机器人等人工智能应用的爆发,人工智能对于现行法律的挑战逐渐受到重视。早在2017年,国务院就印发了《新一代人工智能发展规划》,指出:“人工智能是影响面广的颠覆性技...
深入探讨:人工智能生态系统的安全性
本文 120343字 阅读约需 33分钟文章重点是与企业安全领导者和首席执行官深入探讨如何确保生成式人工智能应用和大语言模型的安全。其中,分析的重点是企业采用人工智能的情况,这是影响安全厂商未来发...
专题·大模型安全 | 生成式人工智能的内容安全风险与应对策略
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 知道创宇联合创始人兼CTO 杨冀龙正如一枚硬币的两面,生成式人工智能大模型(以下简称“生成式大模型”)在助力内容...
AIGC标识办法及国标官方解读
来源:网信中国完善人工智能生成合成内容标识方法构建健康的信息网络生态环境作者:魏凯 中国信息通信研究院人工智能研究所所长随着生成式人工智能技术快速发展,利用人工智能技术生成或合成文字、图像、音乐、视...
11