关键词恶意软件最新发布的惠普沃尔夫(HP Wolf )安全威胁洞察报告显示,现阶段已在野外出现了使用生成式人工智能(GenAI)生成的恶意软件有效载荷,标志着网络威胁形势发生了重大变化,攻击者已利用先...
专题·大模型安全 | 生成式人工智能的数据安全风险与应对措施
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中国信息安全测评中心 高松大模型技术的发展,掀起了生成式人工智能的新浪潮。该技术在各个行业、领域快速应用,催生出...
生成式人工智能风险规制与保护路径
与传统的依赖于程序计算、概率计算、数据加工、人类创造力的人工智能不同,Open AI公司在2022年末推出的ChatGPT拥有机器学习、深度学习、人类反馈学习等自主学习能力。以ChatGPT为代表的生...
AI生成内容标识新规全文梳理:显式标识与隐式标识
点击上方蓝字关注我们(本文系由自研AI助理应用生成,经律师审校)AI生成合成内容的“标识”被视为生成式人工智能(AIGC)技术安全、可信、合规的重要手段,用以治理恶意内容、侵权内容和深度伪造等顽疾。2...
专题·大模型安全 | 生成式人工智能的内容安全风险与应对策略
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 知道创宇联合创始人兼CTO 杨冀龙正如一枚硬币的两面,生成式人工智能大模型(以下简称“生成式大模型”)在助力内容...
AIGC标识办法及国标官方解读
来源:网信中国完善人工智能生成合成内容标识方法构建健康的信息网络生态环境作者:魏凯 中国信息通信研究院人工智能研究所所长随着生成式人工智能技术快速发展,利用人工智能技术生成或合成文字、图像、音乐、视...
生成式人工智能技术中训练数据的合规要点及建议
探寻合规之道,共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。点击 "合规社" > 点击右上角“···” > 设为星标⭐前言数据在生...
如何保护用户的身份
勒索软件攻击和数据泄露的受害者数量增长如此之深,以至于新的网络防御挑战正好跟上受害者的新攻击和披露的数量。这是网络犯罪分子攻击方法的惊人进步以及许多组织在适应新攻击方法方面反应太慢的产物。正如预测的那...
【CSA】:AI深度伪造的安全隐患
CSA SECtember.ai全球会议 将于 2024 年10 月 12 日至 24 日举行。会议将深度探讨如何引领AI和云安全的未来,随后,在十一月初,中国将举办第八届云安全联盟大中华区大会。这次...
人工智能可以发现基础设施软件中的漏洞吗?
未来一年,七支团队将完善人工智能系统,旨在强化关键基础设施所依赖的开源软件。获胜者将在明年的 DEF CON 黑客大会上宣布。这些团队都是人工智能网络挑战赛(AIxCC)上一轮得分最高的团队,每人获得...
揭秘美国中央情报局中的人工智能
根据该机构的人工智能治理目标,中央情报局于 2023 年成立了人工智能治理委员会。该机构目前正在制定一份国家安全备忘录,该备忘录将解决在美国国家安全领域开发和管理人工智能的独特挑战。2023年,CIA...
AI+Security系列第2期(二):人工智能风险治理机遇与挑战
(加入“安全极客”知识星球,获取分享PPT等干货内容)近日,由安全极客、Wisemodel 社区和 InForSec 网络安全研究国际学术论坛联合主办的“AI+Security”系列第 2 期——对抗...
29