当前正处于人工智能飞速发展的黄金时期,以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式,加速了知识的传播,并为社会变革注入了新的动力。在我国,大语言模型(Large Languag...
大模型安全挑战:全生命周期的原生构建与风险应对
11月15日,云安全联盟大中华区大会将在北京举行,欢迎扫码报名参会!如何在安全挑战中构建大模型稳健防线?如何在复杂生命周期中确保大模型安全无虞?如何在AI技术飞速发展中应对新型安全威胁?2024年11...
G.O.S.S.I.P 阅读推荐 2024-10-18 大模型安全新利器:ToxicDetector 高效检测有害提示词
今天想和大家分享一篇由上海科技大学和南洋理工大学合作并投稿的有趣研究Efficient Detection of Toxic Prompts in Large Language Models,目前已被...
专题·大模型安全 | 生成式人工智能对国家安全的挑战
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 西安交通大学法学院、人工智能与信息安全法律研究中心 副教授 王新雷;西安交通大学法学院硕士研究生 唐琳玲生成式人...
专题·大模型安全 | 生成式人工智能的数据安全风险与应对措施
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中国信息安全测评中心 高松大模型技术的发展,掀起了生成式人工智能的新浪潮。该技术在各个行业、领域快速应用,催生出...
专题·大模型安全 | 大模型安全风险评估与防御技术综述
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中国信息通信研究院人工智能研究所 黑一鸣 陈文弢 陈杰 呼娜英近年来,数据量、算力规模和模型参数持续增长,推动了...
专题·大模型安全 | 生成式人工智能的内容安全风险与应对策略
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 知道创宇联合创始人兼CTO 杨冀龙正如一枚硬币的两面,生成式人工智能大模型(以下简称“生成式大模型”)在助力内容...
专题·大模型安全 | 数字风洞构造大语言模型的安全围栏
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 永信至诚科技集团股份有限公司 付磊 张凯大语言模型(LLM)被视为通往通用人工智能(AGI)道路上的重要里程碑,...
专题·大模型安全 | 大模型的安全挑战及应对建议
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 启明星辰集团核心技术研究院 周瑜 周涛当前,大模型技术在多个领域显著提升工作效率、改变了生产模式,并创造了巨大经...
专家观点 | 大模型的安全风险及应对建议
文 | 中国科学院信息工程研究所 虎嵩林习近平总书记指出:“要重视通用人工智能发展,营造创新生态,重视防范风险”。近年来,以生成式预训练大模型(GPT)为代表的生成式人工智能大模型(简称“大模型”)迅...
AI+Security系列第2期(五):大模型自身安全
近日,由安全极客、Wisemodel 社区与 InForSec 网络安全研究国际学术论坛联合主办的 “AI+Security” 系列第二期 —— 对抗!大模型自身安全的攻防博弈线上活动如期举行。在圆桌...
AI+Security系列第2期(二):人工智能风险治理机遇与挑战
(加入“安全极客”知识星球,获取分享PPT等干货内容)近日,由安全极客、Wisemodel 社区和 InForSec 网络安全研究国际学术论坛联合主办的“AI+Security”系列第 2 期——对抗...
5