4月16日联合国日内瓦总部万国宫,由世界数字技术院(WDTA)与云安全联盟大中华区(CSA GCR)联合主办第27届联合国科技大会AI边会上,世界数字技术院(WDTA)发布了两项具有重要意义的国际标准...
【论文速读】| TroubleLLM:与红队专家对齐
本次分享论文为:TroubleLLM: Align to Red Team Expert基本信息原文作者:Zhuoer Xu, Jianping Zhang, Shiwen Cui, Changhua...
【论文速读】| 大语言模型是边缘情况模糊测试器:通过FuzzGPT测试深度学习库
本次分享论文为:Large Language Models are Edge-Case Fuzzers: Testing Deep Learning Libraries via FuzzGPT基本信息...
AI安全:LLM的风险揭示与安全性评估
大语言模型(LLM)在当前社会中扮演着日益重要的角色,其广泛应用领域突显了其对社会和技术发展的重要性。然而,强大却也脆弱,大语言模型的这一特性,让我们看到了人工智能发展的双刃剑效应,如何确保大语言模型...
OWASP发布大语言模型网络安全与治理清单
当前人工智能技术面临的最大风险是大语言模型(LLM)和生成式人工智能技术的发展和应用速度已经远远超过了安全和治理的速度。OpenAI、Anthropic、谷歌和微软等公司的生成式人工智能和大语言模型产...
【论文速读】| CovRL:基于覆盖引导的强化学习对LLM基础变异进行JavaScript引擎模糊测试
本次分享论文为:CovRL: Fuzzing JavaScript Engines with Coverage-Guided Reinforcement Learning for LLM-based ...
重磅发布 | 开源大语言模型安全性测评报告
为深入学习贯彻全国两会精神,落实《工业和信息化部等十六部门关于促进数据安全产业发展的指导意见》《生成式人工智能服务管理暂行办法》以及“人工智能+”行动等要求,加快数据安全技术与人工智能新兴技术的交叉融...
大语言模型应用程序十大风险
内容摘要《OWASP 大语言模型应用程序十大风险》项目旨在向开发人员、设计人员、架构师、管理人员和组织介绍部署和管理大语言模型(LLM)应用程序时的潜在安全风险。该项目主要基于漏洞的潜在影响,可利用性...
AI备案|海南自贸港首个生成式人工智能(大语言模型)璇玑玉衡通过国家备案
3月20日,卓世科技(海南)有限公司的“璇玑玉衡”顺利通过国家互联网信息办公室生成式人工智能(大语言模型)备案,成为海南自由贸易港首个通过生成式人工智能备案审核的大模型。“璇玑玉衡”大模型为通用大模型...
【论文速读】| 基于大语言模型的模糊测试技术
本次分享论文为:Large Language Models Based Fuzzing Techniques: A Survey基本信息原文作者:Linghan Huang, Peizhou Zhao...
「人脑替代计划-6」LLM是什么?
大型语言模型在生成人工智能中的应用如何?我们以ChatGPT为例来直观地理解一下。ChatGPT 的众多功能中,其中之一就是理解人类语言(用简单的话提出问题)。它还可以产生我们人类可以理解的反应。Ch...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)- 间接提示词注入
前言 这一节内容比较多,原因是因为间接提示词注入衍生内容比较多,为了内容的完整性,所以文字较多各位看官见谅。另外文章欢迎转载,只是希望能加个微信公众号二维码,谢谢各位了。另外在查找资料过程中发现大量的...
6