介绍网络攻击不再仅仅依赖于人类的努力和网络空间的有限范围。网络攻击不再是专家和专业人士的唯一责任。自人工智能 (AI) 出现以来,威胁形势发生了重大变化,这要归功于可以智能地自动执行攻击的无与伦比的方...
让LLM“遗忘”特定知识
一. 综述 随着大规模语言模型(Large Language Models, LLMs)的广泛应用,隐私问题日益凸显。这些模型在训练过程中难免会记住并泄露敏感信息,如个人身份信息等。为此,反学习(Un...
【论文速读】| JADE:用于大语言模型的基于语言学的安全评估平台
本次分享论文:JADE : A Linguistics-based Safety Evaluation Platform for Large Language Models基本信息原文作者:Mi Zh...
专题解读 | 大语言模型中的记忆设计
大语言模型中的记忆设计前言Wang 等人[1]提出基于 LLM 的自主智能体架构设计应该包括四个组成部分:分析模块、记忆模块、规划模块和动作模块(如图1所示)。记忆模块在智能体架构设计中起着非常重要的...
移动视野:人工智能的响应式和基于风险的监管框架
随着人工智能 (AI) 能力的不断发展,其监管不能再只是一种优化和缓解措施,或者最大限度地利用创新机会并最大限度地降低危害风险。人工智能相互交织的社会经济和法律影响需要动态治理安排来识别、应对和预测不...
什么是提示词注入攻击?大语言模型为Web安全带来的新风险!
在Web安全领域,最基础的一课就是防范注入攻击。注入攻击是指攻击者在应用程序接收用户输入的地方注入自己精心构造的攻击代码,以达到执行任意操作、篡改数据或者获取敏感信息的目的。注入攻击是 Web 应用程...
【论文速读】|MEDFUZZ:探索大语言模型在医学问题回答中的鲁棒性
本次分享论文:MEDFUZZ: EXPLORING THE ROBUSTNESS OF LARGE LANGUAGE MODELS IN MEDICAL QUESTION ANSWERING基本信息原...
【论文速读】| LLAMAFUZZ:大语言模型增强的灰盒模糊测试
本次分享论文:LLAMAFUZZ: Large Language Model Enhanced Greybox Fuzzing基本信息原文作者:Hongxiang Zhang, Yuyang Rong...
一篇大模型Agent工具使用全面研究综述
使用大型语言模型(LLMs)进行工具学习已成为增强LLMs能力以解决高度复杂问题的一个有希望的范式。尽管这一领域受到越来越多的关注和快速发展,但现有的文献仍然分散,缺乏系统性的组织,为新来者设置了进入...
大语言模型 C/C++ 代码漏洞检测效能的实证研究
摘要代码漏洞检测是软件安全领域的研究热点,涌现出了大量的工具与算法,但受制于代码复杂抽象的逻辑实现,高效的漏洞检测仍未实现。近年来,由于大语言模型技术展现出极强的语言理解和文本生成能力,大语言模型赋能...
AI 模型训练和部署场景下数据主体权利如何响应?(一)
2024在GDPR或者中国《个人信息保护法》中,个人对其个人数据享有多项权利。在AI领域,这些权利适用于AI系统开发和部署周期中任何涉及个人数据处理的环节。因此,可能涵盖了以下个人数据:包含在训练数...
大模型安全解决方案分享
全部内容请到帮会中下载,感谢支持!!END来源:百度帮会简介「一起聊安全」公众号及帮会致力于网络安全材料汇总与分享,围绕网络安全标准、安全政策法规、安全报告及白皮书、安全会议、安全方案、新技术等方向,...
73