大语言模型(LLM)在当前社会中扮演着日益重要的角色,其广泛应用领域突显了其对社会和技术发展的重要性。然而,强大却也脆弱,大语言模型的这一特性,让我们看到了人工智能发展的双刃剑效应,如何确保大语言模型...
OWASP发布大语言模型网络安全与治理清单
当前人工智能技术面临的最大风险是大语言模型(LLM)和生成式人工智能技术的发展和应用速度已经远远超过了安全和治理的速度。OpenAI、Anthropic、谷歌和微软等公司的生成式人工智能和大语言模型产...
【论文速读】| CovRL:基于覆盖引导的强化学习对LLM基础变异进行JavaScript引擎模糊测试
本次分享论文为:CovRL: Fuzzing JavaScript Engines with Coverage-Guided Reinforcement Learning for LLM-based ...
重磅发布 | 开源大语言模型安全性测评报告
为深入学习贯彻全国两会精神,落实《工业和信息化部等十六部门关于促进数据安全产业发展的指导意见》《生成式人工智能服务管理暂行办法》以及“人工智能+”行动等要求,加快数据安全技术与人工智能新兴技术的交叉融...
大语言模型应用程序十大风险
内容摘要《OWASP 大语言模型应用程序十大风险》项目旨在向开发人员、设计人员、架构师、管理人员和组织介绍部署和管理大语言模型(LLM)应用程序时的潜在安全风险。该项目主要基于漏洞的潜在影响,可利用性...
AI备案|海南自贸港首个生成式人工智能(大语言模型)璇玑玉衡通过国家备案
3月20日,卓世科技(海南)有限公司的“璇玑玉衡”顺利通过国家互联网信息办公室生成式人工智能(大语言模型)备案,成为海南自由贸易港首个通过生成式人工智能备案审核的大模型。“璇玑玉衡”大模型为通用大模型...
【论文速读】| 基于大语言模型的模糊测试技术
本次分享论文为:Large Language Models Based Fuzzing Techniques: A Survey基本信息原文作者:Linghan Huang, Peizhou Zhao...
「人脑替代计划-6」LLM是什么?
大型语言模型在生成人工智能中的应用如何?我们以ChatGPT为例来直观地理解一下。ChatGPT 的众多功能中,其中之一就是理解人类语言(用简单的话提出问题)。它还可以产生我们人类可以理解的反应。Ch...
LLM安全 | 大语言模型应用安全入门
一、背景2023年以来,LLM 变成了相当炙手可热的话题,以 ChatGPT 为代表的 LLM 的出现,让人们看到了无限的可能性。ChatGPT能写作,能翻译,能创作诗歌和故事,甚至能一定程度上做一些...
大模型如何赋能企业安全;重要文件的保护措施有哪些 | FB甲方群话题讨论
▎各位 Buffer 晚上好,FreeBuf 甲方群话题讨论第 233 期来了!FB甲方社群不定期围绕安全热点事件、前沿技术、运营体系建设等话题展开讨论,Kiki 群助手每周整理精华、干货讨论内容,为...
【论文速读】| 对大语言模型解决攻击性安全挑战的实证评估
本次分享论文为:An Empirical Evaluation of LLMs for Solving Offensive Security Challenges基本信息原文作者:Minghao Sh...
VL-Trojan:针对多模态模型的后门攻击
一.视觉语言模型与指令微调视觉语言模型(Visual Language Models,VLMs)在图像和自然语言两种模态数据上进行学习,能够理解与解释图像、文本间的关联,常被用于目标检测、语义分割等视...
30