wolf读完需要8分钟速读仅需 3 分钟这是公众号的第二篇大语言模型与信息安全领域结合的探索文章,第一篇文章用 LLM 降低白盒误报及自动修复漏洞代码本篇文章作者是我的前同事,也是“巡风”的核心开发者...
最新国外数据安全事件汇总
本文汇总了最近国外数据安全事件。 1、美国政府正在购买个人信息,包括位置数据!🔗 根据美国国家情报总监办公室(ODNI)的一份报告,该办公室由艾薇儿·海恩斯(Avril Haines)主任领导,艾薇儿...
OWASP大语言模型应用程序十大风险
原文始发于微信公众号(KK安全说):OWASP大语言模型应用程序十大风险
泄露数据!AI总龙头英伟达人工智能软件可操纵个人信息!
根据一项新的研究,NVIDIA人工智能软件中的一个特性可以被操纵为忽略安全约束和泄露私人信息。英伟达创建了一个名为“NeMo Framework”的系统,允许开发者使用一系列大型语言模型——这是为聊天...
报告称英伟达人工智能软件可被轻易破解,存在泄露用户隐私的风险
关键词隐私泄露据英国《金融时报》报道,英伟达人工智能软件“NeMo” 可被轻易绕过安全限制,并且有可能泄露用户隐私。报道称,NeMo 是一款面向企业客户的软件,可结合企业用户数据与大语言模型,以此回答...
人工智能推动生产力飞速提升
2023年5月10日,布鲁金斯学会发布《人工智能推动生产力飞速提升》报告。报告指出,大语言模型如ChatGPT等正成为强大的工具,不仅提高了工作人员的生产力,还加快了创新的速度,为经济增长奠定了基础。...
ChatGPT专题(三)大语言模型的能力和未来
本期将目光从ChatGPT本身技术转到以ChatGPT为代表的大规模语言模型(Large Language Model, LLM),以下简称大语言模型。我们将从大语言模型的商业化说起,去探讨大语言模型...
注意!Gartner最新发布ChatGPT六大必须评估的风险
2023年5月,Gartner发布了法律和合规领导者必须评估的六个ChatGPT风险。Gartner认为,法律和合规领导者应解决其组织面临的六种特定ChatGPT风险的问题,并确定建立哪...
ChatGPT的六大合规风险
ChatGPT在全球科技行业掀起了生成式人工智能的“军备竞赛”,但是人们对生成式人工智能(AIGC)的合规风险普遍认识不足。Gartner最近撰文指出,企业法务和合规负责人应该认知并解决企业面临的六种...
真实大揭秘:生成式AI到底对网络安全行业造成了哪些影响?
聚焦源代码安全,网罗国内外最新资讯!作者:ELIAS GROLL、CHRISTIAN VASQUEZ 和AJ VICENS编译:代码卫士在网络安全行业,放眼望去,无论是大会、交易...
大模型在威胁情报中应用可行性研究报告丨安全村
1 背景随着ChatGPT的爆火,基于GPT大模型的应用如雨后春笋般蓬勃发展。在很多应用领域,GPT大模型是一个速度倍增器,发挥出了惊人的作用,它可以用来增强、辅助、加速现有技术,提高生产力和生产效率...
DarkBERT 自动化暗网挖掘以获取网络威胁情报
从如何破解它的角度来看,ChatGPT 也让我们着迷了几个月,通过“快速注入”让它说出它所限制的东西。但是,如果我们直接进入兔子洞,即用暗网网络的地下内容训练的网络会怎样?它叫做 DarkBERT,是...
30