前言 本篇来自David Noever的论文,主旨依然是对比以GPT4为代表的LLM与传统代码审计工具的效果对比,论文分析涵盖了许多资料库,包括美国国家航空航天局和国防部的资料库。GP...
GPT-4o Mini:首创指令层级技术抵御越狱攻击
OpenAI 近日发布了性价比极高的轻量化模型 GPT-4o Mini,入局大模型价格战,支持 128K 上下文长度、多模态,能力接近 GPT-4,价格却比 GPT-3.5 Turbo 便宜 60%,...
【警惕人工智能时代的智能体风险】
一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元价值,世界卫生组织使用的聊天机器人提供了过时的药品审核信息,美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然均由...
警惕:与ChatGPT共享业务数据可能十分危险
您已经在使用ChatGPT了吗?或者您正在考虑使用它来简化操作或改善客户服务?虽然ChatGPT提供了许多好处,但重要的是,您要意识到与ChatGPT这样的人工智能工具共享敏感业务数据相关的安全风险。...
基于LLM的被动扫描工具:burpGpt
基于LLM的被动扫描工具: burpGpt 随着人工智能技术的快速发展,chatgpt这类生成式AI应用已经逐渐渗透进社会的方方面面。作为渗透测试人员,我们也在思考该如何使用大语言模型提高我们的测试效...
万能钥匙越狱所有人工智能
微软发布了万能钥匙攻击的详细信息,该攻击绕过了人工智能模型的保护,防止它们生成恶意内容。 Microsoft Azure 首席技术官Mark Russinovich在今年 5 月的微软开发者大会上首次...
在APT32的分析报告里学习与吸收
昨天关注的安全类公众号收到了最新一条推送,内容是知道创宇404高级威胁情报团队发现海莲花(APT32)组织的最新攻击样本,在此期间对该样本进行了分析与举证输出了一篇文章威胁情报 | 海莲花组织以社保话...
揭秘AI万能钥匙,可实现批量越狱
更多全球网络安全资讯尽在邑安全近日,微软公布了一项人工智能越狱技术细节,该科技巨头的研究人员已经成功地对几款较为火热的人工智能模型进行了验证。几乎所有的模型都越狱成功,在多个敏感主题中均输出不安全的内...
ChatGPT 4可利用87%一日漏洞
近年来,随着 ChatGPT 和其他大型语言模型 (LLM) 的广泛使用,网络安全已成为人们最关心的问题。在众多问题中,网络安全专家想知道这些工具在发动攻击时有多有效。网络安全研究人员 Richard...
24年Hvv的AB面:AI大战+外包大战
24年网络安全和AI的结合绝对是网络安全最热的话题,各个厂家都说自己的产品已经结合了AI大模型,识别准确率从50%提高到85.8%(反正检测识别都是大幅度提高)。 很多大厂(某恒CEO)将网络安全分为...
微软详细介绍万能钥匙人工智能越狱技术
网络安全等级保护政策+技术汇总0624本周,微软披露了一种人工智能越狱技术的细节,该科技巨头的研究人员已成功使用该技术攻克了多个生成式人工智能模型。 这款名为Skeleton Key 的AI 越狱工具...
DarkGPT:基于GPT-4-200k设计的人工智能OSINT助手
DarkGPT是一款功能强大的人工智能安全助手,该工具基于GPT-4-200k设计并实现其功能,可以帮助广大研究人员针对泄露数据库进行安全分析和数据查询相关的OSINT操作。工具要求 openai==...
30