美国和新加坡的科学家开发出一种操纵大型语言模型 (LLM) 内存的新技术,使攻击者能够巧妙地干扰 AI 操作。这种方法被称为 MINJA(内存注入攻击),攻击者无需直接访问 AI 代理的内部机制,而是...
APT攻击全景透视:0day漏洞、AI利用,2024年攻防对抗启示录
2024年,全球APT组织通过技术跃迁、组织升级等不断演化和扩张,已将攻击的魔爪伸向影响更广泛、更具破坏性的领域。高级持续性威胁(APT)正在经历新一轮技术跃迁,攻防对抗再度升级。从利用0day漏洞渗...
AI编码助手的进化历程与思考
一、编码助手的演变我们重新定义为3个时代:代码弱预测时代 --> 代码强预测时代 --> 代码智能交互时代1. 代码弱预测时代(2010-2018)基于统计的马尔可夫链模型 早期工具通过马...
G.O.S.S.I.P 阅读推荐 2025-03-10 LLM 在前,漏挖人能否保住饭碗(Yet?)
LLM 在代码理解上表现出了强大的能力,相信漏挖选手都已经对 LLM 跃跃欲试。今天我们介绍的这篇来自 IEEE S&P 2024 的论文LLMsCannot Reliably Identif...
AI进化论:从工具到伙伴,全面解析人工智能十大颠覆性趋势
点击上方蓝字关注我们引言当ChatGPT-4o用笑声回应人类的调侃,当谷歌AI助手在发布会现场实时解读用户手势,当Sora生成的视频骗过奥斯卡评委,再到今年火遍全球的DeepSeek,我们正站在人工智...
DeepSeek如何与网络安全深度融合?从技术逻辑到实践路径全拆解
网络安全是一个对检出率、准确率有极高追求的toB领域,将任何的开源基座大模型落地于安全领域,都绝非简单的接入、缝合,而是一个复杂的系统工程。DeepSeek-R1在安全垂直领域商业落地,必须具有安全垂...
Enhanced BurpGPT - 一个强大的 Burp Suite 插件
工具介绍Enhanced BurpGPT 是一个 Burp Suite 插件,它能帮助你使用 AI(人工智能)来分析 Web 应用的安全问题。简单来说,当你测试网站时,你可以在指定的请求响应对,点击s...
大模型微调爆出致命漏洞:可导致模型黑化
GoUpSec点评:大模型微调作为当前AI应用落地的热点,正推动AI技术在各行业的深度融合。然而,一个与微调相关的巨大风险逐渐浮出水面:大模型微调不当,不仅会影响目标功能,还可能引发模型在其他领域发生...
工具 | EnhancedBurpGPT
注:仅供安全研究与学习之用,若将工具做其他用途,由使用者承担全部法律及连带责任,作者及发布者不承担任何法律及连带责任。0x00 简介EnhancedBurpGPT是一个使用AI分析Web应用安全问题的...
EnhancedBurpGPT 内置Deepseek AI的Burp漏洞分析插件|自动化漏洞探测
0x01 工具介绍 Enhanced BurpGPT 是一款专为 Burp Suite 开发的AI插件,通过结合(AI)大模型 ,快速发现 Web 应用中的潜在安全问题。在安全测试过程中,只需对请求/...
定制化大型AI语言模型新型后门(DarkMind)攻击曝光
一、事件概述:随着人工智能(AI)技术的飞速发展,定制化大型语言模型(LLMs)因其强大的推理能力和广泛的应用场景,正被越来越多的企业和组织采用。例如,OpenAI的GPT商店已经托管了超过300万个...
DarkMind:一种利用 LLM 推理能力的新型后门攻击
导 读圣路易斯大学的两位研究人员 Zhen Guo 和 Reza Tourani 最近开发并演示了一种新的后门攻击,这种攻击可以操纵 LLM 的文本生成,同时又很难被发现。这种被称为 DarkMind...
31