基本信息原文标题:Toward Intelligent and Secure Cloud: Large Language Model Empowered Proactive Defense原文作者:Y...
间接提示注入攻击全面测评
前言大型语言模型(LLMs)正日益被整合到代理框架中,使其能够通过工具执行特定操作。这些代理不仅可以处理复杂的任务,还能够与外部系统交互,例如自动化流程和设备控制等。随着技术的进步,LLM驱动的代理被...
专题解读|检索增强辅助代码生成
检索增强辅助代码生成Code Search Is All You Need? Improving Code Suggestions with Code Search(ICSE 2024)1. 背景现代...
使用基于 LLM 的代理进行全自动 IP 到 Shell 渗透测试
大模型辅助渗透测试的研究和论文越来越多,今天介绍一篇,只需要输入IP,就可以拿到shell,完全不需要干预的自动化。系统的名称是RapidPen,日本人写的。本文共分五部分:1.预备知识2.系统架构及...
浅谈MCP :AI时代下的TCP/IP协议
大家好,我是小斐呀。由于最近身边环境的影响,我这边也开始入局 ALL in AI 的浪潮了,大环境如此我也不例外,回顾大模型的发展历程,从2022年11月30日 OpenAI 推出的 ChatGPT ...
研究证明:可以用ChatGPT、DeepSeek制作恶意软件
Cato Networks 的一名网络威胁情报研究员发现了一种新技术,其可利用最流行的大型语言模型(LLMs)编写信息窃取恶意软件。在其首份年度威胁报告中,Cato 网络威胁研究实验室(Cato CT...
研究人员利用AI越狱技术,成功创建Chrome信息窃取程序
关键词人工智能近日,一项名为“沉浸式世界”(Immersive World)的突破性技术引发了广泛关注。这项技术由Cato CTRL威胁情报研究人员开发,旨在通过虚构的叙事环境,绕过主流大型语言模型(...
大模型安全评估神器-Garak
字数 950,阅读大约需 5 分钟 大模型安全评估神器---Garak Garak是干什么的? Garak,全称 Generative AI Red-teaming & Assessment ...
自动化渗透测试新思路:基于AI的攻击路径规划与漏洞利用
摘要在网络安全领域,自动化漏洞扫描工具一直是安全专家和开发者的得力助手。然而,传统的扫描工具往往局限于固定的规则和模式,难以应对日益复杂的Web应用攻击面。今天,我们要介绍一个由GitHub用户fai...
[LLM+AIGC] 09.零基础DeepSeek辅助论文阅读及UPDF生成论文思维导图
2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享...
大模型如何挖漏洞 | 攻防视角下的AI安全
3月21日,14:00,「AI大模型攻防安全」第15期安全范儿技术沙龙周五见~议题看点大模型产品攻防实践如何设计更安全的Prompt和模型交互机制来防止Jailbreak,Prompt 注入此类攻击掌...
Flowise AI 系统任意文件上传漏洞(CVE-2025-26319)
↑点击关注,获取更多漏洞预警,技术分享0x01 组件介绍FlowiseAI是一个开源低代码开发平台,专注于构建定制化的大型语言模型(LLM)应用程序,该平台通过图形化界面和拖拽操作,极大地简化了AI...
41