随着大模型的不断进化和发展,基于大模型的智能体(AI Agent)已具备强大的自主决策和行动能力,能够自动化处理各类复杂任务。然而,以智能体策动的攻击手段给企业的安全防护体系带来了前所未有的挑战。在2...
一文带你了解大模型——智能体(Agent)
作者:lucasgftang大语言模型 vs 人类大语言模型很强大,就像人类的大脑一样拥有思考的能力。如果人类只有大脑,没有四肢,没有工具,是没办法与世界互动的。如果我们能给大模型配备上四肢和工具呢?...
2024年中国大模型评测报告
内容摘要 随着AI⼤模型底层技术的不断进步,其对市场的影响⼒⽇益增强,引发了持续的热潮。截⾄2024年2⽉,中国已经涌现出上百个的AI⼤模型,其中优质的基础⼤模型数量也已达到数⼗个,标志着“百模⼤战”...
你所不知道的机器学习五大学派
点击兰花豆说网络安全,了解更多网络安全知识 机器学习是人工智能的重要分支,它赋予计算机从数据中学习的能力,并能够在无需明确编程的情况下改进自身性能。机器学习在各个领域都有着广泛的应用,从图像识别和自然...
浅谈AI大模型的数据特点和应用问题
【摘要】AI大模型的训练、推理及应用落地都需要大量的数据,其数据具有参数和数据量大、质量要求高、行业垂直属性强、资源消耗大等特点,由此带来的个人隐私泄露、数据中毒、数据篡改等数据安全风险已成为业界必须...
LLM react prompt injection 以及相关解决方案
React Agent的安全隐患及应对策略引言随着React Agent在国际市场的火热发展,各大厂商纷纷投入到Agent市场的竞争中。然而,在追逐市场的同时,React Agent的安全问题却常常被...
网络安全模型研究资源汇总
1►网络安全模型研究资料以下是关于使用NLP、KG、 GPT 进行网络安全模型研究的精选资源列表,包含模型/项目、论文、数据以及相关产品。简介这是一个精心整理的网络安全模型资源汇总,旨在为研究人员、工...
安全 AI 系统开发指南
原文始发于微信公众号(IoVSecurity):安全 AI 系统开发指南
[译文] LLM安全:2.LLMjacking:窃取云凭证用于新型AI攻击(大模型攻击)
“2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安全论文交流、威胁...
采用生成式人工智能进行网络防御的 3 条建议
在过去的十八个月中,生成式人工智能 (gen AI)已经从令人惊叹的演示的来源变成了几乎每个行业的首要战略重点。大多数首席执行官表示,他们感受到投资新一代人工智能的压力。产品团队现在正争先恐后地将新一...
以ChatGPT为代表的生成式大模型应用场景分析
自ChatGPT发布后,便成为史上用户增长速度最快的消费级应用,带动了全球生成式人工智能相关话题热度持续走高。与此同时,我国生成式人工智能技术如雨后春笋般出现,据不完全统计,目前中国1...
当GPT遇到程序分析:实现GPT扫描中智能合约逻辑漏洞的智能检测
When GPT Meets Program Analysis: Towards Intelligent Detection of Smart Contract Logic Vulnerabiliti...
63