进入2025,搞Agent,已经是大模型发展的共识。如何开发agent,有各种各样的框架,象Langflow,Dify 这样的低代码框架,开发比较简单,但缺乏灵活性,也有象Langgraph这样的代码...
[AI安全论文] (36)C&S22 MPSAutodetect:基于自编码器的恶意Powershell脚本检测模型
2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享...
AI安全 | 大语言模型的安全与隐私调查
大语言模型(LLM)具有语言理解能力、类人文本生成能力、上下文感知能力和强大的问题解决能力,这使其在各个领域(如搜索引擎、客户支持和翻译)都具有重要价值。本文将探讨LLM如何对安全和隐私产生积极影响,...
专题解读 | 利用投机采样加速大模型推理
专题解读:利用投机采样加速大模型推理简介在大模型的应用场景中,推理速度是最为影响用户体验的要素之一。针对大模型推理速度的优化有很多工作,本文将聚焦于投机采样技术。目前的大模型通常采用自回归的方式生成文...
【AI大模型】OS Copilot测评
前言也是出息了哈哈哈哈哈,来测评一下阿里云的智能助手OS Copilot到底怎么样。之前使用的自然语言大模型主要还是ChatGPT。国内的一些大模型因为是汉语训练的,所以在汉语言处理的方面还是比Cha...
【论文速读】| 评估并提高大语言模型生成的安全攻击探测器的鲁棒性
基本信息原文标题:Evaluating and Improving the Robustness of Security Attack Detectors Generated by LLMs原文作者:...
浅谈垂类大模型的发展
在科技迅猛发展的今天,基于大模型的AIGC产品如ChatGPT等无疑是最耀眼的明星。AI技术的升级不仅推动了科技的迅猛发展,更深刻地影响了我们的生活和工作方式。这场以大模型为核心的技术革命,正在以前所...
大模型开发工作手册详细指南
作者:rhino自 “Prompt工作手册” 发布以来,我持续研究大模型能力的应用及研发方法,结合产业发展,在研发框架和模型应用上有了新的思考,并形成了新的方法论,希望我们的能力不仅仅停留在模型研发的...
ChatGPT 大模型可以解决的 7 个网络安全中恶意程序分析问题
序最近ChatGPT在信息安全圈的关注度迅速攀升,出现了一系列文章描述了ChatGPT如何被用来自动化各种网络安全任务。本文我们将展示 ChatGPT 如何为逆向和恶意软件分析带来价值,无论是刚进入这...
LLMSecOps|LLM和GenAI的安全解决方案
如果你也想在网络安全上全栈,点击下方名片关注我,助你离目标更近一步!引言:随着生成式AI的采用、使用和应用程序开发的增长,新的安全风险也随之而来,影响着企业或组织的战略规划和投资。当然,对应的消减方案...
[论文翻译]多步骤越狱隐私攻击对ChatGPT的影响
https://arxiv.org/pdf/2304.05197Multi-step Jailbreaking Privacy Attacks on ChatGPT多步骤越狱隐私攻击对ChatGPT的...
专题解读 | 大模型增强图推荐的两类主流方法
大模型增强图推荐的两类主流方法一、简介大型语言模型(LLMs)的快速发展展示了其在生成、推理和建模世界知识方面的卓越能力。推荐系统也预计将从LLMs的发展中获得显著的好处。最近的研究努力已经将LLMs...
63