大型语言模型在生成人工智能中的应用如何?我们以ChatGPT为例来直观地理解一下。ChatGPT 的众多功能中,其中之一就是理解人类语言(用简单的话提出问题)。它还可以产生我们人类可以理解的反应。Ch...
图解提示词注入-《大语言模型(LLM)攻防实战手册》番外篇
编者按 简单把之前的内容做了一些图,让大家简化理解提示词注入攻击可能存在的情况,而不用看又臭又长的文章。这部分内容虽然列到章节中,不过算遗补,不算正文部分。 01 目录结构 第一章:提示...
Lepton Search-开源对话式AI搜索引擎 500 行代码构建
Lepton Search是一款开源对话式AI搜索引擎,使用不到 500 行代码构建的对话式AI搜索引擎,是由原阿里巴巴技术副总裁和AI科学家贾扬清创办的Lepton AI推出的 AI 增强对话式搜索...
主流AI基础设施漏洞威胁全球数千大模型
近日,知名网络安全公司Oligo Security发现人工智能行业主流算力框架Ray的一个未修复安全漏洞正被黑客野外大规模利用,攻击AI工作负载并窃取敏感(生产)数据和算力。包括亚马逊、字节跳动、Ub...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)- 间接提示词注入
前言 这一节内容比较多,原因是因为间接提示词注入衍生内容比较多,为了内容的完整性,所以文字较多各位看官见谅。另外文章欢迎转载,只是希望能加个微信公众号二维码,谢谢各位了。另外在查找资料过程中发现大量的...
生成式人工智能对个人信息安全的挑战及应对策略
作者简介武林娜中国信息通信研究院泰尔终端实验室信息安全部、移动应用创新与治理技术工业和信息化部重点实验室工程师,主要从事移动互联网领域信息安全、个人信息保护技术检测与标准研制等方面的工作。宋恺 中国信...
2024中国AI大模型产业发展报告(附同类报告)
当前,通用大模型、行业大模型、端侧大模型如雨后春笋般涌现,大模型产业的应用落地将进一步提速。作为新一代人工智能产业的核心驱动力,AI 大模型广泛赋能我国经济社会的多个领域,打开迈向通用人工智能的大门,...
2024年 AI 威胁场景报告:揭示现今最大的 AI 安全挑战
AI正彻底改变每一个数据驱动的机会,有可能带来一个繁荣的新时代,让人类的生活质量达到难以想象的高度。但就像任何突破性的新技术一样,伟大的潜力往往蕴含着巨大的风险。AI在很大程度上是有史以来部署在生产系...
普遍存在的LLM幻觉扩大了软件开发的攻击面
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士大语言模型 (LLMs) 安全厂商 Lasso Security 指出,软件开发人员使用 LLMs 为攻击者在开发环境中传播恶意包带来了比之前所认为的...
LLM安全 | 大语言模型应用安全入门
一、背景2023年以来,LLM 变成了相当炙手可热的话题,以 ChatGPT 为代表的 LLM 的出现,让人们看到了无限的可能性。ChatGPT能写作,能翻译,能创作诗歌和故事,甚至能一定程度上做一些...
邮件安全报告:AI安全大模型或成邮件安全破局关键
AI深伪、动态IP、同域钓鱼、加密压缩、二维码伪装等新型邮件攻击技术,使很多传统的邮件安全技术彻底失效。基于人工智能大模型的新一代邮件安全技术,或将成为未来邮件安全问题“破局”的关键。2024年4月1...
是不是该考虑轻量级大语言模型LLLM了?
长文本时代到了?随着人工智能领域的迅速发展,大型语言模型正在不断推动更大的数据量和更长的文本处理能力。过去一年里,超长上下文窗口的大模型发展趋势表现出显著的进步和创新。研究人员提出了多种方法来扩展大模...
63