人工智能安全 - 第 71 | CN-SEC 中文网

人工智能安全

主流AI基础设施漏洞威胁全球数千大模型

近日，知名网络安全公司Oligo Security发现人工智能行业主流算力框架Ray的一个未修复安全漏洞正被黑客野外大规模利用，攻击AI工作负载并窃取敏感（生产）数据和算力。包括亚马逊、字节跳动、Ub...

04月02日119 views评论

阅读全文

人工智能安全

《大语言模型（LLM）攻防实战手册》第一章：提示词注入（LLM01）- 间接提示词注入

前言这一节内容比较多，原因是因为间接提示词注入衍生内容比较多，为了内容的完整性，所以文字较多各位看官见谅。另外文章欢迎转载，只是希望能加个微信公众号二维码，谢谢各位了。另外在查找资料过程中发现大量的...

04月02日110 views评论

阅读全文

人工智能安全

生成式人工智能对个人信息安全的挑战及应对策略

作者简介武林娜中国信息通信研究院泰尔终端实验室信息安全部、移动应用创新与治理技术工业和信息化部重点实验室工程师，主要从事移动互联网领域信息安全、个人信息保护技术检测与标准研制等方面的工作。宋恺中国信...

04月02日92 views评论

阅读全文

人工智能安全

2024中国AI大模型产业发展报告（附同类报告）

当前，通用大模型、行业大模型、端侧大模型如雨后春笋般涌现，大模型产业的应用落地将进一步提速。作为新一代人工智能产业的核心驱动力，AI 大模型广泛赋能我国经济社会的多个领域，打开迈向通用人工智能的大门，...

04月02日13 views评论

阅读全文

人工智能安全

2024年 AI 威胁场景报告：揭示现今最大的 AI 安全挑战

AI正彻底改变每一个数据驱动的机会，有可能带来一个繁荣的新时代，让人类的生活质量达到难以想象的高度。但就像任何突破性的新技术一样，伟大的潜力往往蕴含着巨大的风险。AI在很大程度上是有史以来部署在生产系...

04月02日236 views评论

阅读全文

人工智能安全

普遍存在的LLM幻觉扩大了软件开发的攻击面

聚焦源代码安全，网罗国内外最新资讯！编译：代码卫士大语言模型 (LLMs) 安全厂商 Lasso Security 指出，软件开发人员使用 LLMs 为攻击者在开发环境中传播恶意包带来了比之前所认为的...

04月02日27 views评论

阅读全文

人工智能安全

LLM安全 | 大语言模型应用安全入门

一、背景2023年以来，LLM 变成了相当炙手可热的话题，以 ChatGPT 为代表的 LLM 的出现，让人们看到了无限的可能性。ChatGPT能写作，能翻译，能创作诗歌和故事，甚至能一定程度上做一些...

04月02日32 views评论

阅读全文

人工智能安全

邮件安全报告：AI安全大模型或成邮件安全破局关键

AI深伪、动态IP、同域钓鱼、加密压缩、二维码伪装等新型邮件攻击技术，使很多传统的邮件安全技术彻底失效。基于人工智能大模型的新一代邮件安全技术，或将成为未来邮件安全问题“破局”的关键。2024年4月1...

04月02日205 views评论

阅读全文

人工智能安全

是不是该考虑轻量级大语言模型LLLM了？

长文本时代到了？随着人工智能领域的迅速发展，大型语言模型正在不断推动更大的数据量和更长的文本处理能力。过去一年里，超长上下文窗口的大模型发展趋势表现出显著的进步和创新。研究人员提出了多种方法来扩展大模...

04月01日44 views评论

阅读全文

人工智能安全

探索大模型LLM识别数据安全中的敏感信息

基础介绍大型语言模型（LLM），如OpenAI的GPT-3、谷歌的BERT等，是采用深度学习技术构建的模型，它们能够处理、理解和生成自然语言文本。这些模型通过在大规模文本数据集上进行训练，学习语言的复...

03月31日460 views评论

阅读全文

人工智能安全

基础模型、长文本、数据库、应用落地……一篇文章读懂今天大模型行业的关键问题丨2024 GDC

八名国内 AI 前沿创业者，无私分享自己对行业的关键认知。作者 | 连冉编辑 | 郑玄3 月 23 日-24 日，聚焦全球开发者精英，由上海市人工智能行业协会（SAIA）主办的 2024 全球开发者先...

03月29日15 views评论

阅读全文

人工智能安全

S&S专刊征稿 | 人工智能安全

专刊征稿人工智能安全专刊背景在过去的几十年里，随着计算机硬件和软件的升级，人工智能算法得到了快速发展，它将被广泛应用于关键基础设施领域，如救援任务、环境保护和监控等等。然而，人工智能技术的发展伴随着漏...

03月29日57 views评论

阅读全文