为贯彻落实党中央国务院关于促进人工智能发展的决策部署,中国工业互联网研究院依托通用人工智能与工业融合创新中心(简称“中心”),联合香港科技大学、中国经济信息社,深入研究人工智能大模型在工业领域的应用性...
AI辅助式数据分类分级
点击兰花豆说网络安全,了解更多网络安全知识引言在信息爆炸的时代,数据已经成为企业最宝贵的资产之一。然而,大量的数据如果不能被有效地分类和分级,就会变得无序混乱,数据安全无法得到有效保障,也无法发挥其真...
「人脑替代计划-3」一周内的两个核弹SORA& Gemma
吉姆·克莱德·蒙日摄吉姆·克莱德·蒙日在短短一周内,世界见证了两家科技巨头最具突破性的人工智能进步。OpenAI 推出了令人惊叹的 AI 视频生成器Sora,而 Google 则推出了Gemini 1...
「人脑替代计划-6」LLM是什么?
大型语言模型在生成人工智能中的应用如何?我们以ChatGPT为例来直观地理解一下。ChatGPT 的众多功能中,其中之一就是理解人类语言(用简单的话提出问题)。它还可以产生我们人类可以理解的反应。Ch...
图解提示词注入-《大语言模型(LLM)攻防实战手册》番外篇
编者按 简单把之前的内容做了一些图,让大家简化理解提示词注入攻击可能存在的情况,而不用看又臭又长的文章。这部分内容虽然列到章节中,不过算遗补,不算正文部分。 01 目录结构 第一章:提示...
Lepton Search-开源对话式AI搜索引擎 500 行代码构建
Lepton Search是一款开源对话式AI搜索引擎,使用不到 500 行代码构建的对话式AI搜索引擎,是由原阿里巴巴技术副总裁和AI科学家贾扬清创办的Lepton AI推出的 AI 增强对话式搜索...
主流AI基础设施漏洞威胁全球数千大模型
近日,知名网络安全公司Oligo Security发现人工智能行业主流算力框架Ray的一个未修复安全漏洞正被黑客野外大规模利用,攻击AI工作负载并窃取敏感(生产)数据和算力。包括亚马逊、字节跳动、Ub...
《大语言模型(LLM)攻防实战手册》第一章:提示词注入(LLM01)- 间接提示词注入
前言 这一节内容比较多,原因是因为间接提示词注入衍生内容比较多,为了内容的完整性,所以文字较多各位看官见谅。另外文章欢迎转载,只是希望能加个微信公众号二维码,谢谢各位了。另外在查找资料过程中发现大量的...
生成式人工智能对个人信息安全的挑战及应对策略
作者简介武林娜中国信息通信研究院泰尔终端实验室信息安全部、移动应用创新与治理技术工业和信息化部重点实验室工程师,主要从事移动互联网领域信息安全、个人信息保护技术检测与标准研制等方面的工作。宋恺 中国信...
2024中国AI大模型产业发展报告(附同类报告)
当前,通用大模型、行业大模型、端侧大模型如雨后春笋般涌现,大模型产业的应用落地将进一步提速。作为新一代人工智能产业的核心驱动力,AI 大模型广泛赋能我国经济社会的多个领域,打开迈向通用人工智能的大门,...
2024年 AI 威胁场景报告:揭示现今最大的 AI 安全挑战
AI正彻底改变每一个数据驱动的机会,有可能带来一个繁荣的新时代,让人类的生活质量达到难以想象的高度。但就像任何突破性的新技术一样,伟大的潜力往往蕴含着巨大的风险。AI在很大程度上是有史以来部署在生产系...
普遍存在的LLM幻觉扩大了软件开发的攻击面
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士大语言模型 (LLMs) 安全厂商 Lasso Security 指出,软件开发人员使用 LLMs 为攻击者在开发环境中传播恶意包带来了比之前所认为的...
11