编者按美国网络司令部司令兼国家安全局局长蒂莫西·霍介绍美国网络司令部利用新权限改善网络部队战备进展、新成立的人工智能工作组工作情况以及美国家安全局开发人工智能能力情况。美国网络司令部利用美国国会授予的...
浅谈LLM应用中隐藏的安全风险
什么是LLM?通过海量文本训练的、能识别人类语言、执行语言类任务、拥有大量参数的模型,称之为大语言模型(LLM)。GPT、LLaMA、Mistral、BERT等都是LLM,LLM是对训练文本信息的压缩...
ACL 2024 | Parrot(鹦鹉):增强大语言模型在多轮对话中的指令跟随能力
多轮对话是大语言模型与人类互动的主要方式,广泛应用于消费娱乐、生产力工具和创意生成等场景。然而,构建多轮对话能力所需的训练数据人工标注成本高,且难以控制质量和多样性。因此,如何增强大模型的多轮交互能力...
译文 | 美国国防工业基础网络安全战略
*转载自:网络安全罗盘随着工业4.0时代的到来,网络安全成为新工业时代的重要主题。国防工业是美国十六个关键基础设施部门之一,美国国防部发布《国防工业基础网络安全战略》(Defense Industri...
LangChain曝关键漏洞,数百万AI应用面临攻击风险
关键词安全漏洞LangChain是一个流行的开源生成式人工智能框架,其官网介绍,有超过一百万名开发者使用LangChain框架来开发大型语言模型(LLM)应用程序。LangChain的合作伙伴包括云计...
专题解读 | 大语言模型中的提示隐私保护
大语言模型中的提示隐私保护一、简介:大语言模型(LLM) 拥有庞大的规模、预先训练的知识和卓越的性能,被广泛应用于各种任务。提示学习(prompt learning)和指令微调(instruction...
九个方向:AI技术在网络安全的落地应用
自2022年底开始,以LLM(大语言模型,简称大模型)为核心的AIGC(生成式人工智能)带来了一场人工智能驱动的技术与产业革命,人工智能被广泛认为是可以改变“游戏规则”的战略性科技。国内开启了“百模大...
大语言模型中的提示隐私保护
大语言模型中的提示隐私保护 一、简介: 大语言模型(LLM) 拥有庞大的规模、预先训练的知识和卓越的性能,被广泛应用于各种任务。提示学习(prompt learning)和指令微调(instructi...
【论文速读】| LLMCloudHunter:利用大语言模型(LLMs)从基于云的网络威胁情报(CTI)中自动提取检测规则
本次分享论文:LLMCloudHunter: Harnessing LLMs for Automated Extraction of Detection Rules from Cloud-Based ...
麻省理工:AI大模型缺乏推理能力
7月11日,麻省理工学院人工智能实验室CSAIL发文称,人工智能大语言模型(LLM)在不熟悉场景中的表现欠佳,缺乏真正的推理能力,对记忆存在依赖。一、研究设计CSAIL的研究比较了“默认任务”(Def...
全球首个安全代码审计AI - CodeArgus
CodeArgus 由广州朋克智能科技有限公司打造的创新产品,全球首个安全代码审计AI。它通过先进的大语言模型技术,为企业和开发者提供高效、准确且成本效益极高的代码审计解决方案。「创新突破」CodeA...
网络钓鱼中的高级同形异义:网络安全的新威胁
网络安全正面临一个潜在的新威胁:在网络钓鱼攻击中使用同形异义词。这篇调查文章探讨了同形异义现象如何在各种类型的网络钓鱼攻击中使用、其背后的技术。对这种恶意行为的研究以及高级语言模型 (LLM) 如何帮...
30