网络安全是人工智能最大的细分市场,过去几年网络安全厂商纷纷宣称整合了人工智能技术(当然也有很多仅仅是炒作),其中大部分是基于基线和统计异常的机器学习。随着ChatGPT和类似生成式人工智能技术的飞速发...
面向威胁情报的大语言模型技术
威胁情报(Threat Intelligence, TI)的早期实践起源于军事领域, 在这一阶段, 人类决策者和专家指导、收集、处理情报并将其传播给其他相关利益方。网络威胁情报是关于现有或潜在的威胁信...
Obsidian笔记实现本地知识库(llama3、RAG)
用过去写的Obsidian笔记Markdown文档,生成一个本地的知识库,通过GPT或者本地大语言模型(LLM), 通过对话进行提问,如果之前写的Obsidian笔记都原创的文档,GPT和本地大语言模...
深入探讨:人工智能生态系统的安全性
本文 120343字 阅读约需 33分钟文章重点是与企业安全领导者和首席执行官深入探讨如何确保生成式人工智能应用和大语言模型的安全。其中,分析的重点是企业采用人工智能的情况,这是影响安全厂商未来发...
金融领域大语言模型应用安全探析
随着技术的进步,人工智能和机器学习已经成为推动金融服务创新的关键驱动力。大语言模型在金融领域应用中的安全问题越发受到关注。本文重点进行了金融领域大语言模型的应用安全分析,提出了大语言模型的风险防控措施...
专题·大模型安全 | 数字风洞构造大语言模型的安全围栏
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 永信至诚科技集团股份有限公司 付磊 张凯大语言模型(LLM)被视为通往通用人工智能(AGI)道路上的重要里程碑,...
【论文速读】| SEAS:大语言模型的自进化对抗性安全优化
本次分享论文:SEAS: Self-Evolving Adversarial Safety Optimization for Large Language Models基本信息原文作者: Muxi D...
AI+Security系列第2期(三):面向LLM(大语言模型)的漏洞挖掘与对齐防御研究
近日,由安全极客、Wisemodel 社区和 InForSec 网络安全研究国际学术论坛联合主办的“AI+Security”系列第 2 期——对抗!大模型自身安全的攻防博弈线上活动如期举行。在此次活动...
大语言模型越狱攻击综述
今天为大家介绍清华大学计算机系徐恪、宋佳兴、李琦老师团队,高研院丛天硕老师,和香港科技大学(广州)何新磊老师联合完成的综述《Jailbreak Attacks and Defenses Against...
【警惕人工智能时代的智能体风险】
一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元价值,世界卫生组织使用的聊天机器人提供了过时的药品审核信息,美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然均由...
【论文速读】| LLMCloudHunter:利用大语言模型(LLMs)从基于云的网络威胁情报(CTI)中自动提取检测规则
本次分享论文:LLMCloudHunter: Harnessing LLMs for Automated Extraction of Detection Rules from Cloud-Based ...
全球首个安全代码审计AI - CodeArgus
CodeArgus 由广州朋克智能科技有限公司打造的创新产品,全球首个安全代码审计AI。它通过先进的大语言模型技术,为企业和开发者提供高效、准确且成本效益极高的代码审计解决方案。「创新突破」CodeA...
15