大模型建设思路从23年初ChatGPT的惊艳亮相,引爆了LLM和相关应用的想象空间,人必称大模型,虽然99%的人可能连个梯度下降的公式都看不懂,好像作为IT从业人员不谈这个就显得很落伍,缺乏技术视野一...
【大模型安全】ChatGPT-Next-Web存在SSRF和反射型XSS
ChatGPT-Next-Web存在SSRF和反射型XSS随着生成式人工智能的出现,人工智能聊天机器人无处不在。虽然用户可以使用 OpenAI 等 SaaS 提供商与大语言模型 (LLM) 聊天,但也...
蚂蚁牵头的大模型安全测评标准发布
第 27 届联合国科技大会(the 27th UN CSTD Annual Meeting)正在瑞士日内瓦召开。大会期间,世界数字技术院(WDTA)发布了两项国际标准:《生成式人工智能应用安全测试标准...
CSA大中华区牵头 | 生成式AI应用安全、大模型安全标准发布
4月16日联合国日内瓦总部万国宫,由世界数字技术院(WDTA)与云安全联盟大中华区(CSA GCR)联合主办第27届联合国科技大会AI边会上,世界数字技术院(WDTA)发布了两项具有重要意义的国际标准...
【大模型安全】[文献整理] 大模型对抗攻击
[文献整理] 大模型对抗攻击阅读如下论文和材料,整理与LLM对抗攻击相关内容。Survey of Vulnerabilities in Large Language Models Revealed b...
【大模型安全】大模型攻防对抗:揭秘攻击手段与防御策略
大模型攻防对抗:揭秘攻击手段与防御策略 引言 随着科技的飞速发展与智能化的步伐不断加快,人工智能的身影越来越频繁地出现在我们的日常生活中,尤其是大模型的应用。然而,随着其广泛应用,大模型攻防对抗的问题...
如何保护大模型API安全
点击上方蓝色字体关注,了解更多网络安全知识引言大模型的崛起正在改变着我们对机器学习和人工智能的理解,它们不仅提供了令人惊叹的预测和分析能力,还在各行各业的应用中发挥着重要作用。通过提供 API,用户无...
【大模型安全】AI大模型概念先导篇
AI大模型概念先导篇AI大模型,顾名思义,是指规模庞大、能力强大的人工智能模型。它是当前人工智能领域最热门的技术之一,也是各大科技巨头争相投入研发的重点。那么,究竟什么是AI大模型呢?大语言模型领域技...
SecMet#2期 基于提示词工程的大模型安全
[SecMet]是安全学术圈近期打造的一个线上线下结合的学术研讨模式,研讨会分为全公开和半公开模式,其中半公开模式仅对安全学术圈内部交流群和特殊专题投稿人员参加,每期主题根据领域主席(Primary ...
大模型安全:Prompt Injection与Web LLM attacks
文末抽奖嗷Prompt Injection大语言模型(英文:Large Language Model,缩写LLM)中用户的输入称为:Prompt(提示词),一个好的 Prompt 对于大模型的输出至关...
越聪明越危险?如何约束大模型的高智商犯罪
11月初,包括中国、美国、英国和欧盟在内的28个国家和地区,在首届人工智能安全峰会上签署《布莱奇利宣言》,这份文件相当于国际社会对于人工智能发展的“道德指南针”,试图在保障技术创新的同时,避免可能出现...
LLM大模型安全(2)-训练数据投毒攻击
本篇为大模型安全第2篇,主要讲述数据投毒攻击来污染大模型,从而造成非预期攻击行为OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和组...
5