大模型与相关技术在一年之内纷纷涌现,各种专业词汇、缩写词层出不穷,让很多人迷惑,也包括我。在经过一段时间的学习之后,对相关领域有了一定的了解。决定将目前的各个技术名词,缩写词进行一次人话翻译,让更多的...
探索通过GPT和云平台搭建网安实战培训环境
更多全球网络安全资讯尽在邑安全项目背景网络安全是一个不断演变的领域,面临着日益复杂的挑战和不断扩大的威胁。数字化时代,随着勒索攻击、数据窃取、网络钓鱼等频频出现,网络攻击的威胁指数和影响范围进一步增加...
蚂蚁牵头的大模型安全测评标准发布
第 27 届联合国科技大会(the 27th UN CSTD Annual Meeting)正在瑞士日内瓦召开。大会期间,世界数字技术院(WDTA)发布了两项国际标准:《生成式人工智能应用安全测试标准...
CSA大中华区牵头 | 生成式AI应用安全、大模型安全标准发布
4月16日联合国日内瓦总部万国宫,由世界数字技术院(WDTA)与云安全联盟大中华区(CSA GCR)联合主办第27届联合国科技大会AI边会上,世界数字技术院(WDTA)发布了两项具有重要意义的国际标准...
我国人工智能法应如何制定
全球人工智能治理风起云涌。3月21日,联合国大会通过了全球首个关于监管人工智能的决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇,促进可持续发展》。决议表示,各国认识到“人工智能系统的设计、开发...
【论文速读】| TroubleLLM:与红队专家对齐
本次分享论文为:TroubleLLM: Align to Red Team Expert基本信息原文作者:Zhuoer Xu, Jianping Zhang, Shiwen Cui, Changhua...
【论文速读】| 大语言模型是边缘情况模糊测试器:通过FuzzGPT测试深度学习库
本次分享论文为:Large Language Models are Edge-Case Fuzzers: Testing Deep Learning Libraries via FuzzGPT基本信息...
AI安全:LLM的风险揭示与安全性评估
大语言模型(LLM)在当前社会中扮演着日益重要的角色,其广泛应用领域突显了其对社会和技术发展的重要性。然而,强大却也脆弱,大语言模型的这一特性,让我们看到了人工智能发展的双刃剑效应,如何确保大语言模型...
凯文·凯利 2024最新演讲:从四个方向理解AI
来源:工业互联网研习社全文共 7226 个字,建议阅读 10 分钟3月29日,中信出版集团联合上海交通大学上海高级金融学院邀请到凯文·凯利(K.K.)来到中国,展开一场精彩的线下对谈。现场,K.K. ...
OWASP发布大语言模型网络安全与治理清单
当前人工智能技术面临的最大风险是大语言模型(LLM)和生成式人工智能技术的发展和应用速度已经远远超过了安全和治理的速度。OpenAI、Anthropic、谷歌和微软等公司的生成式人工智能和大语言模型产...
AI能规避掉很多技术层面的攻击,进源攻击确让AI无从下手
什么是进源攻击近源攻击(Proximity Attack) 是一种网络安全攻击模式,其中攻击者通过物理接近目标系统或网络环境,利用近距离接触的机会实施攻击。攻击者需实际进入目标设施的周边区域或内部,有...
从攻击视角看AI大模型的安全
ISC2北京分会会员线上活动从攻击视角看AI大模型的安全时间:2024年4月17日(周三) 20:00-21:00主办方:ISC2北京分会参会方式:腾讯会议系统议题介绍:随着人工智能技术的迅猛发展,大...
72