首席信息安全官(CISOs)需要一个 AI 可见性和关键绩效指标(KPI)计划,以实现 “恰到好处” 的平衡,从而达到最佳的安全性和生产力成果。AI 在软件开发中的现状如今,人工智能(AI)这一 “精...
AI安全 | 大模型时代下的安全隐患规避
当前正处于人工智能飞速发展的黄金时期,以ChatGPT为代表的生成式人工智能技术极大地丰富了创意表达的方式,加速了知识的传播,并为社会变革注入了新的动力。在我国,大语言模型(Large Languag...
通过生成式人工智能绕过面部识别认证
扫码领资料获网安教程来Track安全社区投稿~ 赢千元稿费!还有保底奖励~(https://bbs.zkaq.cn) 如何欺骗面部识别系统将照片中的我的脸识别为xxx的人脸绕过系统验证。 ...
一句话让大模型聊天助手主动泄露对话敏感信息
关注我们带你读懂网络安全研究人员开发了一种算法,可将恶意提示词转换为一组隐藏指令,进而要求大模型将用户的对话敏感信息发送给攻击者;该研究测试法国公司Mistral AI的LeChat和中国公司智谱的C...
大语言模型安全,到底是什么的安全
什么是AI安全自ChatGPT问世以来,市场上涌现出了众多大型语言模型和多样化的AI应用。这些应用和模型在为我们的生活带来便利的同时,也不可避免地面临着安全挑战。AI安全,即人工智能安全,涉及在人工智...
【论文速读】| F2A:一种利用伪装安全检测智能体进行提示注入的创新方法
基本信息原文标题:F2A: An Innovative Approach for Prompt Injection by Utilizing Feign Security Detection Agen...
AI挑战漏洞挖掘的浮想联翩
❤请点击上方 ⬆⬆⬆ 关注君说安全!❤免责声明:本文素材(包括内容、图片)均来自互联网,仅为传递信息之用。如有侵权,请联系作者删除。“网安人所努力的,无非就是可控两字,控,代表了对未知未来的把握。”最...
需要掌握4个安全模型
这四个模型需要重点掌握:1、 Bell-LaPadula 模型Bell-LaPadula是20世纪70年代,美国军方提出的用于解决分时系统的信息安全和保密问题,该模型主要用于防止保密信息被未授权的主体...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)三生成式AI分类生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属性:生成式...
2024 TechWorld | 冯登国院士:人工智能安全的思考与认识
2024年11月1日,2024 TechWorld智慧安全大会在北京成功举行。中国科学院冯登国院士在大会上发表了《人工智能安全:思考与认识》的主题演讲。他指出,人工智能(AI)已成为网络空间安全发展的...
AI安全 | Ai安全提示词设计与攻防 {设计篇}
前言 米斯特安全团队准备新建AI安全组,目前正在招人,感兴趣的可以投递简历至admin[#]hi-ourlife.com,请备注工作岗位以及就读院校和专业,同时附带一篇关于AI安全研究的文章。我们欢...
【论文速读】| RePD:通过基于检索的提示分解过程防御越狱攻击
基本信息原文标题:RePD: Defending Jailbreak Attack through a Retrieval-based Prompt Decomposition Process原文作者...
73