❤请点击上方 ⬆⬆⬆ 关注君说安全!❤免责声明:本文素材(包括内容、图片)均来自互联网,仅为传递信息之用。如有侵权,请联系作者删除。“网安人所努力的,无非就是可控两字,控,代表了对未知未来的把握。”最...
需要掌握4个安全模型
这四个模型需要重点掌握:1、 Bell-LaPadula 模型Bell-LaPadula是20世纪70年代,美国军方提出的用于解决分时系统的信息安全和保密问题,该模型主要用于防止保密信息被未授权的主体...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)三生成式AI分类生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属性:生成式...
2024 TechWorld | 冯登国院士:人工智能安全的思考与认识
2024年11月1日,2024 TechWorld智慧安全大会在北京成功举行。中国科学院冯登国院士在大会上发表了《人工智能安全:思考与认识》的主题演讲。他指出,人工智能(AI)已成为网络空间安全发展的...
AI安全 | Ai安全提示词设计与攻防 {设计篇}
前言 米斯特安全团队准备新建AI安全组,目前正在招人,感兴趣的可以投递简历至admin[#]hi-ourlife.com,请备注工作岗位以及就读院校和专业,同时附带一篇关于AI安全研究的文章。我们欢...
【论文速读】| RePD:通过基于检索的提示分解过程防御越狱攻击
基本信息原文标题:RePD: Defending Jailbreak Attack through a Retrieval-based Prompt Decomposition Process原文作者...
从Naptime到Big Sleep:通过大语言模型捕获真实代码中的漏洞
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士如下是谷歌 Project Zero 发布的一篇文章,详述了 Big Sleep 项目如何发现了传统模糊测试无法发现的0day漏洞,探讨了大语言模型在...
深化人工智能安全监管研究
前言确保人工智能安全、可靠、可控,有利于人类文明进步,是人工智能发展必须解决的重要课题。党的二十届三中全会《决定》作出“建立人工智能安全监管制度”“完善生成式人工智能发展和管理机制”等重要部署。如何加...
Project Zero:从午睡到大睡:利用大型语言模型捕捉现实世界代码中的漏洞
From Naptime to Big Sleep: Using Large Language Models To Catch Vulnerabilities In Real-World Code介绍...
NeurIPS 2024 让大语言模型使用代码解决图分析推理任务
Neurips 2024 让大语言模型像人类专家一样使用代码解决图分析推理任务论文链接: (https://arxiv.org/abs/2409.19667/)GitHub链接: (https://g...
AIGC安全评估
背景介绍最近有朋友问到AIGC安全评估的一些问题,最近做了一些调研,因为博主视野有限,文章不足之处请谅解。根据国家网信办、国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门的要求,...
Obsidian的Whisper插件(AI语音转文本)
OpenAI的Whisper API,可以实现语音转文字的功能。Obsidian提供Whisper插件,配置好Whisper插件的 API参数后,上传音频文件,就可以把语音中的文字内容转换成文本输出。...
63