人工智能安全 - 第 2 | CN-SEC 中文网

人工智能安全

专题·人工智能安全 | 政府部门DeepSeek私有化部署的安全管理策略研究

扫码订阅《中国信息安全》邮发代号 2-786征订热线：010-82341063文 | 农业农村部信息中心信息安全处王祺鑫2025年初，我国的人工智能大模型DeepSeek在全球范围内引起了广泛关注...

06月27日14 views评论

阅读全文

人工智能安全

大模型注入攻击和防御

扫码加入知识星球：人工智能、算力算网下载本篇和全套资料人工智能、人工智能安全、人工智能+、算力算网| -原文始发于微信公众号（计算机与网络安全）：大模型注入攻击和防御

06月27日18 views已关闭评论

阅读全文

人工智能安全

ChatGPT官方网络安全类GPTs推荐清单，及提示词破解

欢迎关注【BurpSuite实战教程】，加入【安全智能体研究】知识星球。 ChatGPT官方网络安全类GPTs推荐清单，及提示词破解随着AI大模型的普及和深入，网络安全行业也迎来了变革。这种变革，...

06月27日13 views已关闭评论

阅读全文

人工智能安全

让主流大模型集体破防的回音室攻击

近日，一种名为“回音室攻击”（Echo Chamber）的新型越狱方法在AI安全圈流行，可诱骗几乎所有主流大语言模型生成不良内容，无论这些大模型采取了何种（现有）安全措施。NeuralTrust 研究...

06月27日27 views已关闭评论

阅读全文

人工智能安全

人工智能（AI）在城镇作战中的应用及对我启示

关注 ▲蓝军开源情报▲ 和10000情报研究员，一起成长【导读】人工智能（AI）技术已成为现代城镇作战不可或缺的战力倍增器，主要应用于战场情报搜集、态势感知与指挥决策辅助。可通过无人机搭载AI影像辨识...

06月27日15 views已关闭评论

阅读全文

人工智能安全

AI产业的版权危机：Meta大模型完整记忆了《哈利·波特》

在大模型版权争议愈演愈烈的背景下，来自斯坦福大学、康奈尔大学与西弗吉尼亚大学的联合研究抛出惊人发现：Meta旗下的Llama3.1大型语言模型，能够复现《哈利·波特与魔法石》高达91%的内容，显示其极...

06月27日13 views评论

阅读全文

人工智能安全

【论文速读】|LLM vs. SAST：GPT4 代码缺陷检测技术分析——高级数据分析

基本信息原文标题：LLM vs. SAST: A Technical Analysis on Detecting Coding Bugs of GPT4-Advanced Data Analysis原...

06月26日13 views评论

阅读全文

人工智能安全

总结一下最近学习到的MCP风险问题（杂谈）

之前写了几篇大模型MCP相关的文章，了解了原理、实现以及安全问题。本篇做一下个人对于MCP安全的总结。MCP风险剖析传统的用户终端安全（计算机本身的安全）中，常见的攻击场景就是用户下载了奇奇怪怪的恶意...

06月26日14 views评论

阅读全文

人工智能安全

从性能测试比较简单的角度入手ai全自动化

从性能测试入手，希望后期能够应用到安全渗透测试import osimport reimport subprocessimport timefrom urllib import responseimpo...

06月26日14 views评论

阅读全文

人工智能安全

AI安全，AI系统主要的安全威胁有哪些？

点击上方“蓝字”关注我们了解更多精彩近年来，人工智能（AI）技术飞速发展，大型语言模型、图像生成模型、自动驾驶AI等系统在各行业得到广泛应用。然而，与此同时，这些AI系统也暴露出诸多安全漏洞和技术挑战...

06月26日16 views评论

阅读全文

人工智能安全

Survey: 大语言模型安全

文章全面综述了大语言模型（LLMs）的安全性问题，探讨了其在价值偏差、对抗性攻击的鲁棒性、误用风险以及自主人工智能风险四个主要方面的潜在威胁及应对策略。此外，文章还延伸讨论了与LLM安全性相关的领域，...

06月26日24 views评论

阅读全文

人工智能安全

复旦大学 | HoneypotNet：针对模型提取的后门攻击

原文标题：HoneypotNet: Backdoor Attacks Against Model Extraction原文作者：Yixu Wang，Tianle原文链接：https://doi.org...

06月25日15 views评论

阅读全文

在线咨询

微信