智能系统 | CN-SEC 中文网

人工智能安全

关于AI系统的访问控制，看看权威观点

上周发了关于ReBAC的应用，见适合AI系统的访问控制方法ReBAC:基于关系的访问控制。今天意外收到David Maman的回复，分享给大家翻译后是这样的：ReBAC（Zanzibar）在人工智能...

06月30日7 views评论

阅读全文

人工智能安全

如何设计大规模人工智能系统（您需要了解的每一个组件）

训练一个机器学习模型，或许在基准数据集上达到最高的准确率是一回事。但部署该模型，使其服务数百万用户、处理 TB 级数据并全天候可靠运行，则是一个截然不同的挑战。从一开始，训练和部署机器学习模型的每个部...

06月19日16 views评论

阅读全文

安全新闻

数据平台巨头Snowflake与Databricks跨入全新竞争领域

Part01行业转折点从数据分析平台到智能系统数据产业正迎来一个关键转折点，这一趋势与我们此前在《Breaking Analysis》系列中探讨的主题一脉相承——从"第六代数据平台"到"黄砖路"，从"...

06月02日19 views评论

阅读全文

安全新闻

研究称，尽管有指示，ChatGPT o3仍能抵抗关机

Palisade Research最近进行的一系列测试引发了一些严重的新担忧，即先进的人工智能系统在被要求关闭时的表现。据该公司称，OpenAI的实验模型“o3”主动破坏了关机机制，即使它被明确指示允...

05月28日32 views评论

阅读全文

安全新闻

研究称 ChatGPT o3 拒绝关闭，尽管收到指示

Palisade Research 最近进行的一系列测试引发了一些新的严重担忧，即先进人工智能系统在被要求自我关闭时的行为。据该公司称，OpenAI 的实验模型“o3”即使在被明确指示允许自我关闭的情...

05月28日33 views评论

阅读全文

人工智能安全

浅聊AI模型的自动化安全评估工具及技术

介绍传统安全工具是为具有可预测行为的确定性系统设计的。相比之下，人工智能系统是概率性的（非确定性的），能够从数据中学习，并且可以随着时间的推移而发展。这种根本性的差异带来了新的攻击面和安全挑战，而传统...

04月24日16 views评论

阅读全文

对抗性机器学习-攻击和缓解的分类和术语

发布说明：本标准原文全文127页，发布将通过连载方式分三次发布完成，PDF版与全文发布地址将在最后一期提供。由于受到公众号限制，本次发布不包含所有的尾注，将会大大降低可读性。PDF版将包含“译者注”和...

04月14日人工智能安全29 views评论

阅读全文

人工智能安全

新的CCA越狱方法可对抗大多数AI模型

两位微软研究人员设计了一种全新的、无需优化的越狱方法，可以有效绕过大多数人工智能系统的安全机制。该方法被称为上下文合规攻击 (CCA)，利用了许多已部署的 gen-AI 解决方案中存在的基本架构漏洞，...

03月21日27 views评论

阅读全文

信息情报

美军第十八空降军研发人工智能系统 Maven 探秘

近年来，美国国防部一直在努力推动不同军种、不同国家的作战部队都能够快速部署、快速接入，使美国可以在对应的保密级别与盟友进行信息共享、协同作战。为实现该目标，美国国防部启动了名为联合全域指挥控制（CJA...

03月10日121 views评论

阅读全文

安全新闻

黑客如何利用快速工程技术操纵代理人工智能

“代理”人工智能时代已经到来，企业再也不能忽视其变革潜力。人工智能代理独立运作，根据其编程做出决策并采取行动。Gartner预测，到2028年，15% 的日常业务决策将完全由人工智能代理自主做出。然而...

02月21日25 views评论

阅读全文

紧急告警！Meta Llama框架漏洞，AI系统面临远程代码执行风险

2024年9月，一位安全研究员在测试Meta的Llama框架时，意外发现了一个严重的安全漏洞。这个漏洞不仅威胁到了人工智能系统的安全性，还可能引发更广泛的网络安全问题。今天，我们就来深入探讨这个漏洞的...

01月28日安全新闻57 views评论

阅读全文

安全闲碎

如何快速掌握AI安全

通过网盘分享的文件：LLM_AI_Security_and_Governance_Checklist-v1.1.pdf链接: https://pan.baidu.com/s/1MLF0TxcbyG9_...

01月06日13 views评论

阅读全文