ai系统 | CN-SEC 中文网

人工智能安全

深度研究 | 解构国内外代表性Agentic AI系统风险模型

本文内容摘自为安全牛最新发布的《Agentic AI安全技术应用报告》Agentic AI正在走向现实应用。这些拥有自主决策能力的AI系统也带来了全新的安全挑战。与传统网络安全风险不同，Agentic...

05月27日19 views评论

阅读全文

信息情报

五国网络安全机构联合发布保障AI系统数据安全的指南

AI模型的性能不仅由算法能力决定，数据的质量、安全性与完整性正在成为左右AI系统可信性与安全性的关键变量。2025年5月22日，美国国家安全局（NSA）联合多国网络安全机构发布《人工智能数据安全：保护...

05月26日8 views评论

阅读全文

人工智能安全

AI的阴暗面：揭露举报模式与勒索企图

人工智能行业正热议最新发布的克劳德4(Claude 4)系列模型。这些模型具备先进的持续推理能力，能够在执行复杂任务时自主暂停，通过搜索引擎或外部工具检索数据，然后无缝恢复操作。持续推理与举报功能这种...

05月25日24 views评论

阅读全文

人工智能安全

浅谈AI与运维

01AI在运维中的应用故障预测与预警在运维领域中，故障预测与预警至关重要。AI通过机器学习算法，可以对应用系统生产服务器的历史性能指标数据（如CPU使用率、内存占用率、磁盘I/O速率及网络流量等多维度...

05月22日20 views评论

阅读全文

人工智能安全

提示词注入攻击的检测和数据集介绍

提示词注入攻击介绍提示词注入是一种攻击技术，攻击者通过精心设计的输入来操纵AI系统，使其偏离原定行为或绕过设定的安全措施。这类似于软件开发中的SQL注入攻击，但针对的是AI系统的提示词处理机制。OWA...

05月15日16 views评论

阅读全文

安全新闻

微软悬赏最高3万美元征集AI系统漏洞

微软宣布将Dynamics 365和Power Platform服务及产品中发现的AI漏洞赏金最高提升至3万美元。01产品范围与漏洞类型Power Platform包含帮助企业分析数据和自动化流程的应...

04月26日16 views评论

阅读全文

人工智能安全

对抗性机器学习-攻击和缓解的分类和术语（三）

3.生成性人工智能分类GenAI是人工智能的一个分支，它开发的模型可以生成与训练数据具有相似属性的内容（例如图像、文本和其他媒体）。GenAI包括几种不同类型的人工智能技术，它们具有不同的起源、建模方...

04月21日11 views已关闭评论

阅读全文

人工智能安全

聊热点｜为何AI系统比以往任何时候都更需要红队测试、微软安全如何做AI Agent……

01 行业动态为何AI系统比以往任何时候都更需要红队测试AI系统正逐渐成为我们生活的重要组成部分，但它们并不完美。红队测试有助于发现AI系统中的弱点，使其更安全、更可靠。随着技术的不断发展，进行全面测...

04月02日23 views评论

阅读全文

人工智能安全

[他山之石] AI安全 | 大模型越狱探索

前言米斯特安全团队准备新建AI安全组，目前正在招人，感兴趣的可以投递简历至admin[#]hi-ourlife.com，请备注工作岗位以及就读院校和专业，我们欢迎就读相关专业的学生以及有在从事...

02月11日64 views评论

阅读全文

安全新闻

金融业人工智能应用风险研究报告

中国工商银行金融科‍技研究院安全攻防实验室‍作者：苏建明蒋家堂叶红程佩哲许啸黄蓉中国工商银行金融科技研究院大数据和人工智能实验室作者：金昕一、金融业人工智能应用风险概述（一）国内外...

01月21日166 views评论

阅读全文

企业安全

AI安全审计：企业如何防范数据风险？

点击上方蓝字关注我们重要声明随着网络安全越来越重要，“安全info”将定期分享实用安全技术、最新行业动态、案例分析，实战技巧等。鉴于网络安全法的基础文章内容仅供学习，不做其他任何用处！更多...

11月29日80 views评论

阅读全文

安全新闻

2024人工智能十大前沿技术趋势展望

近日，2024年世界科技与发展论坛主题会议“人工智能治理创新为培育科技治理生态构建国际信任基础”在京举办，世界机器人合作组织理事长、中国科学院院士乔红在会议上发布了2024人工智能（AI）十大前沿技术...

11月09日17 views评论

阅读全文

深度研究 | 解构国内外代表性Agentic AI系统风险模型

五国网络安全机构联合发布保障AI系统数据安全的指南

AI的阴暗面：揭露举报模式与勒索企图

浅谈AI与运维

提示词注入攻击的检测和数据集介绍

微软悬赏最高3万美元征集AI系统漏洞

对抗性机器学习-攻击和缓解的分类和术语（三）

聊热点｜为何AI系统比以往任何时候都更需要红队测试、微软安全如何做AI Agent……

[他山之石] AI安全 | 大模型越狱探索

金融业人工智能应用风险研究报告

AI安全审计：企业如何防范数据风险？

2024人工智能十大前沿技术趋势展望

在线咨询

微信