ai系统 | CN-SEC 中文网

人工智能安全

聊热点｜为何AI系统比以往任何时候都更需要红队测试、微软安全如何做AI Agent……

01 行业动态为何AI系统比以往任何时候都更需要红队测试AI系统正逐渐成为我们生活的重要组成部分，但它们并不完美。红队测试有助于发现AI系统中的弱点，使其更安全、更可靠。随着技术的不断发展，进行全面测...

04月02日12 views评论

阅读全文

人工智能安全

[他山之石] AI安全 | 大模型越狱探索

前言米斯特安全团队准备新建AI安全组，目前正在招人，感兴趣的可以投递简历至admin[#]hi-ourlife.com，请备注工作岗位以及就读院校和专业，我们欢迎就读相关专业的学生以及有在从事...

02月11日43 views评论

阅读全文

安全新闻

金融业人工智能应用风险研究报告

中国工商银行金融科‍技研究院安全攻防实验室‍作者：苏建明蒋家堂叶红程佩哲许啸黄蓉中国工商银行金融科技研究院大数据和人工智能实验室作者：金昕一、金融业人工智能应用风险概述（一）国内外...

01月21日105 views评论

阅读全文

企业安全

AI安全审计：企业如何防范数据风险？

点击上方蓝字关注我们重要声明随着网络安全越来越重要，“安全info”将定期分享实用安全技术、最新行业动态、案例分析，实战技巧等。鉴于网络安全法的基础文章内容仅供学习，不做其他任何用处！更多...

11月29日65 views评论

阅读全文

安全新闻

2024人工智能十大前沿技术趋势展望

近日，2024年世界科技与发展论坛主题会议“人工智能治理创新为培育科技治理生态构建国际信任基础”在京举办，世界机器人合作组织理事长、中国科学院院士乔红在会议上发布了2024人工智能（AI）十大前沿技术...

11月09日14 views评论

阅读全文

安全新闻

谷歌翻译被投毒

Google翻译服务遭遇博彩广告投毒事件分析近期,Google翻译这一广受欢迎的在线翻译服务遭遇了一场别具特色的"投毒"事件。一些博彩公司利用技术手段,在翻译结果中插入了大量博彩广告信息,严重影响了该...

11月06日98 views评论

阅读全文

人工智能安全

【公益译文】对抗式机器学习攻击与缓解措施分类及术语（下）

全文共18526字，阅读大约需28分钟。往期推荐：【公益译文】对抗式机器学习攻击与缓解措施分类及术语（上）三生成式AI分类生成式AI包括多种人工智能技术，它们具有不同的起源、建模方法和相关属性：生成式...

11月06日6 views评论

阅读全文

人工智能安全

对抗式机器学习攻击与缓解措施分类及术语（下）

全文共18526字，阅读大约需28分钟。往期推荐：【公益译文】对抗式机器学习攻击与缓解措施分类及术语（上）三生成式AI分类生成式AI包括多种人工智能技术，它们具有不同的起源、建模方法和相关属...

10月30日18 views评论

阅读全文

人工智能安全

AI安全 | 大模型越狱探索

10月29日31 views评论

阅读全文

安全新闻

被Gartner排在首位的技术趋势，将如何深刻影响网络安全？

Gartner最近发布的2025十大战略技术趋势中，Agentic AI（代理型AI）被排在首位，凸显了Agentic AI 在提高生产力、优化资源配置和创新商业模式方面的巨大潜力。但Gartner同...

10月24日15 views评论

阅读全文

安全新闻

AI驱动机器人暴关键漏洞，可致机器人失控执行危险行为

近日，宾夕法尼亚大学的工程研究团队揭示了AI驱动机器人中存在的关键漏洞，这些漏洞可以被恶意操控，导致机器人执行危险任务，包括引爆炸弹。研究团队在这项研究中开发了一种名为RoboPAIR的算法，成功实现...

10月18日97 views评论

阅读全文

人工智能安全

【公益译文】对抗式机器学习攻击与缓解措施分类及术语（上）

全文共23526字，阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习（AML）分类和术语，用以保护AI应用，防止被敌方操控。广义上讲，AI系统分为两类：预测式和生成...

10月16日46 views评论

阅读全文

聊热点｜为何AI系统比以往任何时候都更需要红队测试、微软安全如何做AI Agent……

[他山之石] AI安全 | 大模型越狱探索

金融业人工智能应用风险研究报告

AI安全审计：企业如何防范数据风险？

2024人工智能十大前沿技术趋势展望

谷歌翻译被投毒

【公益译文】对抗式机器学习攻击与缓解措施分类及术语（下）

对抗式机器学习攻击与缓解措施分类及术语（下）

AI安全 | 大模型越狱探索

被Gartner排在首位的技术趋势，将如何深刻影响网络安全？

AI驱动机器人暴关键漏洞，可致机器人失控执行危险行为

【公益译文】对抗式机器学习攻击与缓解措施分类及术语（上）

在线咨询

微信