Google翻译服务遭遇博彩广告投毒事件分析近期,Google翻译这一广受欢迎的在线翻译服务遭遇了一场别具特色的"投毒"事件。一些博彩公司利用技术手段,在翻译结果中插入了大量博彩广告信息,严重影响了该...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)三生成式AI分类生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属性:生成式...
对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。 往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上) 三 生成式AI分类 生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属...
AI安全 | 大模型越狱探索
前言 米斯特安全团队准备新建AI安全组,目前正在招人,感兴趣的可以投递简历至admin[#]hi-ourlife.com,请备注工作岗位以及就读院校和专业,我们欢迎就读相关专业的学生以及有在从事...
被Gartner排在首位的技术趋势,将如何深刻影响网络安全?
Gartner最近发布的2025十大战略技术趋势中,Agentic AI(代理型AI)被排在首位,凸显了Agentic AI 在提高生产力、优化资源配置和创新商业模式方面的巨大潜力。但Gartner同...
AI驱动机器人暴关键漏洞,可致机器人失控执行危险行为
近日,宾夕法尼亚大学的工程研究团队揭示了AI驱动机器人中存在的关键漏洞,这些漏洞可以被恶意操控,导致机器人执行危险任务,包括引爆炸弹。研究团队在这项研究中开发了一种名为RoboPAIR的算法,成功实现...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)
全文共23526字,阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习(AML)分类和术语,用以保护AI应用,防止被敌方操控。广义上讲,AI系统分为两类:预测式和生成...
AI风险审计方法论
从医疗保健、金融到虚拟助理和自动驾驶汽车,人工智能(AI)在日常生活中无处不在。AI可能彻底改变人类的生活和工作方式,并加速人类生产信息和技术互动方式的转变。但AI也暴露出重大的伦理、法律和社会挑战。...
AI的韧性与多样性
韧性经常被作为一个流行词信手拈来,但它的真正定义是什么可能相当难以捉摸。在这篇博客中,我将探讨AI韧性的三大支柱:稳健性、韧性和可塑性。虽然稳健性和韧性对AI安全至关重要,但我将重点探讨可塑性——它既...
深入解析:四大人工智能编码风险及应对策略
目前,高达96%的开发人员在使用AI编码工具,这些工具不仅自动化代码生成、精准识别错误,还高效提供文档编制及编码建议。开发人员对ChatGPT与GitHub Copilot等工具高度依赖,以至于约80...
人工智能的头号威胁:投毒攻击
随着掌管数字生活入口的万亿美元俱乐部企业——苹果公司跳入人工智能(AI)赛道,AI技术民主化的大幕正式拉开,同时也将AI安全问题推向舆论的风口浪尖。根据瑞银本周一的智能手机调查报告,在中国以外的智能手...
CISA开展首次AI网络事件响应演习
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士上周,美国网络安全局CISA 首次与私营行业开展了旨在响应AI网络安全事件的演习活动。这次演习活动为期4小时,由网络防御协调中心牵头,涉及启动AI系统...
6