目前,高达96%的开发人员在使用AI编码工具,这些工具不仅自动化代码生成、精准识别错误,还高效提供文档编制及编码建议。开发人员对ChatGPT与GitHub Copilot等工具高度依赖,以至于约80...
人工智能的头号威胁:投毒攻击
随着掌管数字生活入口的万亿美元俱乐部企业——苹果公司跳入人工智能(AI)赛道,AI技术民主化的大幕正式拉开,同时也将AI安全问题推向舆论的风口浪尖。根据瑞银本周一的智能手机调查报告,在中国以外的智能手...
CISA开展首次AI网络事件响应演习
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士上周,美国网络安全局CISA 首次与私营行业开展了旨在响应AI网络安全事件的演习活动。这次演习活动为期4小时,由网络防御协调中心牵头,涉及启动AI系统...
AI Trust实践 | 人工智能的风险与数据保护官(DPO)的新角色
AITrust社区文末扫码验证申请入群CAIM报名点击42001AI管理体系实践落地课程CAIL报名点击欧盟人工智能法合规落地课程 一、AI技术的普及与数据保护官(DPO)的新角色1.1 生成型AI的...
Gartner:企业在部署生成式人工智能时面临新的安全威胁
在近期举办的2024中国科技行业高管交流大会上,Gartner发布了关于生成式人工智能(GenAI)安全的最新研究。随着GenAI技术的迅速发展和应用,全球超过58%的技术提供商已经在他们的产品中内嵌...
AI时代如何保障个人隐私和数据安全
随着人工智能技术的广泛应用,众多AI模型收集并处理了海量数据,其中大部分包含用于提供定制化服务的个人信息。然而,数据量的激增带来了隐私和安全方面的内在风险。随着AI系统的不断演进,未授权访问或滥用敏感...
美国大模型出口限制法案再进一步,套壳大模型危?
记者|肖潇编辑|王俊 王睿芝北京时间上周四,美国众议院的外交事务部委员会以压倒性多数,通过了一项限制AI出口的法案。法案全称为《加强海外关键出口国家框架法案》(简称ENFORCE法案),旨在让美国商务...
AI Python 包中存在缺陷 Llama Drama ,威胁软件供应链
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士Checkmarx 公司的安全团队在报告中提到,看似可信的AI模型在安装后门。该漏洞被称为“LIama drama”,影响 llama_cpp_pyt...
当内卷遭遇AI,IT招聘爆发人工智能大战
过去几年,IT行业的求职者们经历了频繁的裁员、残酷的内卷,以及数不清的无偿加班;现在,他们又不得不加入一场残酷的人工智能招聘大战。40%的大企业启用AI招聘据商业内幕(Business Insider...
最佳实践之部署安全且具有韧性的AI系统
文章来源:https://media.defense.gov/2024/Apr/15/2003439257/-1/-1/0/CSI-DEPLOYING-AI-SYSTEMS-SECURELY.PDF本...
AI安全:36种AI攻击手法与五种AI安全策略
前几天看到刺总公司发起了国内第一份AI安全法律的起草议案和两会也在谈论关于AI安全的研究培养,但发现有关AI安全攻击介绍的资料实在太少,索性自己翻阅国内外各大资料进行了分析总结在此介绍一系列针对AI模...
保护AI
写在前面:本文共包括三篇文章,分别是保护AI;生成式AI:云安全的未来;暴露面管理和攻击面管理的区别。有关AI的知识很有趣,以前了解的不多,翻译过程中也查了一些资料,算是初窥门径吧。第一篇文章的重点还...
6