The Russia-linked influence operation called Doppelganger has targeted Ukrainian, U.S., and German a...
人工智能领域的法律规制
随着人工智能技术在众多领域的应用,大量的用户数据被持续收集和处理。这使得数据与隐私权保护显得尤为重要。只有在确保用户数据安全和隐私权不被侵犯的前提下,AI技术才能获得广大用户的信任并得到广泛应用。数据...
国内外人工智能安全战略与政策法规
在人工智能技术快速发展、应用规模迅速扩大的背景下,世界各国纷纷开展人工智能安全政策与标准相关工作。1、联合国持续关注人工智能伦理安全联合国教科文组织于2021年11月发布《人工智能伦理问题建议书》, ...
人工智能安全风险分析
近年来,人工智能保持快速发展势头,但人工智能所带来的安全风险也不容忽视。1. 用户数据用于训练,放大隐私信息泄露风险当前,人工智能利用服务过程中的用户数据进行优化训练的情况较为普遍,但可能涉及在用户不...
全球安全倡议下的中国人工智能治理路径
摘 要:人工智能的迅猛发展与技术地缘政治竞争为全球带来全新的安全挑战,加强人工智能安全治理成为保障全球安全和稳定的当务之急。全球安全倡议提出“共同、综合、合作、可持续”的全球安全观,为当前中国人工智能...
2023 Snyk 人工智能生成代码安全报告
编者按本报告详细探讨了人工智能代码生成工具的安全性和信任问题。报告指出,尽管AI编码助手在开发人员中得到了广泛的采用,但许多开发人员对这些系统生成的代码建议的安全性过于信任,尽管有明确证据表明这些系统...
LLM大模型安全(2)-训练数据投毒攻击
本篇为大模型安全第2篇,主要讲述数据投毒攻击来污染大模型,从而造成非预期攻击行为OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和组...
2024年网络安全十大趋势和五个预测
美国媒体称,到明年年底,网络攻击给全球经济造成的损失预计将高达 10.5 万亿美元。这一惊人的数字反映出,个人、组织和政府层面越来越需要将网络安全视为战略优先事项。我们通过整理,看一下美国媒体对202...
影子AI:新型影子IT威胁载体
“在人工智能比我们更聪明之前,我认为应该鼓励开发它的人投入大量的工作来理解它可能会被控制和滥用的方式。”——杰弗里·辛顿(Geoffrey Hinton),人工智能教父生成式人工智能工具已经为首席信息...
全国首例AI游戏外挂案告破!过程揭秘→
AI人工智能拥有高效数据处理和自主学习能力。然而,也有一些人打起了人工智能的歪主意,“AI游戏外挂”是近些年出现的新型违法犯罪行为。前不久,江西警方破获了全国首例利用“AI人工智能游戏外挂”非法牟利的...
英美网络安全局联合发布《安全AI系统开发指南》
保持清洁卫生美国和英国的网络安全组织:CISA(美国网络与基础设施安全局)和NCSC(英国国家网络安全中心)发布了一份名为《安全AI系统开发指南》的文件,旨在为利用人工智能(AI)的系统开发人员提供以...
威胁情报信息分享|美国、英国及16个国家的全球伙伴发布了有关开发安全人工智能(AI)系统的新指南
美国网络安全和基础设施安全局(CISA)表示:“这种方法强调对客户安全成果的所有权,拥抱彻底的透明度和问责制,并建立将安全设计作为首要任务的组织结构。”英国国家网络安全中心(NCSC)补充说,目标是提...
112