扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063在瑞士达沃斯,美国开放人工智能研究中心(OpenAI)首席执行官萨姆·奥尔特曼无疑是炙手可热的“明星”之一。奥尔特曼被誉为...
2024年数字安全呈现九大趋势
大模型“智能涌现”冲击了传统安全理念,数据要素的乘数效应带给安全新活力,安全边界正在一步一步被打破……2024年安全趋势将迎来哪些新变化?在近日海南三亚的《数字安全免疫力建设指南》发布会上,指南分析研...
【智库报告】大西洋理事会、卡内基、威尔逊等智库报告
今天给大家分享大西洋理事会、卡内基、威尔逊等智库18篇报告。1、《中国在中东和北非的水下实力》大西洋理事会地缘经济中心2023年5月发布。中东和北非已经越来越多地连接到中国公司拥有、建造或升级的海底电...
人工智能供应链安全专题(1)ChatGPT 中的高级 API 攻击以及AI供应链漏洞
01简要说明人工智能和人工智能的安全性正在以惊人的速度发展,AI模型供应链中使用的工具,用于构建机器学习模型,会使 AI 应用程序容易受到独特的安全威胁。这些工具是开源的,这意味着它们开箱即用时可能存...
如何跟上NIST 的安全转型
人类的任何转型都是痛苦的,但是历史的车轮不会因为我们对过去的迷恋而停步,比如新冠疫情以来数字化与我们更加紧密了。健康码、核酸检测结果通过一部手机联系着我们的出行与规划,所以新冠疫情期间发生了一次更加有...
研究人员利用LLM聊天机器人破解其他聊天机器人
新加坡南洋理工大学的计算机科学家们近日成功入侵了多个人工智能(AI)聊天机器人,包括ChatGPT、谷歌Bard和微软必应聊天机器人,生成了所谓的“越狱”(即破解)内容。“越狱”是计算机安全领域的一个...
AI写的代码比手工代码安全性差很多
类似Github Copilot这样的人工智能代码助手能大大提高开发人员的开发效率和生产力,并降低开发技术门槛(不熟悉语言或概念的程序员的进入)。然而,缺乏经验的开发人员可能会轻易相信人工智能助手的输...
深入探讨机器学习的作用
目前最热门的技术是人工智能——更具体地说,是生成式人工智能。这一趋势如此流行,以至于每个会议和网络研讨会演讲者都觉得有义务提及某种形式的人工智能,无论其领域如何。人工智能带来的创新和风险既令人兴奋又令...
OWASP AI Exchange,一份人工智能安全指南
随着网络从业者争先恐后地提高自己在人工智能(AI)安全方面的技能,以及他们的组织快速采用人工智能工具、平台、应用程序和服务,业内出现了各种资源来帮助从业者处理不断变化的情况。其中或许最有用的是开放式全...
OpenAI正在帮助美国军方提升网络安全能力
OpenAI正在帮助美国军方提升网络安全能力据英国The Register1月16日报道,OpenAI实验室的高管本周在达沃斯世界经济论坛(WEF)上表示,OpenAI正在帮助美国军方提升其人工智能驱...
网络安全趋势:IBM对2024年的预测
从世界大事到经济,2023年是不可预测的一年。网络安全并没有偏离这个主题,带来了一些意想不到的转折。随着组织开始规划 2024 年的安全战略,现在是时候回顾前一年并推断未来可能会发生什么了。这一年伊始...
大语言模型面临的威胁—概览
本系列文章,主要是从外部威胁者视角下讲述大语言模型及大语言模型相关应用面临的威胁,以及一些建议,助力大语言模型健康发展。前言 2023年最火的公司无疑是openai,最火的产品也无疑是c...
111