扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中国信息安全测评中心 高松大模型技术的发展,掀起了生成式人工智能的新浪潮。该技术在各个行业、领域快速应用,催生出...
生成式人工智能风险规制与保护路径
与传统的依赖于程序计算、概率计算、数据加工、人类创造力的人工智能不同,Open AI公司在2022年末推出的ChatGPT拥有机器学习、深度学习、人类反馈学习等自主学习能力。以ChatGPT为代表的生...
法律如何应对人工智能的发展
随着自动驾驶汽车、ChatGPT、人形机器人等人工智能应用的爆发,人工智能对于现行法律的挑战逐渐受到重视。早在2017年,国务院就印发了《新一代人工智能发展规划》,指出:“人工智能是影响面广的颠覆性技...
深入探讨:人工智能生态系统的安全性
本文 120343字 阅读约需 33分钟文章重点是与企业安全领导者和首席执行官深入探讨如何确保生成式人工智能应用和大语言模型的安全。其中,分析的重点是企业采用人工智能的情况,这是影响安全厂商未来发...
专题·大模型安全 | 生成式人工智能的内容安全风险与应对策略
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 知道创宇联合创始人兼CTO 杨冀龙正如一枚硬币的两面,生成式人工智能大模型(以下简称“生成式大模型”)在助力内容...
AIGC标识办法及国标官方解读
来源:网信中国完善人工智能生成合成内容标识方法构建健康的信息网络生态环境作者:魏凯 中国信息通信研究院人工智能研究所所长随着生成式人工智能技术快速发展,利用人工智能技术生成或合成文字、图像、音乐、视...
生成式人工智能技术中训练数据的合规要点及建议
探寻合规之道,共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。点击 "合规社" > 点击右上角“···” > 设为星标⭐前言数据在生...
2024年及以后人工智能最有用的军事应用
人工智能的军事应用已经成为人工智能领域的一个重要话题,它具有支持美国作战人员执行任务的巨大潜力。仅在过去的一年里,人工智能的使用就在能力和可用性方面取得了巨大的飞跃,例如在生成人工智能领域。随着普通公...
专家观点 | 大模型的安全风险及应对建议
文 | 中国科学院信息工程研究所 虎嵩林习近平总书记指出:“要重视通用人工智能发展,营造创新生态,重视防范风险”。近年来,以生成式预训练大模型(GPT)为代表的生成式人工智能大模型(简称“大模型”)迅...
揭秘美国中央情报局中的人工智能
根据该机构的人工智能治理目标,中央情报局于 2023 年成立了人工智能治理委员会。该机构目前正在制定一份国家安全备忘录,该备忘录将解决在美国国家安全领域开发和管理人工智能的独特挑战。2023年,CIA...
【好文推荐】生成式人工智能安全评估体系构建
摘要:《全球人工智能治理倡议》以“以人为本”为核心理念,推动建立一个公正、开放、有效的全球人工智能治理机制,确保人工智能技术朝着有利于人类文明进步的方向发展.首先概述了人工智能技术的快速发展及其带来的...
生成式人工智能技术风险审视与治理
数字时代,数字技术的治理呈现出“发展—治理”之间的普遍性矛盾,当数字技术在应用层面驶入“快车道”,在治理层面也将面临两难的境遇。正因如此,如何把握二者平衡成为数字技术治理的“时代之问”。科林格里奇曾对...
11