扫码订阅《中国信息安全》
邮发代号 2-786
征订热线:010-82341063
ChatGPT应用可能产生的安全风险
数据安全风险。ChatGPT是以对话方式进行交互,使用机器学习技术根据接收到的“输入内容”生成“类似人类的文本”。它的技术优势主要来源于先进的算法及海量的数据,但这也引起了人们关于数据安全方面的担忧。我国数据安全法明确规定,维护数据安全,应当坚持总体国家安全观,建立健全数据安全治理体系,提高数据安全保障能力。ChatGPT是通过GPT模型进行不断的监督微调及强化学习进行数据分析,它本身的算法技术及预设数据集均来自域外,主要以西方价值观为导向,可能存在着意识形态偏差。ChatGPT还可以进行深度的自主学习,也无法排除存在对国家相关信息数据深度分析及发掘的可能。因此,ChatGPT技术的应用可能会给国家数据安全带来潜在风险,从而影响国家数据权益保护。此外,ChatGPT通过连接大量的语料库来训练模型,其中数据不仅来源于预设的数据集,还包括用户输入的相关数据信息。用户一旦使用ChatGPT输入相关数据,它会成为机器智能学习的一部分,从而对用户的个人信息、秘密信息、商业秘密和其他秘密情报形成安全风险。
ChatGPT等生成式人工智能的监管路径
随着人工智能的快速发展,以ChatGPT为代表的新技术将广泛应用于人们未来的生产生活。但ChatGPT等生成式人工智能也是一把“双刃剑”。一方面,它高度的智能性为生产生活带来了极大便利,提高了社会生产力,给社会各领域活动带来了颠覆性变革。另一方面,它的快速发展冲击现有规则,存在较多潜在风险。
(来源:民主与法制时报)
《中国安全信息》杂志倾力推荐
“企业成长计划”
点击下图 了解详情
原文始发于微信公众号(中国信息安全):前沿 | 基于ChatGPT的数据权益保护问题研究
- 左青龙
- 微信扫一扫
- 右白虎
- 微信扫一扫
评论