突发！ChatGPT致三星半导体机密泄漏

提起ChatGPT，想必大家都不陌生。面世两个月，月活用户量就迅速过亿，ChatGPT爆火全球的速度让人又惊又喜。写论文、写小说、写代码、找bug、编剧本、画漫画……简直没有它干不了的事！

不过，随着ChatGPT等大型人工智能模型的兴起，一些问题也逐渐暴露了出来。

01

三星被曝机密数据泄漏

近日，有媒体报道称，三星电子引入ChatGPT不到20天，就曝出3起内部机密资料外泄事故。其中，2起跟半导体设备有关，1起跟会议内容有关。目前，这些机密资料可能已被存入ChatGPT的数据库中，随时都面临着被泄露的风险。

据了解，这3起事故分别为：

1）三星DS设备解决方案部门的员工，在操作半导体测试设备下载软件的过程中，发现复制有问题，于是便将有问题的代码复制到ChatGPT中寻找答案，这就有可能让ChatGPT把三星的机密信息当作训练资料来使用；

2）同样是该部门员工，本想用ChatGPT来优化代码，可这些代码是涉及芯片良率的；

3）三星内部人员想让ChatGPT记录会议内容，虽然不是技术机密，但也可能导致其它机密外泄。

该报道指出，为杜绝类似事故再发生，三星正在制定相关保护措施。若之后又发生类似事故，三星内部可能会切断ChatGPT服务。

▲相关报道截图

值得注意的是，三星存储事业部内的“运算新事业组”正在开发与ChatGPT相关的超大型AI用“定制款新一代存储器”。

据悉，“运算新事业组”是存储事业部中的先行事业开发组织，负责人为首席金镇贤，此前该部门集中研发具运算能力的存储处理器（Processing In Memory，PIM）。PIM除了可以存储数据之外，还能在存储器内对数据进行整合和运算。

如果三星内部决定切断ChatGPT服务，届时“运算新事业组”所研发的“定制款新一代存储器”可能也将被叫停。

据了解，三星从今年3月11日才允许DS部门员工使用ChatGPT，而对DX装置体验部门员工仍然禁用ChatGPT。结果，还不到一个月就出现了3次意外，这也证实了先前部分观点对ChatGPT的担忧。

对此，三星透过公告叮嘱员工要注意ChatGPT的使用方式，并提醒使用者在ChatGPT输入内容后，相关数据都将传送到外部服务器。由于三星无法回收这些外流数据，因此如果让ChatGPT学习三星内部数据，可能会让敏感内容外流。

02

ChatGPT引发学术界担忧

事实上，这并不是ChatGPT第一次陷入“泄露”风波。此前，Redis的开源库bug就曾导致ChatGPT发生故障和数据泄露，造成了部分用户可以看见其他用户的个人信息和聊天查询内容。

同样，OpenAI的ChatGPT由于开源库中的一个错误，也导致了部分用户信息泄露，其中包括订阅者的姓名、电子邮件地址、支付地址、信用卡号后四位数字等个人隐私。

然而，人们对于ChatGPT的担忧，还远不止“信息泄漏”这一点。尽管ChatGPT在回复时经常会带有一种异常坚定的语气，但这个回复却可能存在大量的常识性错误。如果仅仅是常识性错误，还比较容易鉴别，可一旦涉及到比较专业的问题，非相关专业人士就很可能被ChatGPT带入歧途。

比如，有人就曾利用ChatGPT搜索“Cr-Zr近共晶点行为特征”，ChatGPT给出的回复乍一看有理有据，甚至还有参考文献。可一旦深究就会发现，这些参考文献完全是ChatGPT伪造的。

▲资料图

浙江大学医学院附属第一医院，更是在研究ChatGPT时发现，其医学专业知识根本不及格。

在一次测试中，该医院人员从2020年临床执业医师资格考试真题库中筛选出100道单选题，结果ChatGPT仅仅答出56分的成绩，就连一些书上有标准答案的基础题，ChatGPT也会出错。

对此，该医院人员分析认为，可能是ChatGPT从网上学到了错误的答案。同时，该医院人员发现，ChatGPT存在严重的偏科现象，比如内科领域准确率仅20%，而微生物学则能够达到70%。

03

意大利成首个封禁ChatGPT的国家

那么，在信息安全威胁下，我们还能安心使用ChatGPT吗？近日来，反AI浪潮声四起，继马斯克等千人联名呼吁之后，意大利准备全面封杀ChatGPT。

当地时间3月31日，意大利个人数据保护局宣布，暂时禁止使用人工智能软件ChatGPT，限制其开发公司OpenAI处理意大利用户信息，并开始立案调查。该机构认为，OpenAI公司非法收集用户个人数据，且没有设置年龄验证系统防止未成年人接触非法材料，因此将采取限制措施“直到ChatGPT尊重隐私”。

至此，意大利成为了首个封禁ChatGPT的国家！

该机构称，3月20日ChatGPT平台出现用户对话数据和付款服务信息丢失。此外，该平台没有就收集处理用户信息进行告知，且缺乏大量收集和存储个人信息的法律依据。因此，意大利监管机构要求OpenAI公司必须在20天通报采取了哪些措施来确保用户数据隐私，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

随后，OpenAI表示已在意大利将ChatGPT下线。但OpenAI首席执行官Sam Altman回应称，其工作是“为了在训练ChatGPT等人工智能系统时减少个人数据，因为我们希望我们的人工智能了解世界，而不是了解个人”。

Sam Altman认为，公司并没有违反任何规定，愿与意大利个人数据保护局密切合作。

▲Sam Altman回应“封杀ChatGPT”一事

其实，任何事情都具有两面性。作为颠覆性科技，ChatGPT为人类带来了前所未有的机遇，但因其产生的安全隐患也不容忽视。对此，我们应该理性对待，更多的监管与限制也应同步跟上，提高驾驭ChatGPT的能力，让ChatGPT成为人类的好助手。

来源：21ic电子网

| 往期推荐：

经过安全认证的关键基础设施设备仍然满是漏洞

WiFi协议曝出漏洞，攻击者可以轻松劫持网络流量

TOP10！移动应用数据安全威胁

一图读懂国家标准GB/T 42446-2023《信息安全技术 网络安全从业人员能力基本要求》

重要发布！四部门发布关于开展网络安全服务认证工作的实施意见

原文始发于微信公众号（内生安全联盟）：突发！ChatGPT致三星半导体机密泄漏