探寻合规之道，共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。

点击  "合规社"  > 点击右上角“···” > 设为星标⭐

■作者：木言

■编辑：郑烨

▽

2024年末，全球各国，如美国、英国、法国、德国、意大利、日本、韩国等十余个国家以安全、技术等缘由，采取紧急措施，包括禁止下载使用DeepSeek模型，限制员工访问DeepSeek的应用程序工具等，对DeepSeek进行围堵。典型如从美国国会、五角大楼、NASA到海军，都考虑或已开始禁止使用DeepSeek，德克萨斯州则成为美国第一个禁止在政府设备上使用DeepSeek的州。近日，美国国会更是提出新法案规定下载DeepSeek将构成犯罪，最高可判处20年监禁。

随着大模型的进化，其已超越工具属性，成为数字空间中具备“半自主性”的新主体。这种特殊性体现在两方面：

1. 独立性与依赖性并存：大模型的训练依赖个人、企业、国家的数据，但其生成的决策或内容可能脱离原始数据主体的控制。

2. 双向侵害风险： 

• 直接侵害：大模型在训练中可能直接使用敏感数据（如隐私文本、机密文档），导致显性泄露。这个已经被业界熟知且已经有相应的各类管控手段；

• 间接侵害：通过强大的推理能力，从非敏感数据中提炼出敏感信息。原来业界对于大模型的推理能力是存疑的，但是随着o1和DeepSeek的爆发，大模型的推理能力再一次超出人们的认知，那么通过推理能力衍生的风险被无穷放大。模型越大、推理能力越强，对多源数据的关联分析能力越强，越可能通过“数据拼图”揭示原本分散存储的机密信息。

• 隐式数据泄露：假设A模型通过医疗数据训练出诊断能力，B模型通过采样A的输出，可能间接获取患者隐私特征。
• 责任边界模糊：当多个模型共同参与数据流转时，难以追溯泄露源头。例如，DeepSeek若从第三方模型中获取语料，其生成内容可能包含未被授权的企业数据，但责任划分将陷入僵局。 
• 输出管控的脆弱性：当前大模型的安全设计普遍存在“重输入、轻输出”的倾向，即优先通过数据脱敏、访问控制等手段限制训练数据的输入，却对模型生成内容的动态监控不足。这种失衡导致恶意用户可通过提示词工程（Prompt Engineering）绕过防护机制，逐步诱导模型输出敏感信息，比如通过分步试探、语义伪装：跨模型协同等方式来获取各类敏感数据。

原文始发于微信公众号（合规社）：从数据安全视角看DeepSeek被多国封堵