近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

admin 2025年3月20日14:12:49评论0 views字数 2384阅读7分56秒阅读模式

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

DeepSeek爆火的同时,也成为被恶意攻击的对象。1月下旬,DeepSeek官网连续发布公告称,其线上服务受到大规模恶意攻击。

业界专家表示,越来越多的企业、个人私有化部署DeepSeek大模型,但将近90%的服务器都没有采取安全措施,极有可能造成数据泄露和服务中断,服务运行和数据安全岌岌可危,存在严重的安全隐患

在未来的数字生态中,AI大模型的基础设施地位将愈发凸显。但与此同时,数据隐私泄露、认知安全隐患、基础设施遭受威胁等一系列安全风险如影随形,其严重程度可能超乎想象。如何在推动技术创新的同时有效管控安全风险,成为一项至关重要且亟待解决的课题。

01
九成AI一体机在“裸奔”

2025年1月,美国云安全公司Wiz Research评估DeepSeek的外部安全态势时,发现了一个可公开访问的ClickHouse数据库,且未经身份验证,其中包含超过100万行的日志流以及大量聊天记录、后端数据和敏感信息,如API密钥等,并允许完全控制数据库操作。

“这是员工误操作引发的数据泄露,也是通用安全风险,好比出门忘关保险柜。我们既要防范传统的‘明枪’,也要警惕AI时代的‘暗箭’。”天翼安全科技有限公司(以下简称“电信安全”)解决方案专家李磬说道。

据《IT时报》记者了解,电信安全经过长时间监测也发现,九成AI一体机处于“裸奔”状态,本地化部署大模型的安全隐患极大,只要对外提供服务,互联网暴露风险就高达九成。在李磬看来,大模型本身没有安全护栏,靠的是大模型的对齐能力,本地部署的安全问题不只针对DeepSeek,90%以上的大模型都存在。

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

技术部署的便捷性与安全意识的滞后性之间存在矛盾,此外,大模型的快速普及促使企业和个人追求快速落地,往往将安全视为“可选项”而非“必选项”。

更深层次的问题是,行业对新兴技术风险认知的不足。现行网络安全法规对大模型这类新兴技术的针对性不足,缺乏强制性的合规要求,导致企业安全建设投入比例低。此外,部分企业将安全责任完全外包给第三方或依赖开源社区,缺乏主动防御能力。

02
数据泄露、服务中断近在咫尺

任何人不需要任何认证即可随意调用、在未经授权的情况下访问这些服务,极有可能造成数据泄露和服务中断,甚至可以发送指令删除所部署的DeepSeek、Qwen等大模型文件……

除了内部泄密、DDoS攻击外,传统的安全风险还有多手段的数据窃取。电信安全解决方案专家李磬总结了AI模型特有的三点风险:一是“学坏风险”,比如被指令教唆生成虚假信息,生成虚假信息引发舆情,教唆数字人播报错误新闻等;二是“泄密风险”,可能无意间透露训练时“记住”的隐私数据;三是“失控风险”,比如越狱攻击,诱导模型输出违法内容,如同教唆机器人犯罪。

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

03
AI安全问题或将集中爆发

自从DeepSeek出圈后,政务、教育、医疗等行业的企业在短时间内密集接入DeepSeek。“大规模接入DeepSeek只有一个月,预计大模型用到生产环节,大量企业将私有数据上传至模型后,大模型的安全问题就会集中暴露。”李磬预计,今年内政务、医疗等行业用户可能会有大规模的模型安全需求。

在构建大模型安全防护体系中,隐私计算技术发挥着至关重要的作用。比如利用加密计算,确保数据在计算过程中仍然保持加密,即使在云端或第三方环境中运行,也不会暴露原始数据;在TEE环境中执行模型计算,防止模型参数被窃取或篡改,保障模型知识产权;结合数据要素库的可信安全手段,保护敏感的训练数据或微调数据,保障使用过程安全。

04
打造“用得起、用得好”的安全服务

如何最大程度规避风险,构建大模型安全防护体系,不少安全公司开始行动起来。

电信安全设计了“三位一体”的防护方案:首先是网络侧,电信安全在互联网入口部署“防洪堤+安检门”,用抗DDoS+云WAF组合,如果遭遇像DeepSeek与X平台这种大规模DDoS攻击时,可以调用、部署流量清洗系统和API网关,监控识别异常流量并过滤;其次是主机侧,在服务器和工作站部署“智能保镖”,实时监控异常进程。持续监测比如境外开源工具Ollama其默认API服务11434端口,可以在未授权情况下被调用,攻击者可远程访问该接口,调用私域大模型计算资源,窃取知识库、投喂虚假甚至有害信息等,同时对开源的工具如anythingllm、VLLM等工具进行持续的跟踪监控;最后是模型侧,给DeepSeek加装“安全刹车”,也就是大模型护栏,拦截越狱指令和有害输出。

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

“仅电信体系内部就有基础模型和各类行业模型就超过100个。”李磬告诉《IT时报》记者,电信安全针对中小微企业推出的安全猫和零信任产品,月租只要几十元。如果企业不想投入大量资金购买硬件设备,就可以通过云计算获取安全能力。“只要把网址给我们,可以小时级甚至分钟级部署安全服务,在模型高峰期间可临时开启多项安全服务组合,结束后降档,按需使用安全服务。”李磬说。

中国电信庞大的运维大军正在转型为“云网数智安”全能的智能云服务交付工程师,这支遍布各个地市的一线团队,可以在短时间内提供上门服务,无论是设备部署、系统调试还是问题排查,特别是在本地模型遭受攻击这种十万火急的时候。

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

安全+AI,AI+安全,这两种方式是当下安全融合AI的普遍模式。电信安全两种模式都在探索,从而在第一时间针对DeepSeek本地部署设计安全方案,也能通过智能体的方式快速集成到DeepSeek本地防护方案中。

只有让中小企业,甚至个人都用得起、用得好安全服务,才能让更多人在AI赛道轻装上阵,普遍享受AI时代的红利。

转载:IT时报

作者:潘少颖 孙妍

推荐阅读

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

AI“裸跑”怎么办?三大防线阻击DeepSeek数据泄露潮!

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

独家!2024年度APT报告:全网威胁态势解读

近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!

原文始发于微信公众号(中国电信安全):近九成部署的DeepSeek服务器竟在“裸奔”!?AI安全拉响红色警报!

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年3月20日14:12:49
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   近九成部署的DeepSeek服务器竟在裸奔!?AI安全拉响红色警报!https://cn-sec.com/archives/3862089.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息