近日,软件所智能软件研究中心研究团队基于开源软件供应链重大基础设施平台“源图”,在开源人工智能(AI)框架漏洞检测领域取得进展。研究团队通过微调大语言模型,构建AI框架间的代码映射关系,来实现对开源A...
人工智能和云漏洞并不是当今CISO 面临的唯一威胁
随着云基础设施以及最近的人工智能 (AI) 系统成为攻击者的主要目标,安全领导者正集中精力保护这些备受关注的领域。他们这样做也是正确的,因为网络犯罪分子转向新兴技术来发起和扩大越来越复杂的攻击。然而,...
越狱之后的DeepSeek
本篇翻译自安全供应商wallarm的一篇博客,观点来自于这篇博客。地址:https://lab.wallarm.com/jailbreaking-generative-ai/分析DeepSeek的系统...
7000个暴露的Olama API让DeepSeek AI模型受到广泛攻击?
第三方风险管理公司UpGuard的网络安全研究团队近期揭示了一个围绕暴露的Ollama API的重大安全漏洞。这些API为外部用户提供了对正在运行的AI模型的直接访问权限,不仅严重威胁到了模型所有者的...
一文全面了解DeepSeek使用攻略
这个假期DeepSeek无疑是最火爆的话题之一。在DeepSeek旗下大模型DeepSeek-R1“爆火”后,多个云平台宣布上线DeepSeek旗下模型。 北京时间2月4日凌晨,中国常驻联合国代表傅聪...
对多模式AI应用程序进行压力测试是红队的新领域
人类的交流是多模态的。我们用许多不同的方式接收信息,这使我们的大脑能够从不同的角度看世界,并将这些不同的信息“模式”转化为现实的综合图景。如今,人工智能 (AI) 至少在一定程度上也能做到这一点。与我...
【资料】美国国土安全部生成式人工智能部署手册
本文是美国国土安全部(DHS)发布的《公共部门生成式人工智能部署手册》(2025年1月版),旨在指导公共部门组织负责任地采用生成式人工智能(GenAI)技术。手册基于DHS开展的三项GenAI试点项目...
前沿 | 我国生成式人工智能的发展现状与趋势
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中国科学院复杂系统管理与控制国家重点实验室研究员 王飞跃作为信息化、数字化、智能化的新型技术基座,生成式人工智能...
PyTorch入门 (1)环境搭建、神经网络普及和Torch基础知识
2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享...
DeepSeek 恶意 Python 包,正在窃取你的数据
点击上方蓝字关注我们研究人员发现,Python 软件包索引(PyPi)中植入了恶意的、模仿 DeepSeek 的软件包,这些代码实际上携带着信息窃取程序。专家警告称,可能不止这一个平台存在伪造的、恶意...
DeepSeek AI 数据库曝光:超过 100 万行日志、密钥泄露
关键词DeepSeek近日人气飙升的中国人工智能初创公司DeepSeek的一个数据库暴露在互联网上,这可能让恶意行为者获取敏感数据。Wiz 安全研究员 Gal Nagli表示,ClickHouse 数...
分析ELF/Sshdinjector.A!tr,由人类与AI分析师共同进行
简单机翻,原文见:https://www.fortinet.com/blog/threat-research/analyzing-elf-sshdinjector-with-a-human-and-a...
110