生成式 | CN-SEC 中文网

安全新闻

新型越狱攻击可突破ChatGPT、DeepSeek等主流AI服务防护

研究人员最新发现的两项越狱技术暴露了当前主流生成式AI服务的安全防护存在系统性漏洞，受影响平台包括OpenAI的ChatGPT、谷歌的Gemini、微软的Copilot、深度求索（DeepSeek）、...

04月28日19 views评论

阅读全文

安全新闻

NVIDIA NeMo 框架存在允许攻击者执行远程代码漏洞

NVIDIA NeMo 框架中存在三个严重性较高的漏洞，可能允许攻击者执行远程代码，从而可能危及 AI 系统并导致数据篡改。这些安全漏洞被确定为 CVE-2025-23249、CVE-2025-232...

04月26日9 views评论

阅读全文

安全新闻

OWASP发布生成式AI安全治理清单

随着OpenAI、Anthropic、Google和微软等公司的生成式AI及大语言模型(LLM)用户量呈指数级增长，企业IT安全决策者正努力跟上AI技术的快速发展步伐。非营利组织OWASP最新发布的《...

04月25日7 views评论

阅读全文

安全新闻

仅有不到一半的可利用漏洞被企业修复，GenAI 漏洞更低

聚焦源代码安全，网罗国内外最新资讯！编译：代码卫士渗透测试即服务 (PTaaS) 的先锋、攻击性安全服务领先提供商 Cobalt 发布第七份年度《渗透测试现状》报告披露称，在所有可被利用的漏洞中，被...

04月22日10 views评论

阅读全文

安全新闻

透视谷歌收购Wiz：以色列情报网络渗透全球科技的警报

2025年3月18日，谷歌宣布收购以色列裔创立的云安全公司Wiz，这一交易成为科技界年度最受争议的收购案。谷歌以320亿美元收购成立仅五年的云安全公司Wiz，表面看是AI时代强化云安全的战略布局，实则...

04月21日17 views评论

阅读全文

企业安全

企业浏览器报告：多数浏览器扩展程序可访问企业敏感数据

浏览器扩展程序已经深入到大多数用户的日常工作中，无论是拼写检查器还是生成式人工智能工具，都离不开它们的身影。然而，许多 IT 和安全人员可能并不清楚，浏览器扩展程序的过度权限正成为企业面临的一个日益严...

04月21日10 views评论

阅读全文

安全新闻

Gartner发布网络安全趋势，涉生成式AI推动数据安全计划

Gartner发布2025年网络安全重要趋势。包括生成式人工智能（GenAI）推动数据安全计划、AI部署更具策略性等。来源｜Gartner公司以下为全文Gartner公司于近日发布2025年网络安全重...

04月10日13 views评论

阅读全文

安全新闻

生成式AI可一键生成诈骗网站，越狱攻击引发钓鱼危机

Lovable AI 易受到越狱攻击，使新手和潜在网络犯罪分子能够设置类似真实页面的凭证收集页面，实施网络钓鱼攻击。由生成式人工智能（AI）驱动的平台Lovable，支持通过文本指令创建全栈式网页应用...

04月10日11 views评论

阅读全文

安全新闻

DeepSeek对生成式AI应用的影响与启示

DeepSeek发布R1模型引全球人工智能热潮，其低成本高效率且率先开源。文章探讨它在市场、技术、资本等方面影响，以及为金融行业带来的机遇与挑战。来源｜银行家杂志撰文 | 中国建设银行办公室丁炜以下...

04月09日17 views评论

阅读全文

安全新闻

初级开发者过度依赖AI的风险

当ChatGPT等工具出现故障时，软件开发人员离开工位、临时休息或沮丧地靠在椅背上的场景并不罕见。对许多技术从业者而言，AI辅助编码工具已成为日常便利。即便是像2025年3月24日那样的短暂中断，也可...

04月08日3 views评论

阅读全文

安全新闻

AI图片泛滥怎么管？OpenAI计划给AI图像添加水印

随着生成式人工智能的高速发展，AI图像正以前所未有的速度在网络上传播。从AI创作“宫崎骏风格”动画图，到仿真度极高的商品广告照、新闻配图，普通用户只需输入一句话，便可秒产专业级画面。这种“视觉洪流”的...

04月08日10 views评论

阅读全文

安全新闻

企业安全新挑战：生成式AI正将员工转化为无意识的内鬼威胁

根据Netskope最新研究，企业向生成式AI（GenAI）应用共享的数据量呈现爆炸式增长，一年内激增30倍。目前平均每家企业每月向AI工具传输的数据量已达7.7GB，较一年前的250MB实现跨越式增...

04月01日13 views评论

阅读全文