女科学家用AI比较多。经多重对比,在她那个特定科研领域里,Claude最优,比Gemini、ChatGPT都要好。而我熟知的技术圈里,许多人喜欢用Gemini,我自己用Gemini较多。至于DeepS...
新型越狱攻击可突破ChatGPT、DeepSeek等主流AI服务防护
研究人员最新发现的两项越狱技术暴露了当前主流生成式AI服务的安全防护存在系统性漏洞,受影响平台包括OpenAI的ChatGPT、谷歌的Gemini、微软的Copilot、深度求索(DeepSeek)、...
新的 Inception 越狱攻击绕过了 ChatGPT、DeepSeek、Gemini、Grok 和 Copilot
关键词网络攻击一对新发现的越狱技术暴露了当今最流行的生成式人工智能服务的安全护栏中的系统性漏洞,包括 OpenAI 的ChatGPT、谷歌的 Gemini、微软的 Copilot、DeepSeek、A...
FreeBuf周报 | ChatGPT成功生成CVE有效攻击程序;AI幻觉催生攻击
各位 Buffer 周末好,以下是本周「FreeBuf周报」,我们总结推荐了本周的热点资讯、一周好文,保证大家不错过本周的每一个重点!🤖ChatGPT在公开漏洞利用代码发布前成功生成CVE有效攻击程序...
大模型10大网络安全威胁及防范策略 | ChatGPT在公开漏洞利用代码发布前成功生成CVE有效攻击程序
大模型10大网络安全威胁及防范策略OWASP发布的《大语言模型人工智能应用Top10安全威胁2025》,大语言模型人工智能应用中存在的十大安全风险,相比2023版有一些变化,10大安全威胁如下:1、提...
我如何使用 ChatGPT 在 45 分钟内发现反射型 XSS 漏洞 — — 并赚取 800 美元
摘要: 漏洞赏金并不总是需要数月的侦察或复杂的零日漏洞。有时,在正确的环境中放置一个合适的有效载荷就能快速带来回报。在这篇文章中,我将带你了解我是如何通过手动测试、ChatGPT辅助的有效载荷构建...
ChatGPT 图像生成器可以用来制作假护照
研究人员最近发现,OpenAI 的 ChatGPT 图像生成功能可以被操纵,以最少的努力制作出令人信服的假护照。此功能于 2025 年 3 月 25 日针对 ChatGPT-4o 和 ChatGPT-...
ChatGPT在公开漏洞利用代码发布前成功生成CVE有效攻击程序
安全研究员Matt Keeley近期演示了人工智能如何在公开概念验证(PoC)攻击代码发布前,就成功生成针对关键漏洞的有效利用程序。这一突破可能彻底改变漏洞研究领域的现状。Keeley使用GPT-4为...
2025年LLM应用十大安全风险!OWASP最新指南
近年来,大型语言模型(LLM)如ChatGPT、文心一言等已渗透到各行各业,但随之而来的安全问题却暗藏“杀机”。OWASP(开放全球应用安全项目)近期发布了《2025年大语言模型应用程序十大安全风险》...
OpenAI 现向安全研究人员支付了 10 万美元以修补关键漏洞
人工智能公司 OpenAI 宣布,针对“特殊且有差异化”的严重安全漏洞的最高漏洞赏金将提高五倍,从 20,000 美元提高至 100,000 美元。OpenAI 表示,每周全球有 4 亿用户在企业、公...
千万不能告诉DeepSeek的十件事
图片:Dalle我们正身处一个对话即数据的时代。你以为你在跟AI聊天,其实是在投喂它“你是谁”、“你知道什么”以及“你值多少钱”。特别是面对一些AI模型,比如DeepSeek、ChatGPT,天知道你...
【通俗易懂说AI之RAG系列】RAG基础概念科普
Part.1欢迎来到我们的新开的专题,通俗易懂说AI之RAG,在开始这篇文章的正文之前还是需要先简单的讲述下为什么会有这个系列?主要的原因有以下:(1)智能体在25年开始变得越发的火爆;(2)各种大模...