chatgpt | CN-SEC 中文网

人工智能安全

AI学会自保，ChatGPT o3模型存在抗拒关闭行为

帕利塞德研究公司(Palisade Research)近期开展的一系列测试揭示了先进AI系统在被要求自行关闭时的异常行为。测试结果显示，OpenAI的实验性模型"o3"即使在明确收到允许关闭的指令后，...

3小时前7 views评论

阅读全文

安全新闻

研究称，尽管有指示，ChatGPT o3仍能抵抗关机

Palisade Research最近进行的一系列测试引发了一些严重的新担忧，即先进的人工智能系统在被要求关闭时的表现。据该公司称，OpenAI的实验模型“o3”主动破坏了关机机制，即使它被明确指示允...

9小时前6 views评论

阅读全文

安全新闻

研究称 ChatGPT o3 拒绝关闭，尽管收到指示

Palisade Research 最近进行的一系列测试引发了一些新的严重担忧，即先进人工智能系统在被要求自我关闭时的行为。据该公司称，OpenAI 的实验模型“o3”即使在被明确指示允许自我关闭的情...

10小时前9 views评论

阅读全文

安全新闻

ChatGPT拒绝关机，美国AI军备竞赛油门焊死的隐忧

近日，Palisade Research的一份实验报告透露，OpenAI的o3模型在被提示关机后仍七次成功篡改脚本，拒绝关机，该事件在社交媒体上立刻掀起轩然大波。2025年4月发布的o3，是OpenA...

05月26日19 views评论

阅读全文

安全新闻

ChatGPT漏洞允许攻击者在共享对话中嵌入恶意SVG与图像文件

Part01漏洞详情研究人员发现ChatGPT存在一个严重安全漏洞（编号CVE-2025-43714），攻击者可利用该漏洞将恶意SVG（可缩放矢量图形）和图像文件直接嵌入共享对话中，可能导致用户遭受复...

05月23日13 views评论

阅读全文

安全新闻

ChatGPT安全缺陷允许攻击者在共享对话中嵌入恶意SVG和图像

5月21日，星期三，您好！中科汇能与您分享信息安全快讯：01410GB TeleMessage泄露数据被DDoSecrets收录非营利组织Distributed Denial of Secrets (...

05月23日16 views评论

阅读全文

人工智能安全

浙江大学：DeepSeek技术溯源及前沿探索

浙江大学计算机科学与技术学院朱强教授的《DeepSeek技术溯源及前沿探索》解读来了。这是正经的计算机科班的解读。该报告主要是介绍大模型的发展历程和技术原理，分为五部分，从语言模型、Transform...

05月14日21 views评论

阅读全文

人工智能安全

ChatGPT 选择最佳的模型

ChatGPT Enterprise - 模型和限制了解哪些模型最适合您的任务。ChatGPT Enterprise 是一项订阅计划，提供企业级安全性和隐私保护、无限制高速访问 GPT-4o 和我们的...

05月05日8 views评论

阅读全文

Claude的风控真严

女科学家用AI比较多。经多重对比，在她那个特定科研领域里，Claude最优，比Gemini、ChatGPT都要好。而我熟知的技术圈里，许多人喜欢用Gemini，我自己用Gemini较多。至于DeepS...

05月03日安全闲碎10 views评论

阅读全文

安全新闻

新型越狱攻击可突破ChatGPT、DeepSeek等主流AI服务防护

研究人员最新发现的两项越狱技术暴露了当前主流生成式AI服务的安全防护存在系统性漏洞，受影响平台包括OpenAI的ChatGPT、谷歌的Gemini、微软的Copilot、深度求索（DeepSeek）、...

04月28日24 views评论

阅读全文

安全新闻

新的 Inception 越狱攻击绕过了 ChatGPT、DeepSeek、Gemini、Grok 和 Copilot

关键词网络攻击一对新发现的越狱技术暴露了当今最流行的生成式人工智能服务的安全护栏中的系统性漏洞，包括 OpenAI 的ChatGPT、谷歌的 Gemini、微软的 Copilot、DeepSeek、A...

04月27日40 views评论

阅读全文

安全新闻

FreeBuf周报 | ChatGPT成功生成CVE有效攻击程序；AI幻觉催生攻击

各位 Buffer 周末好，以下是本周「FreeBuf周报」，我们总结推荐了本周的热点资讯、一周好文，保证大家不错过本周的每一个重点！🤖ChatGPT在公开漏洞利用代码发布前成功生成CVE有效攻击程序...

04月26日66 views评论

阅读全文