gpt | CN-SEC 中文网

人工智能安全

Perplexity新增GPT-4.5和Claude 3.7模型

最近，包括微软、英伟达在内的全球各大平台都已经使用了deepseek的R1模型，这里面也包括perplexity：由于deepseek R1模型的强大血脉压制，OpenAI不得不连夜推出了o3-min...

03月19日3 views评论

阅读全文

安全工具

大模型安全评估神器-Garak

字数 950，阅读大约需 5 分钟大模型安全评估神器---Garak Garak是干什么的？ Garak，全称 Generative AI Red-teaming & Assessment ...

03月19日18 views评论

阅读全文

安全闲碎

LLM技术浪潮下，漏挖人能否保住饭碗？

大语言模型（LLM）近期成为安全研究和竞赛中的热门话题，涵盖了大模型在安全领域的应用以及自身的安全性等方向，这一趋势为许多非大模型安全研究领域的研究者提供了了解和探索的机会。得益于强大的上下文理解与模...

03月17日5 views评论

阅读全文

安全文章

内存注入攻击：使用简单查询破解 AI 内存

美国和新加坡的科学家开发出一种操纵大型语言模型 (LLM) 内存的新技术，使攻击者能够巧妙地干扰 AI 操作。这种方法被称为 MINJA（内存注入攻击），攻击者无需直接访问 AI 代理的内部机制，而是...

03月16日3 views评论

阅读全文

安全新闻

APT攻击全景透视：0day漏洞、AI利用，2024年攻防对抗启示录

2024年，全球APT组织通过技术跃迁、组织升级等不断演化和扩张，已将攻击的魔爪伸向影响更广泛、更具破坏性的领域。高级持续性威胁（APT）正在经历新一轮技术跃迁，攻防对抗再度升级。从利用0day漏洞渗...

03月14日22 views评论

阅读全文

人工智能安全

AI编码助手的进化历程与思考

一、编码助手的演变我们重新定义为3个时代：代码弱预测时代 --> 代码强预测时代 --> 代码智能交互时代1. 代码弱预测时代（2010-2018）基于统计的马尔可夫链模型早期工具通过马...

03月11日10 views评论

阅读全文

安全闲碎

G.O.S.S.I.P 阅读推荐 2025-03-10 LLM 在前，漏挖人能否保住饭碗（Yet?）

LLM 在代码理解上表现出了强大的能力，相信漏挖选手都已经对 LLM 跃跃欲试。今天我们介绍的这篇来自 IEEE S&P 2024 的论文LLMsCannot Reliably Identif...

03月10日16 views评论

阅读全文

安全新闻

AI进化论：从工具到伙伴，全面解析人工智能十大颠覆性趋势

点击上方蓝字关注我们引言当ChatGPT-4o用笑声回应人类的调侃，当谷歌AI助手在发布会现场实时解读用户手势，当Sora生成的视频骗过奥斯卡评委，再到今年火遍全球的DeepSeek，我们正站在人工智...

03月03日13 views评论

阅读全文

人工智能安全

DeepSeek如何与网络安全深度融合？从技术逻辑到实践路径全拆解

网络安全是一个对检出率、准确率有极高追求的toB领域，将任何的开源基座大模型落地于安全领域，都绝非简单的接入、缝合，而是一个复杂的系统工程。DeepSeek-R1在安全垂直领域商业落地，必须具有安全垂...

03月03日23 views评论

阅读全文

安全工具

Enhanced BurpGPT - 一个强大的 Burp Suite 插件

工具介绍Enhanced BurpGPT 是一个 Burp Suite 插件，它能帮助你使用 AI（人工智能）来分析 Web 应用的安全问题。简单来说，当你测试网站时，你可以在指定的请求响应对，点击s...

02月28日19 views评论

阅读全文

安全新闻

大模型微调爆出致命漏洞：可导致模型黑化

GoUpSec点评：大模型微调作为当前AI应用落地的热点，正推动AI技术在各行业的深度融合。然而，一个与微调相关的巨大风险逐渐浮出水面：大模型微调不当，不仅会影响目标功能，还可能引发模型在其他领域发生...

02月28日4 views评论

阅读全文

安全工具

工具 | EnhancedBurpGPT

注：仅供安全研究与学习之用，若将工具做其他用途，由使用者承担全部法律及连带责任，作者及发布者不承担任何法律及连带责任。0x00 简介EnhancedBurpGPT是一个使用AI分析Web应用安全问题的...

02月27日14 views评论

阅读全文