让每一句人机对话都安全可信,让每一次智能交互都风险可控——这是属于AI时代的安全承诺。 —— 启明星辰前言:大语言模型(LLMs)技术取得突破性进展,成为数字经济关键基础设施,同时也引发全新安全挑战。...
AI大模型安全评估指南:从理论到实践的全方位解析
引言随着人工智能(AI)技术的飞速发展,大型语言模型(LLM)如GPT系列、DeepSeek、Gemini、Grok等已在自然语言处理、内容生成和智能决策等领域展现出惊人潜力。然而,技术进步的同时,安...
诸子云|甲方:怎么看待AI大模型安全?
“甲方”是安在新媒体为诸子云专家会员开设的全新专栏,旨在帮助专家会员及时准确掌握社群动态,了解行业动向,收集最新观点,挖掘最佳实践。“甲方”将围绕诸子云甲方社群动态、甲方话题、甲方活动、甲方项目等方面...
大模型安全
最近对博客进行了重构和升级,欢迎大家进行聊天沟通,点击跳转原文可直达博客地址。大语言模型大语言模型(LLMs)是一种人工智能(AI)算法,它可以处理用户输入,并通过预测单词序列来生成合理的回复。它们在...
国内外大模型安全技术框架汇总
随着人工智能技术的快速发展,大模型技术在各行业得到广泛应用,但其自身安全问题也日益凸显。本报告基于国内外研究现状,全面分析大模型安全面临的挑战与威胁,深入探讨当前主流技术框架及其应用实践,为大模型的安...
AI大模型安全:从XSS攻击看大模型的风险与防护
前言最近,我在HackOne平台上参与了一个AI模型的安全测试项目,发现了一个有意思的漏洞:通过评论区植入XSS Payload,诱导大模型成功触发XSS。本文将深入探讨这一漏洞的成因,并分享如何通过...
LLM大模型安全测试
声明:请勿利用文章内的相关技术从事非法测试,由于传播、利用此文所提供的信息而造成的任何直接或者间接的后果及损失,均由使用者本人负责,作者不为此承担任何责任。关注公众号,设置为星标,不定期有宠粉福利Pa...
从数据库沦陷到供应链投毒:大模型安全危机背后的隐形战场
全文共5220字,阅读大约需10分钟。一概述近年来,随着DeepSeek、Ollama等开源大模型的广泛应用,全球企业正加速推进大模型的私有化部署。Gartner预测,到2027年,中国80%的企业将...
万字研究报告 ‖ ChaMD5 AI组首个大模型安全深度研究报告发布
这是 ChaMD5 安全团队 AI 组的第一篇关于大语言模型(LLM)的安全研究报告,由于是初次涉足这一领域进行深入研究并撰写报告,我们深知在专业性与严谨性方面可能存在着诸多不足。真诚地希望各...
AI大模型安全漏洞预警!Langflow高危远程代码执行漏洞(CVE-2025-3248)
4月6日,Goby安全团队检测发现,AI大模型开源项目 Langflow-ai github issue 提交了一个关于代码注入漏洞反馈(当前该issue已关闭), 攻击者可以通过向特定端点发送精心构...
大模型与安全|第一弹:AI防口误指南之LLM输出安全实践
在数字化转型的浪潮中,大语言模型(以下统称LLM)已成为企业技术栈中不可或缺的智能组件,这种强大的AI技术同时也带来了前所未有的安全挑战。它输出的内容如同双面刃,一面闪耀着效率与创新的光芒,另一面却隐...
2025 AI大模型安全防护:AI安全部署实战指南
本文14296字 阅读约需 37分钟自 2025 年初以来,人工智能的发展速度令人震撼。企业在广泛采用 AI 时仍面临诸多挑战,包括成本、幻觉、以及安全隐患等问题。目前,企业正处于重要的十字路口:...