大模型安全

人工智能安全

启明星辰发布大模型安全威胁框架（附下载链接）

让每一句人机对话都安全可信，让每一次智能交互都风险可控——这是属于AI时代的安全承诺。 —— 启明星辰前言：大语言模型（LLMs）技术取得突破性进展，成为数字经济关键基础设施，同时也引发全新安全挑战。...

06月28日41 views评论

阅读全文

人工智能安全

AI大模型安全评估指南：从理论到实践的全方位解析

引言随着人工智能（AI）技术的飞速发展，大型语言模型（LLM）如GPT系列、DeepSeek、Gemini、Grok等已在自然语言处理、内容生成和智能决策等领域展现出惊人潜力。然而，技术进步的同时，安...

06月07日19 views评论

阅读全文

企业安全

诸子云｜甲方：怎么看待AI大模型安全？

“甲方”是安在新媒体为诸子云专家会员开设的全新专栏，旨在帮助专家会员及时准确掌握社群动态，了解行业动向，收集最新观点，挖掘最佳实践。“甲方”将围绕诸子云甲方社群动态、甲方话题、甲方活动、甲方项目等方面...

06月06日12 views评论

阅读全文

人工智能安全

最近对博客进行了重构和升级，欢迎大家进行聊天沟通，点击跳转原文可直达博客地址。大语言模型大语言模型（LLMs）是一种人工智能（AI）算法，它可以处理用户输入，并通过预测单词序列来生成合理的回复。它们在...

06月03日27 views评论

阅读全文

人工智能安全

国内外大模型安全技术框架汇总

随着人工智能技术的快速发展，大模型技术在各行业得到广泛应用，但其自身安全问题也日益凸显。本报告基于国内外研究现状，全面分析大模型安全面临的挑战与威胁，深入探讨当前主流技术框架及其应用实践，为大模型的安...

05月30日34 views评论

阅读全文

安全文章

AI大模型安全：从XSS攻击看大模型的风险与防护

前言最近，我在HackOne平台上参与了一个AI模型的安全测试项目，发现了一个有意思的漏洞：通过评论区植入XSS Payload，诱导大模型成功触发XSS。本文将深入探讨这一漏洞的成因，并分享如何通过...

05月17日32 views评论

阅读全文

人工智能安全

LLM大模型安全测试

声明：请勿利用文章内的相关技术从事非法测试，由于传播、利用此文所提供的信息而造成的任何直接或者间接的后果及损失，均由使用者本人负责，作者不为此承担任何责任。关注公众号，设置为星标，不定期有宠粉福利Pa...

04月29日35 views评论

阅读全文

供应链安全

从数据库沦陷到供应链投毒：大模型安全危机背后的隐形战场

全文共5220字，阅读大约需10分钟。一概述近年来，随着DeepSeek、Ollama等开源大模型的广泛应用，全球企业正加速推进大模型的私有化部署。Gartner预测，到2027年，中国80%的企业将...

04月14日36 views评论

阅读全文

人工智能安全

万字研究报告 ‖ ChaMD5 AI组首个大模型安全深度研究报告发布

这是 ChaMD5 安全团队 AI 组的第一篇关于大语言模型（LLM）的安全研究报告，由于是初次涉足这一领域进行深入研究并撰写报告，我们深知在专业性与严谨性方面可能存在着诸多不足。真诚地希望各...

04月14日21 views评论

阅读全文

安全新闻

AI大模型安全漏洞预警！Langflow高危远程代码执行漏洞（CVE-2025-3248）

4月6日，Goby安全团队检测发现，AI大模型开源项目 Langflow-ai github issue 提交了一个关于代码注入漏洞反馈（当前该issue已关闭）, 攻击者可以通过向特定端点发送精心构...

04月10日65 views评论

阅读全文

人工智能安全

大模型与安全｜第一弹：AI防口误指南之LLM输出安全实践

在数字化转型的浪潮中，大语言模型(以下统称LLM)已成为企业技术栈中不可或缺的智能组件，这种强大的AI技术同时也带来了前所未有的安全挑战。它输出的内容如同双面刃，一面闪耀着效率与创新的光芒，另一面却隐...

04月08日24 views评论

阅读全文

人工智能安全

2025 AI大模型安全防护：AI安全部署实战指南

本文14296字阅读约需 37分钟自 2025 年初以来，人工智能的发展速度令人震撼。企业在广泛采用 AI 时仍面临诸多挑战，包括成本、幻觉、以及安全隐患等问题。目前，企业正处于重要的十字路口：...

03月21日19 views评论

阅读全文

启明星辰发布大模型安全威胁框架（附下载链接）

AI大模型安全评估指南：从理论到实践的全方位解析

诸子云｜甲方：怎么看待AI大模型安全？