语言模型 - 第 4 | CN-SEC 中文网

人工智能安全

大语言模型私有化部署应用安全防护思路

一、大语言模型私有化部署应用助力组织智能化转型伴随以DeepSeek为代表的大语言模型的飞速发展与成熟应用，大语言模型已经成为各行业领域进行智能化转型的核心驱动，成为各级组织生产效率、竞争能力提升的关...

03月10日29 views评论

阅读全文

安全文章

启发式防御大模型越狱攻击

免责声明：由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失，均由使用者本人负责，公众号及作者不为此承担任何责任，一旦造成后果请自行承担！如有侵权烦请告知，我们会立即删除并致歉。谢...

03月07日10 views评论

阅读全文

安全闲碎

【论文速读】| SpearBot：在生成 - 评判框架下利用大语言模型生成鱼叉式网络钓鱼邮件

基本信息原文标题：SpearBot: Leveraging Large Language Models in a Generative-Critique Framework for Spear-Phi...

03月05日44 views评论

阅读全文

安全新闻

DeepSeek遭遇黑客会怎样？揭秘大模型的7个致命安全漏洞

在人工智能飞速发展的今天，DeepSeek、文心一言等大型语言模型(LLM)已经成为我们日常生活的一部分。然而，当我们惊叹于AI的神奇能力时，你是否想过：这些看似智能的"大脑"也存在安全漏洞？今天就让...

03月04日79 views评论

阅读全文

安全新闻

微软破获出售非法 Azure AI 权限事件，并公布黑客身份

点击上方蓝字关注我们像被追踪代号为 Storm-2139 的这类组织，已经在想办法绕过生成式人工智能（GenAI）服务的防护措施，而微软则发起了一场 “点名羞辱” 行动予以反击，旨在捣毁他们的网络犯罪...

03月03日24 views评论

阅读全文

安全文章

原创 Paper | 关于 Chat Template 注入方式的学习

作者：dawu@知道创宇404实验室时间：2025年2月28日 1. 前言参考资料伴随着年后 DeepSeek R1 模型的火热，号称能运行 DeepSeek R1 “满血版” 的 Ktransfor...

03月03日21 views评论

阅读全文

人工智能安全

了解LLM（大型语言模型）测试的关键挑战、方法和工具，以确保基于LLM的应用程序的准确性、安全性和性能。

关键要点Ø全面的LLM测试对于确保准确性，安全性和道德AI性能至关重要。Ø关键测试方法包括单元测试、功能测试、安全测试和回归测试，以评估LLM可靠性的不同方面。ØHMW.ai等工具提供端到端LLMOp...

03月03日30 views评论

阅读全文

人工智能安全

全民都能用上ChatGPT—【本地部署Llama3.1 AI模型】

--->目录<---0x01——ollama,llama3.1简介0x02——效果展示0x03——计算机配置要求0x04——Windows部署ollama0x05——本地部署llama3....

02月26日12 views评论

阅读全文

安全文章

Web LLM 攻击

01定义Web LLM（Large Language Model）攻击指针对部署在Web端的AI大语言模型的攻击行为。攻击者通过恶意提示词注入、训练数据窃取、模型逆向工程等手段，操控AI输出敏感信息或...

02月23日9 views评论

阅读全文

安全新闻

黑客如何利用提示词工程操纵AI代理？

“代理式”人工智能（Agentic AI）时代已经到来，其变革潜力不容忽视。AI 代理具备独立运行的能力，能够依据预先设定的编程自主地做出决策并展开行动。根据 Gartner 的预测，到 2028 年...

02月20日22 views评论

阅读全文

人工智能安全

技术研究｜深度探讨大语言模型微调技术

随着大语言模型（Large Language Models, LLMs）的快速发展，如何高效地对其进行任务适配已成为自然语言处理领域的关键课题。其中，大语言模型微调成为目前备受关注的一个方法，微调的核...

02月20日15 views评论

阅读全文

安全新闻

定制化大型AI语言模型新型后门（DarkMind）攻击曝光

一、事件概述：随着人工智能（AI）技术的飞速发展，定制化大型语言模型（LLMs）因其强大的推理能力和广泛的应用场景，正被越来越多的企业和组织采用。例如，OpenAI的GPT商店已经托管了超过300万个...

02月19日38 views评论

阅读全文