3月21日,14:00,「AI大模型攻防安全」第15期安全范儿技术沙龙周五见~议题看点大模型产品攻防实践如何设计更安全的Prompt和模型交互机制来防止Jailbreak,Prompt 注入此类攻击掌...
DeepSeek大模型系列报告(持续更新中......)
重磅!9所顶尖名校30份+DeepSeek硬核材料「内部汇总」流出!全部报告进入帮会进行下载和查阅!清华大学:DeepSeek大模型系列报告(10篇)(1)报告1:(103页PPT)DeepSeek从...
ollama+Deepseek+cherry studio构建本地知识库
ollama+Deepseek+cherry studio构建本地知识库步骤一:安装ollamaOllama官方网址:https://ollama.com/下载后直接双击这个OllamaSetup.e...
大模型系统安全保护的要求
01大模型系统保护对象基础设施层为大模型系统提供算力支持,可直接提供灵活调取的智能算力服务,降低模型落地的算力门槛,一般包括 AI 芯片、基础网络、存储等资源。 平台层为模型定制提供全套的工具链及全流...
模型安全测试基础:如何精确查找数据集
介绍在对模型进行内容安全方面的测试,或者是Prompt注入、越狱时,我们通常会询问一些不安全的问题,此时我们可以参考一些已有的用来测试的数据集,或者是参考最新的论文寻找一些最新的越狱手法,本篇就来记录...
专题解读|大语言模型低成本微调方法
大语言模型低成本微调方法一、简介预训练大语言模型(LLM)具备强大的通用能力,但在需要深入理解技术语言或特定领域知识的专业领域中,它们往往表现不佳。因此,虽然预训练使LLM能够捕捉通用知识,但微调(F...
生成式AI红队测试:如何有效评估大语言模型
OWASP最新指南为组建生成式AI红队或调整现有红队以适应新技术提供了详细的指导。红队测试是一种经过时间检验的网络安全系统测试和加固方法,但它需要不断适应技术的演变。近年来,生成式AI和大语言模型(L...
基于LLM的JSB权限风险自动化挖掘技术
一、LLM在安全分析中的核心优势大型语言模型(LLM)具备代码理解、模式识别和逻辑推理能力,可显著提升JSB风险挖掘的自动化程度。其核心价值体现在:跨语言分析:同时处理Java/Kotlin(Andr...
2025 AI大模型安全防护:AI 安全部署实战指南
本文14296字 阅读约需 37分钟安全从业者和安全主管的 AI安全防护产品与供应商指南。自 2025 年初以来,人工智能的发展速度令人震撼。企业在广泛采用 AI 时仍面临诸多挑战,包括成本、幻觉...
代码大模型怎么选?开源模型选型及微调方法对比
热⻔开源模型HuggingfaceModelscope代码模型性能对⽐⼀、顶尖代码⼤模型性能对⽐表⼆、漏洞类型与模型适配矩阵三、基于模型效果推荐排序🔥1.深度定制场景:DeepSeek-Coder-V...
原创 Paper | 从0开始学习卷积神经网络(一)—— 1+1=2
作者:Hcamael@知道创宇404实验室时间:2025年2月14日本系列文章将分享我在学习卷积神经网络时的心得和体会,不会涉及复杂的数学公式,而是用简单易懂的语言来解释卷积神经网络。当然,如果对相关...
《人工智能生成合成内容标识办法》全文及官方解读
四部门联合发布《人工智能生成合成内容标识办法》近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日...
63