人工智能安全 - 第 49 | CN-SEC 中文网

人工智能安全

通俗地说说RAG及其与大模型的结合

RAG 全称 Retrieval-Augmented Generation，翻译成中文是检索增强生成。这一年多，在大模型应用领域，RAG频繁地出现。为什么它这么热？需要怎么理解看待RAG?01为什么需...

12月02日74 views评论

阅读全文

人工智能安全

LLM 在网络安全中的实际应用案例（第一部分）

Practical Use Cases for LLM’s in cyber security (part 1)首先我要声明，我不是一名开发人员。我自己写过的代码很少（在 2000 年代中期写过一些小...

11月30日62 views评论

阅读全文

人工智能安全

专题解读 | 知识蒸馏再升级：用大语言模型赋能图神经网络

知识蒸馏再升级：用大语言模型赋能图神经网络一、背景介绍知识蒸馏（Knowledge Distillation）作为一种模型压缩方法，通过将复杂教师模型（Teacher Model）的知识传递给较轻量的...

11月29日73 views评论

阅读全文

人工智能安全

一文读懂OWASP LLM应用十大风险，洞悉最新安全态势

点击蓝字关注中科天齐“提示注入”持续作为首要风险，“敏感信息泄露”风险显著上升，“供应链安全“风险日益突出，”系统提示泄露“和"向量和嵌入漏洞”成为新的隐患……11月25日，OWASP最新发布的“大语...

11月28日10 views评论

阅读全文

安全工具

AI Prompt越狱手册

如何测试AI让它吐出你想要的结果或测试其是否存在漏洞？参考下面项目你会有所收获。Prompt是指你向AI输入的内容，它直接指示AI该做什么任务或生成什么样的输出，简而言之， Prompt就是你与AI之...

11月28日121 views评论

阅读全文

人工智能安全

华中科技大学 | 大模型供应链研究路线图

原文标题：Large Language Model Supply Chain: A Research Agenda原文作者：王申奥，赵彦杰，侯心怡，王浩宇（通讯作者）作者单位：华中科技大学Securi...

11月27日60 views评论

阅读全文

人工智能安全

Cross Plugin Request Forgery (CPRF)：大模型安全的隐秘威胁

大语言模型（LLMs）如 ChatGPT、Claude 等的应用正在快速扩展。为了实现更多样化的能力，这些模型通过插件扩展与外部系统交互，比如数据库查询、调用外部 API、生成报告等。然而，这种灵活性...

11月27日31 views评论

阅读全文

人工智能安全

代码审查自动化中的大型语言模型

一、介绍1.1代码审查的演变代码审查长期以来一直是软件开发的基石，是确保代码质量，检测错误和保持项目一致性的关键步骤。传统上，这个过程涉及同行评审，开发人员手动评估彼此的代码错误，遵守编码标准和优化机...

11月26日49 views评论

阅读全文

人工智能安全

【论文速读】| 针对大语言模型的可转移集成黑盒越狱攻击

基本信息原文标题：Transferable Ensemble Black-box Jailbreak Attacks on Large Language Models原文作者：Yiqi Yang, H...

11月26日110 views评论

阅读全文

人工智能安全

AI安全 | Prompt越狱手册第一版发布

微信公众号有字数限制，无法放下如此大的篇幅。正文部分仅有目录以及如下部分的内容。 Prompt越狱框架越狱框架的潜力越狱框架，打造专属你的漏洞助手米斯特漏洞助手设计源代码公开：本文参考资料：...

11月26日284 views评论

阅读全文

人工智能安全

360发布全球首份《大模型安全漏洞报告》，曝光近40个大模型相关安全漏洞

近年来，全球人工智能浪潮持续升温，大模型作为AI领域中的重要一环，其能力随着平台算力的提升、训练数据量的积累、深度学习算法的突破，得到了进一步提升。然而以大模型为核心涌现的大量技术应用背后，也带来...

11月26日135 views评论

阅读全文

人工智能安全

专题解读 | 大语言模型在可解释推荐领域的应用

LLM 在可解释推荐领域的应用一、简介大语言模型（LLM）在推动可解释推荐系统的发展中发挥了关键作用。它们具备强大的自然语言处理和生成能力，能够理解复杂的用户行为和项目特征，并将其转化为类人解释。LL...

11月25日88 views评论

阅读全文

在线咨询

微信