llm - 第 16 | CN-SEC 中文网

人工智能安全

KDD25 | 大语言模型能否提高图神经网络的对抗鲁棒性？

Can Large Language Models Improve the Adversarial Robustness of Graph NeuralNetworks?作者：张中健，王啸，周辉池，于...

12月18日72 views评论

阅读全文

取证分析

浅谈利用AI对微信群聊侦查分析（三）附prompt+工具零成本实操

工欲善其事，必先利其器前段时间发布了《浅谈AI对微信群聊的侦查分析》这篇文章我在侦查要素分解中，首次采用提示工程使用AI对侦查要素进行概念分解，以帮助我发现群聊信息中的关键线索，补充可能存在的信息茧房...

12月18日80 views评论

阅读全文

人工智能安全

LLM 安全与安全性研究第一部分：我该做什么？

Research LLM Security & Safety Part 1. What should I do 0. 引言两年前，OpenAI 发布了 ChatGPT 3.5，随后，LLM 充...

12月18日26 views评论

阅读全文

安全工具

VelLMes-AI-Honeypot：一款大语言模型LLM的蜜罐工具

关于VelLMes-AI-HoneypotVelLMes-AI-Honeypot是一款大语言模型LLM的蜜罐工具，该工具可以通过使用LLM创建交互式、动态且逼真的蜜罐。该工具旨在帮助广大研究人员搭建部...

12月17日32 views评论

阅读全文

人工智能安全

专题解读 | 大语言模型上下文窗口扩展方法

大语言模型上下文窗口扩展方法一、简介上下文窗口（context window）是大语言模型（LLM）的一个重要概念，指模型在一次推理或生成过程中可以处理的文本长度。大语言模型的上下文窗口大小取决于预训...

12月17日76 views评论

阅读全文

安全新闻

AI机器人的头号威胁：大模型越狱

随着ChatGPT等AI聊天机器人以及基于大语言模型的应用席卷全球，越来越多的公司开始将这种技术引入机器人控制。然而，最新研究发现，黑客可以通过自动化方式轻松绕过AI系统的安全防护，甚至能够操控机器人...

12月16日17 views评论

阅读全文

人工智能安全

专题解读 | 大语言模型在推荐场景的实践

大语言模型在推荐场景的实践一、简介随着大语言模型（LLMs）的不断发展，工业界大量探索LLM在实际推荐场景的应用。本文介绍小红书在笔记推荐场景应用LLM的探索，以及字节应用LLM在抖音业务上的实践。二...

12月16日28 views评论

阅读全文

人工智能安全

AI安全漏洞之VLLM反序列化漏洞分析与保姆级复现（附批量利用）

前期准备环境需要：Linux（这里使用kali）、Anaconda 首先安装Anaconda 前言：最好使用linux，如果使用windows可能会产生各种报错（各种各种各种！！！），最好使用Ana...

12月16日89 views评论

阅读全文

安全工具

FuzzyAI：用于自动化 LLM 模糊测试的开源工具

FuzzyAI Fuzzer 是一款功能强大的自动化 LLM 模糊测试工具。它旨在帮助开发人员和安全研究人员识别和缓解其 LLM API 中的潜在安全漏洞。 FuzzyAI 为组织提供了一种系统化的方...

12月15日77 views评论

阅读全文

人工智能安全

大模型安全的漏洞

下文主要基于360 安全大模型代码分析能力，对多个开源项目进行代码梳理和风险评估，结合分析报告，快速审计并发现了近 40 个大模型相关安全漏洞，影响范围覆盖llama.cpp、Dify 等知名模型服务...

12月11日195 views评论

阅读全文

安全文章

提示词注入攻击

背景近年来，随着人工智能技术，尤其是大模型（如GPT类模型、BERT类模型等）的不断发展，这些模型已被广泛集成到各类应用中，从数字助手到AI驱动的新闻产业，几乎覆盖了各行各业。大模型的应用逐渐成为提升...

12月09日25 views评论

阅读全文

安全新闻

2024年OWASP LLM安全漏洞年度报告

市场概述在生成式AI技术迅猛发展的2024年，企业对AI技术的采用呈现爆发式增长。根据Menlo Ventures发布的最新市场数据显示，2024年AI相关投资规模已达到138亿美元的历史新高，较20...

12月09日5 views评论

阅读全文

在线咨询

微信