作者:lucasgftang大语言模型 vs 人类大语言模型很强大,就像人类的大脑一样拥有思考的能力。如果人类只有大脑,没有四肢,没有工具,是没办法与世界互动的。如果我们能给大模型配备上四肢和工具呢?...
LLM react prompt injection 以及相关解决方案
React Agent的安全隐患及应对策略引言随着React Agent在国际市场的火热发展,各大厂商纷纷投入到Agent市场的竞争中。然而,在追逐市场的同时,React Agent的安全问题却常常被...
网络安全模型研究资源汇总
1►网络安全模型研究资料以下是关于使用NLP、KG、 GPT 进行网络安全模型研究的精选资源列表,包含模型/项目、论文、数据以及相关产品。简介这是一个精心整理的网络安全模型资源汇总,旨在为研究人员、工...
[译文] LLM安全:2.LLMjacking:窃取云凭证用于新型AI攻击(大模型攻击)
“2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安全论文交流、威胁...
韩国科学技术院 | 探索基于LLM的Bug复现
再续一篇基于LLM的程序bug分析论文,来自IEEE/ACM ICSE' 23,题目为"Large Language Models are Few-shot Testers: Exploring LL...
Llama-Code Shield解读:大模型代码安全护盾解析
引言大模型目前被广泛用于生成代码数据,能有效地提高研发效率。但LLM生成的代码中潜藏的安全漏洞,也成了悬在头顶的达摩克利斯之剑。最近,Llama-3的问世,不仅带来了新的代码生成能力,更配备了Code...
技术进展 | Fuzz4All:基于大语言模型的通用模糊测试
基本信息原文名称:Fuzz4All: Universal Fuzzing with Large Language Models原文作者:Chunqiu Steven Xia;Matteo Palten...
AI | LLM模型推理生成与采样解码策略(二)
接上半部分,下面主要介绍采样解码策略,以及不同解码策略对文本生成的随机性和多样性的影响。5.模型采样/解码策略5.1 贪心解码策略 (greedy decoding)核心思想:每一步取当前最可能的结果...
类似leetspeak的一些思路
LLM中类似于Leetspeak的编码方式还有以下几种:1. Pig Latin (猪拉丁文) - 将英文单词的第一个辅音字母移到单词末尾,然后加上"ay"。例如,"hello"变成"ello-hay...
【论文速读】|大语言模型是少样本测试员:探索基于LLM的通用漏洞复现
本次分享论文:Large Language Models are Few-shot Testers: Exploring LLM-based General Bug Reproduction基本信息原...
[LLM+AIGC] 01.应用篇之中文ChatGPT初探及利用ChatGPT润色论文对比浅析(文心一言 | 讯飞星火)
近年来,人工智能技术火热发展,尤其是OpenAI在2022年11月30日发布ChatGPT聊天机器人程序,其使用了Transformer神经网络架构(GPT-3.5),能够基于在预训练阶段所见的模式、...
AI | LLM模型推理生成与采样解码策略(一)
了解Transformer模型结构后,对于LLM模型文本生成过程是有些疑问:一段长句子作为输入,编码后也会得到多个token对应的embedding,那么哪个embedding用于预测下一个token...
42