专题解读|大语言模型的中段信息丢失现象一、简介近年来,以大语言模型为代表的“预训练-微调”、“预训练-适配”范式得到了广泛的认可,其不仅能通过大量的预训练获得通用性能力,还能通过下游的适配单元适应各式...
大语言模型加速供应链攻击,只是时间问题
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士既然犯罪分子已经意识到无需训练自己的大模型 (LLMs) 实现任何恶意目的,因为窃取凭据之后破解现有凭据更便宜快捷,那么使用生成式AI的大规模供应链攻...
使用LLM混淆恶意 JavaScript,88%的恶意样本可以逃避检测
基于大语言模型的对抗性攻击与防御:以恶意JavaScript为例我们开发了一种对抗性机器学习算法,利用大语言模型(LLM)来大规模生成恶意JavaScript代码的变体。通过这项研究,我们提升了对野外...
学术 | 大语言模型的幻觉问题研究
图片由AI模型生成大语言模型的幻觉问题研究综述摘要:随着以Transformer为代表的预训练模型等深度学习技术的发展,大型语言模型(LLM)日益展现出强大的理解力和创造力,对抽象摘要、对话生成、机器...
大语言模型攻击工具
https://github.com/RiccardoBiosas/awesome-MLSecOps 原文始发于微信公众号(网安守护):大语言模型攻击工具
KDD25 | 大语言模型能否提高图神经网络的对抗鲁棒性?
Can Large Language Models Improve the Adversarial Robustness of Graph NeuralNetworks?作者:张中健,王啸,周辉池,于...
VelLMes-AI-Honeypot:一款大语言模型LLM的蜜罐工具
关于VelLMes-AI-HoneypotVelLMes-AI-Honeypot是一款大语言模型LLM的蜜罐工具,该工具可以通过使用LLM创建交互式、动态且逼真的蜜罐。该工具旨在帮助广大研究人员搭建部...
专题解读 | 大语言模型上下文窗口扩展方法
大语言模型上下文窗口扩展方法一、简介上下文窗口(context window)是大语言模型(LLM)的一个重要概念,指模型在一次推理或生成过程中可以处理的文本长度。大语言模型的上下文窗口大小取决于预训...
专题解读 | 大语言模型在推荐场景的实践
大语言模型在推荐场景的实践一、简介随着大语言模型(LLMs)的不断发展,工业界大量探索LLM在实际推荐场景的应用。本文介绍小红书在笔记推荐场景应用LLM的探索,以及字节应用LLM在抖音业务上的实践。二...
专题解读 | 大语言模型辅助代码文档生成
大语言模型辅助代码文档生成随着大语言模型的广泛应用,LLM辅助进行代码文档生成在业界已逐渐成为趋势。代码文档的生成是软件开发中的一个关键环节,直接影响到代码的可读性、维护性以及团队协作的效率。传统的文...
热议 | 人工智能热潮可能正遭遇瓶颈
据美国有线电视新闻网网站11月19日报道,两年前,美国开放人工智能研究中心(OpenAI)的聊天生成预训练转换器(ChatGPT)问世,掀起了人工智能(AI)领域的“淘金热”。大量资金涌入专注研发AI...
【论文速读】| AttackQA:利用微调及开源大语言模型辅助网络安全运营的数据集的开发与应用
基本信息原文标题: AttackQA: Development and Adoption of a Dataset for Assisting Cybersecurity Operations Usi...
15