LLM客户端可以自主利用 One-day 漏洞LLMs无论是在良性用途还是恶意用途方面，都变得越来越强大。随着能力的提高，研究人员对他们利用网络安全漏洞的能力越来越感兴趣。特别是，最近的工作对LLM代...
04月21日9 views评论gpt
llm
研究发现 AI 代理 GPT-4 大语言模型 (LLM) 代理利用相关CVE的安全漏洞
04月21日9 views评论gpt
llm
04月21日9 views评论gpt
llm
利用llm api 长文本阅读代码和学习
之前写了一个开源的长文本的代码阅读 ，其实很流程很简单的，如果使用langchain是可以很快解决这个问题的。我目前也是用自己写的python langchain来实现阅读代码，舒服的一批！地址我再发...
04月19日0 views评论chain
llm
Linux 发行版 Gentoo 宣布禁止 AI 自然语言技术协助下创建的内容
关键词LinuxGentoo 理事会 4 月 14 日一致通过了一项新的 AI 政策：明令禁止向 Gentoo 提供任何借助 AI 自然语言处理工具创建的内容。如果此类工具不涉及版权、道德和质量问题，...
04月17日2 views评论llm
软件包
【论文速读】| TroubleLLM：与红队专家对齐
本次分享论文为：TroubleLLM: Align to Red Team Expert基本信息原文作者：Zhuoer Xu, Jianping Zhang, Shiwen Cui, Changhua...
04月17日5 views评论llm
安全性
AI安全：LLM的风险揭示与安全性评估
大语言模型（LLM）在当前社会中扮演着日益重要的角色，其广泛应用领域突显了其对社会和技术发展的重要性。然而，强大却也脆弱，大语言模型的这一特性，让我们看到了人工智能发展的双刃剑效应，如何确保大语言模型...
04月17日7 views评论chatgpt
安全性
多家德国组织遭受网络攻击
摘要Proofpoint警告称，TA547集团正在使用名为Rhadamanthys的信息窃取程序攻击数十家德国组织。 Proofpoint研究人员观察到一个被追踪为TA547的威胁行为者，通过发送R...
04月15日6 views评论恶意软件
网络攻击
HackPack（LLM挑战）Writeup
点击蓝字关注我们声明本文作者：CTF战队本文字数：约8504字阅读时长：约10分钟附件/链接：点击查看原文下载本文属于【狼组安全社区】原创奖励计划，未经许可禁止转载由于传播、利用此文所提供的信息而造成...
04月15日9 views评论gpt
writeup
AI 蠕虫来袭
随着OpenAI的ChatGPT以及Google的Gemini等生成式人工智能系统的不断进步，它们开始被投入到越来越多的工作使用中。初创公司以及科技企业正利用这些系统来创建能够自动执行日常事务的AI代...
04月12日3 views评论llm
电子邮件
【论文速读】| CovRL：基于覆盖引导的强化学习对LLM基础变异进行JavaScript引擎模糊测试
本次分享论文为：CovRL: Fuzzing JavaScript Engines with Coverage-Guided Reinforcement Learning for LLM-based ...
04月12日3 views评论fuzz
javascript
TA547使用人工智能生成恶意脚本针对德国目标
导 读据观察，黑客团伙 TA547 与已知的窃取者 Rhadamanthys 一起针对德国组织。根据 Proofpoint 最近的一份报告(https://www.proofpoint.com/uk/...
04月11日6 views评论人工智能
恶意软件
大语言模型应用程序十大风险
内容摘要《OWASP 大语言模型应用程序十大风险》项目旨在向开发人员、设计人员、架构师、管理人员和组织介绍部署和管理大语言模型（LLM）应用程序时的潜在安全风险。该项目主要基于漏洞的潜在影响，可利用性...
04月10日2 views评论llm
代码执行
【论文速读】| 基于大语言模型的模糊测试技术
本次分享论文为：Large Language Models Based Fuzzing Techniques: A Survey基本信息原文作者：Linghan Huang, Peizhou Zhao...
04月09日10 views评论llm
语言模型
16