llm - 第 28 | CN-SEC 中文网

安全闲碎

从形式逻辑计算到神经计算针对LLM角色扮演攻击的威胁分析以及防御实践

点击上方蓝色字体，关注我们/ 技术交流群 /添加微信15021948198，申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......

04月22日14 views评论

阅读全文

人工智能安全

研究发现 AI 代理 GPT-4 大语言模型 (LLM) 代理利用相关CVE的安全漏洞

LLM客户端可以自主利用 One-day 漏洞LLMs无论是在良性用途还是恶意用途方面，都变得越来越强大。随着能力的提高，研究人员对他们利用网络安全漏洞的能力越来越感兴趣。特别是，最近的工作对LLM代...

04月21日36 views评论

阅读全文

人工智能安全

利用llm api 长文本阅读代码和学习

之前写了一个开源的长文本的代码阅读，其实很流程很简单的，如果使用langchain是可以很快解决这个问题的。我目前也是用自己写的python langchain来实现阅读代码，舒服的一批！地址我再发...

04月19日17 views评论

阅读全文

安全新闻

Linux 发行版 Gentoo 宣布禁止 AI 自然语言技术协助下创建的内容

关键词LinuxGentoo 理事会 4 月 14 日一致通过了一项新的 AI 政策：明令禁止向 Gentoo 提供任何借助 AI 自然语言处理工具创建的内容。如果此类工具不涉及版权、道德和质量问题，...

04月17日14 views评论

阅读全文

人工智能安全

【论文速读】| TroubleLLM：与红队专家对齐

本次分享论文为：TroubleLLM: Align to Red Team Expert基本信息原文作者：Zhuoer Xu, Jianping Zhang, Shiwen Cui, Changhua...

04月17日27 views评论

阅读全文

人工智能安全

AI安全：LLM的风险揭示与安全性评估

大语言模型（LLM）在当前社会中扮演着日益重要的角色，其广泛应用领域突显了其对社会和技术发展的重要性。然而，强大却也脆弱，大语言模型的这一特性，让我们看到了人工智能发展的双刃剑效应，如何确保大语言模型...

04月17日160 views评论

阅读全文

安全新闻

多家德国组织遭受网络攻击

摘要Proofpoint警告称，TA547集团正在使用名为Rhadamanthys的信息窃取程序攻击数十家德国组织。 Proofpoint研究人员观察到一个被追踪为TA547的威胁行为者，通过发送R...

04月15日20 views评论

阅读全文

CTF专场

HackPack（LLM挑战）Writeup

点击蓝字关注我们声明本文作者：CTF战队本文字数：约8504字阅读时长：约10分钟附件/链接：点击查看原文下载本文属于【狼组安全社区】原创奖励计划，未经许可禁止转载由于传播、利用此文所提供的信息而造成...

04月15日29 views评论

阅读全文

人工智能安全

AI 蠕虫来袭

随着OpenAI的ChatGPT以及Google的Gemini等生成式人工智能系统的不断进步，它们开始被投入到越来越多的工作使用中。初创公司以及科技企业正利用这些系统来创建能够自动执行日常事务的AI代...

04月12日31 views评论

阅读全文

安全闲碎

【论文速读】| CovRL：基于覆盖引导的强化学习对LLM基础变异进行JavaScript引擎模糊测试

本次分享论文为：CovRL: Fuzzing JavaScript Engines with Coverage-Guided Reinforcement Learning for LLM-based ...

04月12日43 views评论

阅读全文

安全新闻

TA547使用人工智能生成恶意脚本针对德国目标

导读据观察，黑客团伙 TA547 与已知的窃取者 Rhadamanthys 一起针对德国组织。根据 Proofpoint 最近的一份报告(https://www.proofpoint.com/uk/...

04月11日26 views评论

阅读全文

人工智能安全

大语言模型应用程序十大风险

内容摘要《OWASP 大语言模型应用程序十大风险》项目旨在向开发人员、设计人员、架构师、管理人员和组织介绍部署和管理大语言模型（LLM）应用程序时的潜在安全风险。该项目主要基于漏洞的潜在影响，可利用性...

04月10日21 views评论

阅读全文

在线咨询

微信