llm - 第 31 | CN-SEC 中文网

安全新闻

Linux 发行版 Gentoo 宣布禁止 AI 自然语言技术协助下创建的内容

关键词LinuxGentoo 理事会 4 月 14 日一致通过了一项新的 AI 政策：明令禁止向 Gentoo 提供任何借助 AI 自然语言处理工具创建的内容。如果此类工具不涉及版权、道德和质量问题，...

04月17日14 views评论

阅读全文

人工智能安全

【论文速读】| TroubleLLM：与红队专家对齐

本次分享论文为：TroubleLLM: Align to Red Team Expert基本信息原文作者：Zhuoer Xu, Jianping Zhang, Shiwen Cui, Changhua...

04月17日29 views评论

阅读全文

人工智能安全

AI安全：LLM的风险揭示与安全性评估

大语言模型（LLM）在当前社会中扮演着日益重要的角色，其广泛应用领域突显了其对社会和技术发展的重要性。然而，强大却也脆弱，大语言模型的这一特性，让我们看到了人工智能发展的双刃剑效应，如何确保大语言模型...

04月17日164 views评论

阅读全文

安全新闻

多家德国组织遭受网络攻击

摘要Proofpoint警告称，TA547集团正在使用名为Rhadamanthys的信息窃取程序攻击数十家德国组织。 Proofpoint研究人员观察到一个被追踪为TA547的威胁行为者，通过发送R...

04月15日20 views评论

阅读全文

CTF专场

HackPack（LLM挑战）Writeup

点击蓝字关注我们声明本文作者：CTF战队本文字数：约8504字阅读时长：约10分钟附件/链接：点击查看原文下载本文属于【狼组安全社区】原创奖励计划，未经许可禁止转载由于传播、利用此文所提供的信息而造成...

04月15日29 views评论

阅读全文

人工智能安全

AI 蠕虫来袭

随着OpenAI的ChatGPT以及Google的Gemini等生成式人工智能系统的不断进步，它们开始被投入到越来越多的工作使用中。初创公司以及科技企业正利用这些系统来创建能够自动执行日常事务的AI代...

04月12日31 views评论

阅读全文

安全闲碎

【论文速读】| CovRL：基于覆盖引导的强化学习对LLM基础变异进行JavaScript引擎模糊测试

本次分享论文为：CovRL: Fuzzing JavaScript Engines with Coverage-Guided Reinforcement Learning for LLM-based ...

04月12日47 views评论

阅读全文

安全新闻

TA547使用人工智能生成恶意脚本针对德国目标

导读据观察，黑客团伙 TA547 与已知的窃取者 Rhadamanthys 一起针对德国组织。根据 Proofpoint 最近的一份报告(https://www.proofpoint.com/uk/...

04月11日27 views评论

阅读全文

人工智能安全

大语言模型应用程序十大风险

内容摘要《OWASP 大语言模型应用程序十大风险》项目旨在向开发人员、设计人员、架构师、管理人员和组织介绍部署和管理大语言模型（LLM）应用程序时的潜在安全风险。该项目主要基于漏洞的潜在影响，可利用性...

04月10日23 views评论

阅读全文

人工智能安全

【论文速读】| 基于大语言模型的模糊测试技术

本次分享论文为：Large Language Models Based Fuzzing Techniques: A Survey基本信息原文作者：Linghan Huang, Peizhou Zhao...

04月09日136 views评论

阅读全文

人工智能安全

「人脑替代计划-6」LLM是什么？

大型语言模型在生成人工智能中的应用如何？我们以ChatGPT为例来直观地理解一下。ChatGPT 的众多功能中，其中之一就是理解人类语言（用简单的话提出问题）。它还可以产生我们人类可以理解的反应。Ch...

04月03日27 views评论

阅读全文

人工智能安全

Lepton Search-开源对话式AI搜索引擎 500 行代码构建

Lepton Search是一款开源对话式AI搜索引擎，使用不到 500 行代码构建的对话式AI搜索引擎，是由原阿里巴巴技术副总裁和AI科学家贾扬清创办的Lepton AI推出的 AI 增强对话式搜索...

04月02日26 views评论

阅读全文

Linux 发行版 Gentoo 宣布禁止 AI 自然语言技术协助下创建的内容

【论文速读】| TroubleLLM：与红队专家对齐

AI安全：LLM的风险揭示与安全性评估

多家德国组织遭受网络攻击

HackPack（LLM挑战）Writeup

AI 蠕虫来袭

【论文速读】| CovRL：基于覆盖引导的强化学习对LLM基础变异进行JavaScript引擎模糊测试

TA547使用人工智能生成恶意脚本针对德国目标

大语言模型应用程序十大风险

【论文速读】| 基于大语言模型的模糊测试技术

「人脑替代计划-6」LLM是什么？

Lepton Search-开源对话式AI搜索引擎 500 行代码构建

在线咨询

微信