语言模型 - 第 13 | CN-SEC 中文网

安全新闻

九个方向：AI技术在网络安全的落地应用

自2022年底开始，以LLM（大语言模型，简称大模型）为核心的AIGC（生成式人工智能）带来了一场人工智能驱动的技术与产业革命，人工智能被广泛认为是可以改变“游戏规则”的战略性科技。国内开启了“百模大...

07月23日287 views评论

阅读全文

人工智能安全

大语言模型中的提示隐私保护

大语言模型中的提示隐私保护一、简介：大语言模型（LLM）拥有庞大的规模、预先训练的知识和卓越的性能，被广泛应用于各种任务。提示学习(prompt learning)和指令微调(instructi...

07月23日94 views评论

阅读全文

人工智能安全

【论文速读】| LLMCloudHunter：利用大语言模型（LLMs）从基于云的网络威胁情报（CTI）中自动提取检测规则

本次分享论文：LLMCloudHunter: Harnessing LLMs for Automated Extraction of Detection Rules from Cloud-Based ...

07月19日96 views评论

阅读全文

人工智能安全

麻省理工：AI大模型缺乏推理能力

7月11日，麻省理工学院人工智能实验室CSAIL发文称，人工智能大语言模型（LLM）在不熟悉场景中的表现欠佳，缺乏真正的推理能力，对记忆存在依赖。一、研究设计CSAIL的研究比较了“默认任务”（Def...

07月17日43 views评论

阅读全文

安全工具

全球首个安全代码审计AI - CodeArgus

CodeArgus 由广州朋克智能科技有限公司打造的创新产品，全球首个安全代码审计AI。它通过先进的大语言模型技术，为企业和开发者提供高效、准确且成本效益极高的代码审计解决方案。「创新突破」CodeA...

07月17日161 views评论

阅读全文

安全新闻

网络钓鱼中的高级同形异义：网络安全的新威胁

网络安全正面临一个潜在的新威胁：在网络钓鱼攻击中使用同形异义词。这篇调查文章探讨了同形异义现象如何在各种类型的网络钓鱼攻击中使用、其背后的技术。对这种恶意行为的研究以及高级语言模型 (LLM) 如何帮...

07月15日22 views评论

阅读全文

信息情报

美国国防部发起并严控参赛人员范围，从CGC演变到AIxCC，AI参与实战网络攻防对抗会如何？

2024年8月，美国国防部高级研究计划局 DARPA 发起的 AIxCC 人工智能网络安全挑战赛将迎来半决赛。该赛事将大语言模型等最新AI技术引入网络安全竞赛，希望验证大语言模型技术在智能攻防领域的应...

07月15日108 views评论

阅读全文

安全工具

基于LLM的被动扫描工具：burpGpt

基于LLM的被动扫描工具： burpGpt 随着人工智能技术的快速发展，chatgpt这类生成式AI应用已经逐渐渗透进社会的方方面面。作为渗透测试人员，我们也在思考该如何使用大语言模型提高我们的测试效...

07月12日91 views评论

阅读全文

安全新闻

黑客攻击各大AI语言模型平台，转卖获取隐私信息

近日。安全公司 Sysdig 发布报告，声称有大量黑客瞄准各大 LLM 大语言模型网络平台发动“LLM 劫持”攻击，黑客通过一系列方式盗取用户账号密码，将模型 API 转卖给第三方，还从用户的对话记录...

07月12日21 views评论

阅读全文

人工智能安全

【论文速读】| JADE：用于大语言模型的基于语言学的安全评估平台

本次分享论文：JADE : A Linguistics-based Safety Evaluation Platform for Large Language Models基本信息原文作者：Mi Zh...

07月03日21 views评论

阅读全文

人工智能安全

专题解读 | 大语言模型中的记忆设计

大语言模型中的记忆设计前言Wang 等人[1]提出基于 LLM 的自主智能体架构设计应该包括四个组成部分:分析模块、记忆模块、规划模块和动作模块（如图1所示）。记忆模块在智能体架构设计中起着非常重要的...

07月03日72 views评论

阅读全文

人工智能安全

【论文速读】|MEDFUZZ：探索大语言模型在医学问题回答中的鲁棒性

本次分享论文：MEDFUZZ: EXPLORING THE ROBUSTNESS OF LARGE LANGUAGE MODELS IN MEDICAL QUESTION ANSWERING基本信息原...

06月30日41 views评论

阅读全文