llm - 第 21 | CN-SEC 中文网

安全新闻

现实世界中的间接提示注入：人们如何操纵神经网络

什么是提示注入？作为支撑ChatGPT和其他流行聊天机器人的神经网络算法，大型语言模型（LLM）正变得越来越强大且易用。鉴于此，利用它们的第三方应用程序也如雨后春笋般涌现，范围涵盖文件搜索和分析系统、...

09月09日30 views评论

阅读全文

安全文章

利用云服务器搭建自己的Ai大模型

目前各种AI大模型层出不穷。如AI换脸，AI克隆声音都是通过训练自己的大模型来实现的。而想要训练自己的大模型，是对自己的硬件有所要求的，尤其是对显卡的要求！在工作中，我们需要跑一些大模型，如通义千问、...

09月09日53 views评论

阅读全文

人工智能安全

iText2KG：显著降低LLM构建知识图谱时的幻觉现象

iText2KG：借助大型语言模型实现知识图谱的增量构建发布时间：2024 年 09 月 05 日知识图谱iText2KG: Incremental Knowledge Graphs Construc...

09月09日80 views评论

阅读全文

安全新闻

安全采用人工智能的四大技巧

正如Coatue最新报告所揭示的，全球企业正以令人瞩目的速度拥抱人工智能，其增势之迅猛，甚至可与早期互联网普及相媲美，且增长率翻倍。随着企业加速推进基于AI的软件开发解决方案，安全团队正面临双重挑战：...

08月19日17 views评论

阅读全文

人工智能安全

AI+Security系列第2期（三）：面向LLM（大语言模型）的漏洞挖掘与对齐防御研究

近日，由安全极客、Wisemodel 社区和 InForSec 网络安全研究国际学术论坛联合主办的“AI+Security”系列第 2 期——对抗！大模型自身安全的攻防博弈线上活动如期举行。在此次活动...

08月15日54 views评论

阅读全文

人工智能安全

AI+Security系列第2期（一）：对抗！大模型自身安全的攻防博弈

近日，由安全极客、Wisemodel 社区和 InForSec 网络安全研究国际学术论坛联合主办的“AI+Security”系列第 2 期——对抗！大模型自身安全的攻防博弈线上活动如期举行。本次活动邀...

08月15日116 views评论

阅读全文

安全新闻

微软的 AI Copilot 可以被用作自动网络钓鱼机器

导读上周，来自世界各地的网络安全专家齐聚美国黑帽大会，这是一个了解最新网络威胁及其防御方法的著名会议。很明显，人工智能是一个热门话题，这并不令人意外。会议日程安排了几十场以人工智能为主题的会议，其中...

08月15日47 views评论

阅读全文

人工智能安全

人工智能的发展引发的法律依据问题

关注我们，学习更多隐私合规讯息大型语言模型提供了诸如更高的效率、生产力、研究和创新等好处。欧洲数据保护委员会工作组在其5月23日发布的报告中也承认了这一点。所有LLM都是使用数据集开发和培训的。目前在...

08月07日15 views评论

阅读全文

安全新闻

AI的韧性与多样性

韧性经常被作为一个流行词信手拈来，但它的真正定义是什么可能相当难以捉摸。在这篇博客中，我将探讨AI韧性的三大支柱：稳健性、韧性和可塑性。虽然稳健性和韧性对AI安全至关重要，但我将重点探讨可塑性——它既...

08月05日44 views评论

阅读全文

人工智能安全

对大型语言模型的即时抽象攻击，实现更低廉的应用程序接口定价

招新小广告CTF组诚招re、crypto、pwn、misc、合约方向的师傅,长期招新IOT+Car+工控+样本分析多个组招人有意向的师傅请联系邮箱 [email protected](带上简历和想加入的...

08月05日12 views评论

阅读全文

人工智能安全

来自大型语言模型的威胁

简介: 大型语言模型（LLMs）极易受到操纵，因此必须将其视为系统中的潜在攻击者。LLMs 在我们的日常生活中变得非常流行，并发挥着许多功能。有点想法的的软件公司都将人工智能（AI）整合到其...

08月03日28 views评论

阅读全文

人工智能安全

浅谈LLM应用中隐藏的安全风险

什么是LLM?通过海量文本训练的、能识别人类语言、执行语言类任务、拥有大量参数的模型，称之为大语言模型（LLM）。GPT、LLaMA、Mistral、BERT等都是LLM，LLM是对训练文本信息的压缩...

08月01日96 views评论

阅读全文

现实世界中的间接提示注入：人们如何操纵神经网络

利用云服务器搭建自己的Ai大模型

iText2KG：显著降低LLM构建知识图谱时的幻觉现象

安全采用人工智能的四大技巧

AI+Security系列第2期（三）：面向LLM（大语言模型）的漏洞挖掘与对齐防御研究

AI+Security系列第2期（一）：对抗！大模型自身安全的攻防博弈

微软的 AI Copilot 可以被用作自动网络钓鱼机器

人工智能的发展引发的法律依据问题

AI的韧性与多样性

对大型语言模型的即时抽象攻击，实现更低廉的应用程序接口定价

来自大型语言模型的威胁

浅谈LLM应用中隐藏的安全风险

在线咨询

微信