经常看到SOTA这个词。SOTA 是 State-Of-The-Art 的缩写。在人工智能 的背景下,它指的是可用于实现任务结果的最佳模型。请注意:它应该只是 AI 特定的任务。简单说,在某项评估中得...
对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。 往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上) 三 生成式AI分类 生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属...
PathSeeker:使用基于强化学习的越狱攻击方法探索大语言模型的安全漏洞
基本信息 原文标题: PathSeeker: Exploring LLM Security Vulnerabilities with a Reinforcement Learning-Based Ja...
与AI大语言模型进行语音对话(ollama voice)
如果想通过语音与AI大语言模型进行对话,可以使用AI语音助手,Ollama Voice语音助手,可以将用户的语音转换成文字,向Ollama大语言模型工具提问,返回的文字再转换成音频播放出来,实现用户与...
【论文速读】| RED QUEEN: 保护大语言模型免受隐蔽多轮越狱攻击
基本信息原文标题:RED QUEEN: Safeguarding Large Language Models against Concealed Multi-Turn Jailbreaking原文作者...
AI安全 | 大模型越狱探索
前言 米斯特安全团队准备新建AI安全组,目前正在招人,感兴趣的可以投递简历至admin[#]hi-ourlife.com,请备注工作岗位以及就读院校和专业,我们欢迎就读相关专业的学生以及有在从事...
AI文本识别重大突破,谷歌水印工具大规模应用
随着AI生成内容在教育、软件开发和社交媒体网络新闻领域的泛滥,准确识别和溯源AI文本对于内容安全和版权保护的重要性与日俱增。但是,准确识别AI生成内容始终是生成式人工智能领域久攻不下的难题之一。近日,...
大模型应用之RAG技术学习
什么是RAG检索增强生成(Retrieval Augmented Generation, RAG)是一种技术,它通过从数据源中检索信息来辅助大语言模型(Large Language Model, LL...
人工智能在预防性网络安全中的3个已证实的用例
IBM 的《2024 年数据泄露成本报告》强调了一项突破性的发现:人工智能自动化在预防中的应用平均为组织节省了 220 万美元。多年来,企业一直在使用人工智能进行检测、调查和响应。然而,随着攻击面扩大...
SVM算法在SQL注入攻击语义分析中的应用
1 算法描述支持向量机(support vector machines, SVM)是一种二分类模型,它的基本模型是定义在特征空间上的间隔最大的线性分类器,学习策略为间隔最大化,可将处理的实际问题形式化...
【论文速读】| LSAST:通过LLM支持的静态应用安全测试增强网络安全
基本信息原文标题:LSAST: Enhancing Cybersecurity through LLM-supported Static Application Security Testing原文作...
一种大模型端侧隐私保护方案
0x00 简介随着LLM应用的广泛普及,用户对提示词中的隐私信息泄漏的担忧日益增加。我们首次提出了一种可部署在端侧的提示词隐私保护方案,并对其安全性和可用性进行了评估。与安全多方计算(MPC)和Pre...
63