作者:bensenliu始于数据,但不局限于数据POINTS: Improving Your Vision-language Model with Affordable Strategiespaper...
ChatGpt 越狱调教指南 github上的那些chatgpt逃逸相关项目大全
tag : ChatGPT 越狱、GPT 助手提示泄漏、GPT 提示注入、LLM 提示安全、超级提示、提示破解、提示安全、AI 提示工程、对抗机器学习🚨 gpt越狱探索绕过 GPT 模型限制的技术。🌟...
专题·大模型安全 | 大模型安全风险评估与防御技术综述
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 中国信息通信研究院人工智能研究所 黑一鸣 陈文弢 陈杰 呼娜英近年来,数据量、算力规模和模型参数持续增长,推动了...
NoiseAttack:挑战人工智能防御的新型多目标后门攻击
研究人员开发了一种名为NoiseAttack的新后门攻击方法,能够以最少的设置同时危害多个类别。与之前专注于单一类别的方法不同,NoiseAttack在训练阶段使用高斯白噪声 (WGN) 的功率谱密度...
AI大模型新型噪声攻击曝光,可绕过最先进的后门检测
罗德岛大学的研究人员在一篇论文中提出了一种新颖的后门攻击方法,利用白高斯噪声的功率谱密度作为触发器,不仅提高了攻击的可行性和普遍性,在模型中都取得了很高的平均攻击成功率,而且不会对非受害者造成显著干扰...
网络安全AI大模型训练从入门到精通
时至今日,众多IT大佬们开源共享,各种类型AI框架,训练工具等如雨后春笋般,层出不穷,类似AI大模型不再是高高在上,已经进入平民化,普通人亦可0基础做一个属于自己的AI。网络与信息安全行业更显的重要,...
[SecData#3] 大模型定向测试输入生成数据集
摘要本研究系统地比较了大型语言模型和传统基于约束的符号执行工具在生成定向测试输入方面的性能。通过研究发现,大型语言模型(如ChatGPT)可以在测试数据集上媲美甚至优于经过工程验证的基于约束的工具,如...
软件敏感信息检测工具对比
一. 引言 随着软件开发的日益复杂,敏感信息(如API密钥和访问令牌)的安全性变得尤为重要。如图1.1,根据GitGuardian的监测数据,2023年GitHub存储库中的密钥暴露数量较2022年增...
机器学习核心算法04 决策树
决策树算法是一种基于树结构的机器学习算法,广泛应用于分类与回归任务中。以下结合信息增益、信息增益率、基尼系数、样本划分、剪枝算法以及CART算法,对决策树进行详细介绍:一、基本概念决策树通过构建一棵树...
大模型文件的中毒攻击与防护
大模型文件的 中毒攻击与防护 人工智能的安全性问题由来已久,大模型本质上作为人工智能系统,也存在相应的安全问题。OWASP Top 10 for Large Language Model Applic...
9款软件敏感信息检测工具特点分析
一. 引言随着软件开发的日益复杂,敏感信息(如API密钥和访问令牌)的安全性变得尤为重要。如图1.1,根据GitGuardian的监测数据,2023年GitHub存储库中的密钥暴露数量较2022年增...
梨花女子大学 | DeepCoFFEA:通过度量学习和放大改进对Tor的流关联攻击
论文题目:DeepCoFFEA: Improved Flow Correlation Attacks on Tor via Metric Learning and Amplification论文作者:...
27