下文主要基于360 安全大模型代码分析能力，对多个开源项目进行代码梳理和风险评估，结合分析报告，快速审计并发现了近 40 个大模型相关安全漏洞，影响范围覆盖llama.cpp、Dify 等知名模型服务...
12月11日184 views评论llm
数据集
大模型安全的漏洞
12月11日184 views评论llm
数据集
12月11日184 views评论llm
数据集
【论文速读】| AttackQA：利用微调及开源大语言模型辅助网络安全运营的数据集的开发与应用
基本信息原文标题: AttackQA: Development and Adoption of a Dataset for Assisting Cybersecurity Operations Usi...
12月04日15 views评论llm
网络安全
华中科技大学 | 大模型供应链研究路线图
原文标题：Large Language Model Supply Chain: A Research Agenda原文作者：王申奥，赵彦杰，侯心怡，王浩宇（通讯作者）作者单位：华中科技大学Securi...
11月27日52 views评论llm
供应链
JADE安全规约RAG开源，识别大模型恶意输入的法西斯本质
恶意查询的伪装变化多端，如何保障大模型不被欺骗，识别其「法西斯」本质？复旦白泽智能团队全新发布了JADE 4.0 - JADE安全规约RAG，通过提炼人类社会的通用安全规约构建RAG，帮助大模型如同人...
11月26日122 views评论rag
数据集
我如何构建部署本地的AI(上)
目录:知识点1.部署本地基础模型2.中文微调3.中间层构思总字数:2039 （对不起大家我的排版原因全乱套了，我给原文获取方式）pdf原文获取私信公众号: AI上pdf首先我们了解一些知识点 LLaM...
11月24日6 views评论数据集
语言模型
深度学习后门攻击演进趋势与先进技术分析
免责声明 由于传播、利用本公众号所提供的信息而造成的任何直接或者间接的后果及损失，均由使用者本人负责，公众号安全洞察知识图谱及作者不为此承担任何责任，一旦造成后果请自行承担！如有侵权烦请告知，我们会立...
11月21日21 views评论数据集
深度学习
【论文速读】| 通过良性数据镜像对大语言模型进行隐蔽越狱攻击
基本信息原文标题：Stealthy Jailbreak Attacks on Large Language Models via Benign Data Mirroring原文作者：Honglin M...
11月20日72 views评论llm
语言模型
专题解读 | 图基础模型最新研究进展
图基础模型最新研究进展一、简介图基础模型（Graph Foundation Model, GFM）是一个在广泛的图数据上预训练的模型，能够适用于在不同的下游图任务。为了实现跨域和跨任务的特性（cros...
11月19日86 views评论graph
数据集
黑客声称，近 5 亿 Instagram 用户的数据被抓取
据Cyber News消息，11 月 10 日，一名黑客在某黑客论坛上列出了一个待售数据集，声称它包含 4.89 亿 Instagram 用户数据。Instagram 每月有超过 20 亿活跃用户，意...
11月14日19 views评论instagram
数据集
黑客泄露亚马逊、大都会人寿、汇丰银行和其他大公司近300万员工数据
导 读一名黑客在非法论坛上发布了包含数百万条记录的海量数据集，其中包含来自各大公司的员工信息，这些信息很可能是在去年的 MOVEit 漏洞黑客攻击狂潮中被窃取的。以色列网络安全公司 Hudson Ro...
11月12日28 views评论亚马逊
数据集
G.O.S.S.I.P 阅读推荐 2024-11-08 ORL-AUDITOR
大家好，今天给大家推荐一篇发表于NDSS 2024关于机器学习模型训练数据盗用检测的研究工作-ORL-AUDITOR: Dataset Auditing in Offline Deep Reinfor...
11月09日13 views评论audit
数据集
NeurIPS 2024 让大语言模型使用代码解决图分析推理任务
Neurips 2024 让大语言模型像人类专家一样使用代码解决图分析推理任务论文链接: (https://arxiv.org/abs/2409.19667/)GitHub链接: (https://g...
11月01日52 views评论数据集
语言模型
27