文章首发奇安信社区：https://forum.butian.net/share/3966前言安全对齐（Safety Alignment）在人工智能（AI）和大规模语言模型（LLM）的研究中，指的是确...
12月23日16 views评论llm
语言模型
强制解码越狱大模型
12月23日16 views评论llm
语言模型
12月23日16 views评论llm
语言模型
大语言模型攻击工具
https://github.com/RiccardoBiosas/awesome-MLSecOps 原文始发于微信公众号（网安守护）：大语言模型攻击工具
12月22日20 views评论大语言模型
语言模型
KDD25 | 大语言模型能否提高图神经网络的对抗鲁棒性？
Can Large Language Models Improve the Adversarial Robustness of Graph NeuralNetworks?作者：张中健，王啸，周辉池，于...
12月18日72 views评论gpt
llm
专题解读 | 大语言模型上下文窗口扩展方法
大语言模型上下文窗口扩展方法一、简介上下文窗口（context window）是大语言模型（LLM）的一个重要概念，指模型在一次推理或生成过程中可以处理的文本长度。大语言模型的上下文窗口大小取决于预训...
12月17日77 views评论llm
语言模型
AI机器人的头号威胁：大模型越狱
随着ChatGPT等AI聊天机器人以及基于大语言模型的应用席卷全球，越来越多的公司开始将这种技术引入机器人控制。然而，最新研究发现，黑客可以通过自动化方式轻松绕过AI系统的安全防护，甚至能够操控机器人...
12月16日17 views评论chatgpt
llm
专题解读 | 大语言模型辅助代码文档生成
大语言模型辅助代码文档生成随着大语言模型的广泛应用，LLM辅助进行代码文档生成在业界已逐渐成为趋势。代码文档的生成是软件开发中的一个关键环节，直接影响到代码的可读性、维护性以及团队协作的效率。传统的文...
12月11日18 views评论大语言模型
语言模型
热议 | 人工智能热潮可能正遭遇瓶颈
据美国有线电视新闻网网站11月19日报道，两年前，美国开放人工智能研究中心（OpenAI）的聊天生成预训练转换器（ChatGPT）问世，掀起了人工智能（AI）领域的“淘金热”。大量资金涌入专注研发AI...
12月10日14 views评论chatgpt
人工智能
G.O.S.S.I.P 阅读推荐 2024-12-06 小心预训练语言模型变成隐私陷阱
千禧一代大概率是没有经历过给报社、杂志社投稿的这种过程吧？把你的文学作品抄写在一张张稿纸上，塞进信封让它变得胀鼓鼓的，贴上邮票（甚至可能因为超重还要加钱），小心翼翼把邮寄地址写好，投进那个永远不知道什...
12月09日8 views评论ccs
语言模型
【论文速读】| AttackQA：利用微调及开源大语言模型辅助网络安全运营的数据集的开发与应用
基本信息原文标题: AttackQA: Development and Adoption of a Dataset for Assisting Cybersecurity Operations Usi...
12月04日15 views评论llm
网络安全
CTF比赛中无法上网怎么办？想百度却百度不了？别担心，这款本地AI一键解决你的问题！
SIMPLE STYLE “在大部分CTF线下比赛中，互联网访问往往会受到限制，有些比赛甚至还包含理论题。那么，在不违反比赛规则的前提下，如何有效解决比赛中的难题呢？试试Ollama本地AI大模型，它...
12月03日70 views评论ctf
语言模型
专题解读 | 知识蒸馏再升级：用大语言模型赋能图神经网络
知识蒸馏再升级：用大语言模型赋能图神经网络一、背景介绍知识蒸馏（Knowledge Distillation）作为一种模型压缩方法，通过将复杂教师模型（Teacher Model）的知识传递给较轻量的...
11月29日60 views评论llm
语言模型
一文读懂OWASP LLM应用十大风险，洞悉最新安全态势
点击蓝字关注中科天齐“提示注入”持续作为首要风险，“敏感信息泄露”风险显著上升，“供应链安全“风险日益突出，”系统提示泄露“和"向量和嵌入漏洞”成为新的隐患……11月25日，OWASP最新发布的“大语...
11月28日8 views评论llm
敏感信息
30