「Z计划」是智谱面向未上市初创企业与优秀独立开发者/团队,提供 Tokens 赞助、投资支持和技术支持等资源的创新加速计划。面向全球,持续招募中!🐋(点击报名)「Z基金」是智谱联合生态伙伴设立的大模型...
用DeepSeek训练私有数据
这段时间,研究DeepSeek的应用成为了最流行的话题,部署它在内网中来训练私有数据、为我所用的运用尝试在各大群中热火朝天、铺天盖地地讨论着,“第四次工业革命”的威力果不其然。我也进行了一些学习尝试,...
【资料】生成式人工智能下的世界
《生成式人工智能下的世界》由Sinan Ülgen撰写,发表于2025年1月,探讨了生成式人工智能(GenAI)和大型语言模型(LLMs)在信息时代的影响。文章分析了信息时代的演变、GenAI和LLM...
【论文速读】| 评估并提高大语言模型生成的安全攻击探测器的鲁棒性
基本信息原文标题:Evaluating and Improving the Robustness of Security Attack Detectors Generated by LLMs原文作者:...
[论文翻译]多步骤越狱隐私攻击对ChatGPT的影响
https://arxiv.org/pdf/2304.05197Multi-step Jailbreaking Privacy Attacks on ChatGPT多步骤越狱隐私攻击对ChatGPT的...
专题解读 | 大模型增强图推荐的两类主流方法
大模型增强图推荐的两类主流方法一、简介大型语言模型(LLMs)的快速发展展示了其在生成、推理和建模世界知识方面的卓越能力。推荐系统也预计将从LLMs的发展中获得显著的好处。最近的研究努力已经将LLMs...
半空:LLM 辅助的 Go2Rust 项目迁移
试想一下:将一个 Golang 项目(大象)改写为(装进) Rust(冰箱) 总共需要几步?“Gopher in 冰箱” by DALLE3背景当 Rust 语言为我们展示出在「性能」、「安全」、「协...
【论文速读】| 利用大语言模型在灰盒模糊测试中生成初始种子
基本信息论文标题: Harnessing Large Language Models for Seed Generation in Greyb0x Fuzzing作者: Wenxuan Shi, Yu...
2025年值得关注的6个AI相关安全趋势
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士大多数行业分析师认为,2025年组织机构将在多种用例中加速利用生成式人工智能 (GenAI) 和大语言模型 (LLMs)。典型场景包括客户支持、欺诈检...
大语言模型加速供应链攻击,只是时间问题
聚焦源代码安全,网罗国内外最新资讯!编译:代码卫士既然犯罪分子已经意识到无需训练自己的大模型 (LLMs) 实现任何恶意目的,因为窃取凭据之后破解现有凭据更便宜快捷,那么使用生成式AI的大规模供应链攻...
AI+Security系列第4期(二):LLM辅助的模糊测试增强技术
近日,“AI+Security” 系列第 4 期线下活动于北京成功举办,聚焦 “洞” 见未来:AI 驱动的漏洞挖掘新范式,汇聚了安全领域的众多专家。水木羽林技术专家张强博士以“LLM辅助的模糊测试增强...
强制解码越狱大模型
文章首发奇安信社区:https://forum.butian.net/share/3966前言安全对齐(Safety Alignment)在人工智能(AI)和大规模语言模型(LLM)的研究中,指的是确...
7