原文标题:ATTACKS ON THIRD-PARTY APIS OF LARGE LANGUAGE MODELS原文作者:W Zhao, V Khazanchi, H Xing, X He, Q X...
技术实践 | RAG精确应对大模型敏感问题知识幻觉难题
一、引言在大模型的实际应用落地过程中,会遇到所谓的幻觉(Hallucination)问题。对于语言模型而言,当生成的文本语法正确流畅,但与原文不符(Faithfulness)或事实不符(Factual...
[译文] LLM安全:3.网络LLM攻击及提示注入知识普及(PortSwigger)
“2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安全论文交流、威胁...
【论文速读】| 通过大语言模型从协议实现中推断状态机
本次分享论文:Inferring State Machine from the Protocol Implementation via Large Language Model基本信息原文作者:Hai...
《大模型训练数据白皮书》学习笔记
2024年5月24日,阿里研究院发布了《大模型训练数据白皮书》。有基础知识的科普,也有一些有趣的观点,摘录分享一下。这篇没有用AI,手工摘录的。01模型训练阶段第一阶段预训练(Pre-training...
清华大学|基于单向Mamba的高效网络流量分类预训练模型
原文标题:NetMamba: Efficient Network Traffic Classification via Pre-training Unidirectional Mamba原文作者:To...
从首席安全官的视角解码生成式人工智能的影响
点击上方蓝色字体,关注我们/ 技术交流群 /添加微信15021948198,申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......
月之暗面安全实践思考分享
近日,安全极客与Wisemodel社区联合举办了“AI+Security”系列的首场线下活动,主题聚焦于“大模型与网络空间安全的前沿探索”。在这次活动中,月之暗面的安全工程师麦香先生发表了一场精彩的演...
清华大学唐杰:大模型与超级智能
本文探讨了大模型的发展历程,介绍了作者团队研发的GLM-4大模型,并针对AGI研究面临的挑战对AGI未来发展提出了一些思考。关键词:大模型 超级智能超大规模预训练模型(也称基础模型、大模型,英文为...
AI+安全,智绘跨时代的数字富春山居图
点击上方蓝色字体,关注我们/ 技术交流群 /添加微信15021948198,申请会员下载ppt & 加入汽车网络信息安全、测试评价、汽车电子、自动驾驶技术交流群、招聘求职群、投融资合作群......
英国NCSC机器学习原理介绍
这些原则可帮助开发人员、工程师、决策者和风险所有者就其机器学习 (ML) 系统的设计、开发、部署和操作做出明智的决策。 原理介绍 人工智能 (AI) 和机器学习 (ML) 系统的使用有可能为社会带来诸...
让ChatGPT帮忙输出恶意文件分析报告
“有利于提高社会生产力的方式均是有价值的” 想节省一些时间,一直在偷懒的方向上前进。今天遇到一个需要分析下为啥沙箱跑不出行为的样本,文件名为“重点稽查名单-终端.exe”(文件md5为0d28182b...
63