网络空间是由互联网、通信网、计算机系统、自动化控制系统、数字设备及其承载的应用、服务和数据等组成的空间,作为延伸和拓展现实世界的虚拟空间具有天然的技术属性。在当前网络空间日益军事化的背景...
【论文速读】|当LLM遇见网络安全:系统性文献综述
本次分享论文:When LLMs Meet Cybersecurity: A Systematic Literature Review基本信息原文作者:Jie Zhang, Haoyu Bu, Hui...
技术实践 | RAG精确应对大模型敏感问题知识幻觉难题
一、引言在大模型的实际应用落地过程中,会遇到所谓的幻觉(Hallucination)问题。对于语言模型而言,当生成的文本语法正确流畅,但与原文不符(Faithfulness)或事实不符(Factual...
【论文速读】| 通过大语言模型从协议实现中推断状态机
本次分享论文:Inferring State Machine from the Protocol Implementation via Large Language Model基本信息原文作者:Hai...
月之暗面安全实践思考分享
近日,安全极客与Wisemodel社区联合举办了“AI+Security”系列的首场线下活动,主题聚焦于“大模型与网络空间安全的前沿探索”。在这次活动中,月之暗面的安全工程师麦香先生发表了一场精彩的演...
一文带你了解大模型——智能体(Agent)
作者:lucasgftang大语言模型 vs 人类大语言模型很强大,就像人类的大脑一样拥有思考的能力。如果人类只有大脑,没有四肢,没有工具,是没办法与世界互动的。如果我们能给大模型配备上四肢和工具呢?...
【论文速读】|探索ChatGPT在软件安全应用中的局限性
本次分享论文:Exploring the Limits of ChatGPT in Software Security Applications 基本信息 原文作者:Fangzhou Wu, Qing...
多模态大语言模型的致命漏洞:语音攻击
OpenAI近日发布的GPT-4o多模态大语言模型震惊了世界,该模型可以通过传感器感知世界并与人类通过语音进行无缝交流,完成各种复杂任务(例如给孩子辅导数学),将科幻电影中的智能机器人场景带入现实。G...
【论文速读】|大语言模型是少样本测试员:探索基于LLM的通用漏洞复现
本次分享论文:Large Language Models are Few-shot Testers: Exploring LLM-based General Bug Reproduction基本信息原...
微软为美国情报部门提供物理隔离版ChatGPT
如何将ChatGPT这样的顶流人工智能技术安全地武器化,供情报机构和军队使用?微软给出的答案是“物理隔离”。提示注入攻击和训练数据泄露是包括ChatGPT在内的当前主流大语言模型面临的主要安全威胁,也...
世界模型之路在何方?| YEF2024
扫描报名二维码: (扫码报名)近期,OpenAI的GPT-4v和SORA、谷歌的Geimini等世界模型模型的发布,极大地推动了人工智能研究发展。世界模型是当下学术界和工业界的研究热点,被认为是通往强...
企业如何用大语言模型打赢社会工程反击战?
过去几年中,尽管企业在网络安全解决方案方面投入巨资,网络犯罪造成的经济损失却逐年上升。根据Cybersecurityventures的报告,2024年全球网络犯罪造成的损失将超过10万亿美元,成为全球...
30