在人工智能飞速发展的今天,DeepSeek、文心一言等大型语言模型(LLM)已经成为我们日常生活的一部分。然而,当我们惊叹于AI的神奇能力时,你是否想过:这些看似智能的"大脑"也存在安全漏洞?今天就让...
专题解读 | RAG模型的安全挑战:针对RAG的攻击算法
RAG模型的安全挑战:针对RAG的攻击算法随着人工智能技术的飞速发展,大型语言模型(LLMs)在自然语言处理领域的应用日益广泛。其中,检索增强型生成(RAG)模型以其强大的信息检索和文本生成能力,成为...
揭秘黑客真实战术:AI炒作之外的安全挑战
AI是否真的正在重塑网络威胁格局?还是说,无休止的炒作掩盖了现实中更实际的威胁?Picus Labs发布《2025年红色报告》,对超过100万份恶意软件样本进行了分析,迄今为止,AI驱动的攻击并未出现...
EDR在企业网络安全中的作用
以签名为核心的传统防病毒软件仍然是当前众多企业防范端点风险的重要手段,但现在这一方式已经跟不上网络攻击的发展形势。端点检测和响应(EDR)系统应运而生,在帮助企业应对新端点安全挑战上发挥着越来越重要的...
CSO:混合云安全挑战到了至暗时刻
近日,Mirantis 的首席执行官 Alex Freedland 在采访中分享了个人对于未来发展的展望,他认为随着多云和混合环境成为常态,CISOs 需要解决的云安全挑战。其中,扩大的攻击面、一致安...
大模型安全挑战:全生命周期的原生构建与风险应对
11月15日,云安全联盟大中华区大会将在北京举行,欢迎扫码报名参会!如何在安全挑战中构建大模型稳健防线?如何在复杂生命周期中确保大模型安全无虞?如何在AI技术飞速发展中应对新型安全威胁?2024年11...
2024入坑指南——渗透测试的新兴考点之云(1)
2024年,渗透测试领域的最新趋势主要围绕云安全、新兴技术和自动化渗透测试展开。随着企业加速向云端迁移,云原生技术的复杂性带来了新的安全挑战,使得云渗透测试成为必不可少的技能。同时,零信任架构的普及和...
ITRC《2024年上半年数据泄露分析》报告解读|复杂多变的网络攻击技术导致数据泄露事件频发
一. 概述2024年7月,身份盗窃资源中心(Identity Theft Resource Center, ITRC)发布了《2024年上半年数据泄露分析》(H1 2024 Data Breach ...
SDC2024议题聚焦 | 从硬件钱包到TrustZone:Web3密钥托管的安全挑战与解决方案
·SDC2024 议题预告 ·01从硬件钱包到TrustZone:Web3密钥托管的安全挑战与解决方案在Web3领域,密钥托管(crypto custody)是维护用户资产安全的关键环节,业界广泛应用...
AVEC!开源在线免杀生成平台
最近参与了一次安全演练。目的是为了测试防御系统的能力。我们需要模拟攻击,以便找出系统中的弱点。在这个过程中,我发现 AVEC 这个工具非常适合我们的需求,它是一个在线的 AV 逃避平台,可以帮助我们生...
启明星辰:大模型的安全挑战及应对建议
当前,大模型技术在多个领域显著提升工作效率、改变了生产模式,并创造了巨大经济价值。例如,在金融行业,大模型被用于风险评估与市场预测;在医疗行业,它则助力图像识别与疾病诊断等。然而,这些技术带来的安全风...
专题·大模型安全 | 大模型的安全挑战及应对建议
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 启明星辰集团核心技术研究院 周瑜 周涛当前,大模型技术在多个领域显著提升工作效率、改变了生产模式,并创造了巨大经...
4