LLaMA 是 Meta(前 Facebook)在 23 年初发布的一个开源的语言模型。它支持多种下游任务,包括文本生成、问答和对话系统,其开源特性使得用户可以根据需求进行定制与优化。优点在于灵活性和...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)
全文共23526字,阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习(AML)分类和术语,用以保护AI应用,防止被敌方操控。广义上讲,AI系统分为两类:预测式和生成...
AI vs. AI: 人工智能时代的网络安全攻防战
网络犯罪分子正利用人工智能(AI)发动更为复杂、规模化和先进的定向网络攻击。AI为攻击者提供了动力,使他们能够创造出逃避检测的变形恶意软件、极具说服力的网络钓鱼手段,并实现了高级攻击的自动化。Deep...
生成式AI(GenAI)模型的发展趋势
在生成式人工智能(GenAI)领域,专利趋势主要集中在三种核心模型:生成对抗网络(GANs)、变分自编码器(VAEs)和扩散模型。其中生成对抗网络(GANs)领域的专利数量是最多的:生成对抗网络(GA...
威胁情报在网络安全中的作用
1. 网络安全威胁与应对的现状随着科技发展和数字化进程的推进,网络安全威胁日趋多样化和复杂化。因此,应对网络安全威胁已成为当今社会最重要的课题之一。人工智能、大数据和云计算等现代技术的进步极大地改变了...
CrowdStrike的AI能力分析
生成式大模型已经广泛应用于网络安全产业。CrowdStrike作为领先的安全厂商,也在生成式大语言模型上有非常大的投入,并已经广泛用于各安全产品。本文对CrowdStrike的AI能力作综合分析,共分...
专题·大模型安全 | 生成式人工智能对国家安全的挑战
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063文 | 西安交通大学法学院、人工智能与信息安全法律研究中心 副教授 王新雷;西安交通大学法学院硕士研究生 唐琳玲生成式人...
黑客在有针对性的攻击中部署人工智能编写的恶意软件
在一起针对用户的电子邮件活动中,研究人员发现了恶意代码,分析后发现是在生成人工智能服务的帮助下创建的,用于传播 AsyncRAT 恶意软件。尽管供应商实施了保护措施和限制,但人工智能工具依然可能被滥用...
在野发现AI生成的恶意软件
HP最近拦截了一封电子邮件,其中包含由人工智能(AI)生成的投放器传递的标准恶意软件。在投放器中使用生成式AI的方式,这标志完全由人工智能创造的恶意软件有了明显的进化。2024年6月,惠普公司发现了一...
警惕!一种用于网络钓鱼攻击的生成式人工智能恶意软件...
近日,HP 研究人员检测到一个由生成式人工智能服务生成并用于传递 AsyncRAT 恶意软件的 dropper。在调查恶意电子邮件时,HP 研究人员发现了一种由生成式人工智能服务生成并用于传递 Asy...
2024年五大危险的网络攻击技术
SANS 研究所是网络安全研究、教育和认证领域的领先权威机构,它发布了年度《主要攻击和威胁报告》。该报告深入分析了不断发展的威胁形势,确定了组织需要防范的最普遍、最危险的网络攻击技术。今年的报告还强调...
人工智能拟人化的危险:信息安全视角
安小圈第512期人工智能 安全生成式人工智能革命没有丝毫放缓的迹象。聊天机器人和人工智能助手已成为商业世界不可或缺的一部分,无论是用于培训员工、回答客户问题还是其他完全不同的用途。我们甚至给它们赋予...
29