周末时候OWASP2024年度安全技术论坛我们提到了人工智能和安全职位,在这里我们将展开聊一聊:2025 年及以后,人工智能将继续主导网络安全相关新闻,你可以接受并适应或者被淘汰! 传统的网络安...
黑客利用机器学习发动攻击的十种方式
Sapio Research所进行的一项调研揭示,未来12个月内,有62%的组织打算加大对AI安全领域的投资力度。然而,令人担忧的是,一些网络威胁行为者也正利用机器学习与AI技术,以前所未有的速度扩大...
安全技术运营的学习与笔记2
写在开头的话,按照事物发展的规律,说(写)比做是要容易很多的,动嘴比动手简单多了。因此整个社会的发展驱动始终是依靠那些不断探索试错的人们,安全领域也是如此,我理解到的是大多数人可以写下很多的方法与思路...
网络安全缩略语汇编手册-M(2)
MLMachine Learning机器学习机器学习(ML)是人工智能(AI)和计算机科学的一个分支,专注于使用数据和算法使AI能够模仿人类的学习方式,逐步提高其准确性。机器学习是如何工作的?加州大学...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)三生成式AI分类生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属性:生成式...
Ollama-大语言模型和机器学习框架多个漏洞
漏洞描述:Ollama是一个功能强大、易于使用且支持多种大型语言模型和机器学习框架的开源框架,它极大地简化了大型语言模型在本地部署和管理的过程,为研究和开发人员提供了极大的便利,Ollama中被披露存...
对抗式机器学习攻击与缓解措施分类及术语(下)
全文共18526字,阅读大约需28分钟。 往期推荐:【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上) 三 生成式AI分类 生成式AI包括多种人工智能技术,它们具有不同的起源、建模方法和相关属...
机器学习处于威胁搜寻研究的前沿
介 绍 ✦ Introduction 在不断发展的网络安全领域,日志(即从网络设备、端点和应用程序等各种来源收集的信息)在识别和应对威胁方面发挥着至关重要的作用。通过分析这些数据,组织可以检测异常、查...
常见安全设备及运营方式
安全设备分类流量侧流量探针原理:通过实时捕获和监测网络数据包、数据包解码、流量过滤和实时监控,为网络管理员提供详细的网络行为分析NIDS(网络入侵检测系统)原理:NIDS基于入侵检测的原理,通过对网络...
机器学习的自动调参
01调参的基本思想1.1调参目的调参的根本目的实际上就是要找到一组合适的超参数(超参数是指在开始学习过程之前设置值的参数,而不是通过训练得到的参数数据),使得模型具有更好的效果。更好的效...
【公益译文】对抗式机器学习攻击与缓解措施分类及术语(上)
全文共23526字,阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习(AML)分类和术语,用以保护AI应用,防止被敌方操控。广义上讲,AI系统分为两类:预测式和生成...
如何实现机器学习模型的敏感数据遗忘?
全文共2882字,阅读大约需6分钟。一. 概述随着机器学习方法越来越多地应用于网络安全领域的数据分析中,如果模型无意中从训练数据中捕获了敏感信息,则在一定程度上存在隐私泄露的风险。由于训练数据会长期...
29