近年来,人工智能技术火热发展,尤其是OpenAI在2022年11月30日发布ChatGPT聊天机器人程序,其使用了Transformer神经网络架构(GPT-3.5),能够基于在预训练阶段所见的模式、...
大模型的双刃剑属性:内容违规、隐私泄露、网络犯罪应如何治理
自ChatGPT问世掀起大模型的发展热潮以来,国内外的相关应用悉数落地并且已经卷出天际,逐渐成为帮助各行各业生产效率提升的重要工具。此前的系列文章中,我们就重点围绕网络安全行业的各个细分方向,观察了大...
[AI安全论文] (32)南洋理工大学刘杨教授——网络空间安全和AIGC整合之道学习笔记及强推(InForSec)
首先祝大家五一节快乐!《娜璋带你读论文》系列主要是督促自己阅读优秀论文及听取学术讲座,并分享给大家,希望您喜欢。由于作者的英文水平和学术能力不高,需要不断提升,所以还请大家批评指正,非常欢迎大家给我留...
【大模型安全】AI大模型概念先导篇
AI大模型概念先导篇AI大模型,顾名思义,是指规模庞大、能力强大的人工智能模型。它是当前人工智能领域最热门的技术之一,也是各大科技巨头争相投入研发的重点。那么,究竟什么是AI大模型呢?大语言模型领域技...
前沿 | AIGC在系统运维领域的应用探索
文 | 中国银行软件中心 王婉婷 付晖 闫晓斐 陈若昱 随着分布式架构的迅速演进和云原生技术的逐步落地,大型商业银行的IT系统呈现出敏态和稳态相结合特点,在云上和云下并行、集中式与分布式共存的复杂架构...
国产大模型,什么时候能搞出 Sora ?
来源:技术领导力 全文共 2828 个字,建议阅读5分钟 导读:几天AIGC圈子炸了,OpenAI发布了文生视频模型Sora,给本来就火热的AIGC赛道,又添了一把柴火。Sora模型生成的视频质量和真...
微软发布针对AIGC的红队测试开源工具
近日,微软发布了PyRIT(用于生成式人工智能的Python风险识别工具包)红队测试工具,通过自动化帮助识别生成式人工智能中的风险。这是一个开源的红队测试工具,旨在帮助安全专业人员和机器学习工程师识别...
模糊测试重新定义应用程序的安全性
数字化时代,云计算、人工智能等先进技术为网络安全行业带来了迅猛的进步,但同时也孕育了更多新型的安全威胁。如备受瞩目的0day漏洞攻击,因其不可预见性一直给企事业单位带来着严重的安全威胁。近些年,如针对...
AIGC与安全- FreeBuf安全帮会
帮会名称:AIGC与安全帮主介绍:帮会资源:详细的关于AIGC的干货内容,更有本地大模型提供给帮会成员测试使用,为各位师傅们做流量分析等安全工作提供帮助。 加入帮会,您可获得:1.关...
2024年的十大网络安全趋势
点击进入信息安全资料库 在迎接2024年的网络安全前夜,我们不仅面对着科技领域的高速发展,更迎来了对网络安全的前所未有的挑战。与商业和技术领域一样,人工智能即将在攻击和防御领域掀起一场革命。在这个充满...
AIGC时代的多模态知识图谱构建与应用 | TF99回顾
1月18日,CCF TF第99期“AIGC时代的多模态知识图谱构建与应用”以线上会议形式成功举办。本次活动由CCF TF知识图谱SIG策划呈现,邀请了阿里、蚂蚁等互联网企业的代表,以及来自哈尔滨工业大...
2024年数字安全呈现九大趋势
大模型“智能涌现”冲击了传统安全理念,数据要素的乘数效应带给安全新活力,安全边界正在一步一步被打破……2024年安全趋势将迎来哪些新变化?在近日海南三亚的《数字安全免疫力建设指南》发布会上,指南分析研...