2024年1月9日写在前面:每年都有很多机构和公司发布新一年的网络安全趋势预测,只所以介绍IBM这一篇,主要是他非常强调AI在网络安全中的作用,最近了解到AI自身安全的一些进展,正好放在一起。AI安全...
防止生成式人工智能成为诈骗新武器
随着大数据和深度学习的发展,生成式人工智能技术给世界政治、经济、文化领域带来极大冲击,技术创新进入新一轮活跃期。生成式人工智能技术在促进新质生产力发展,带来巨大商业价值的同时,也存在深度伪造、虚假信息...
AI | 基于 LangChain 的 AI Agent 智能体概述
1.人机协同三种模式 生成式AI的智能演化至今,人机协同呈现了三种模式: 嵌入(embedding)模式。用户通过与AI进行语言交流,使用提示词来设定目标,然后AI协助用户完成这些目标,比如普通用户向...
评论 | 防止生成式人工智能成为诈骗新武器
扫码订阅《中国信息安全》邮发代号 2-786征订热线:010-82341063随着大数据和深度学习的发展,生成式人工智能技术给世界政治、经济、文化领域带来极大冲击,技术创新进入新一轮活跃期。生成式人工...
AI安全:生成式AI原理与应用分析
术语解释:机器学习ML:使AI从数据中学习并做出决策或预测,分为监督学习 无监督学习 强化学习监督学习=小时候你妈教你数学,通过大量正确的数学试题来指导你无监督学习=你刷短视频时候经常刷美女 一定程度...
2024年最重要的AI趋势
文章来源:https://www.ibm.com/blog/artificial-intelligence-trends/本文翻译来自CSA翻译组:翻译:何伊圣,CSA大中华区专家审校:杨皓然,CSA...
蚂蚁牵头的大模型安全测评标准发布
第 27 届联合国科技大会(the 27th UN CSTD Annual Meeting)正在瑞士日内瓦召开。大会期间,世界数字技术院(WDTA)发布了两项国际标准:《生成式人工智能应用安全测试标准...
CSA大中华区牵头 | 生成式AI应用安全、大模型安全标准发布
4月16日联合国日内瓦总部万国宫,由世界数字技术院(WDTA)与云安全联盟大中华区(CSA GCR)联合主办第27届联合国科技大会AI边会上,世界数字技术院(WDTA)发布了两项具有重要意义的国际标准...
OWASP发布大语言模型网络安全与治理清单
当前人工智能技术面临的最大风险是大语言模型(LLM)和生成式人工智能技术的发展和应用速度已经远远超过了安全和治理的速度。OpenAI、Anthropic、谷歌和微软等公司的生成式人工智能和大语言模型产...
AI 蠕虫来袭
随着OpenAI的ChatGPT以及Google的Gemini等生成式人工智能系统的不断进步,它们开始被投入到越来越多的工作使用中。初创公司以及科技企业正利用这些系统来创建能够自动执行日常事务的AI代...
【好文推荐】生成式伪造语音安全问题与解决方案
摘要:生成式人工智能算法的发展使得生成式伪造语音更加自然流畅,人类听力难以分辨真伪.本文首先分析了生成式伪造语音不当滥用对社会造成的一系列威胁,如电信诈骗更加泛滥、语音应用程序安全性下降、司法鉴定公正...
复旦白泽为你解读《生成式人工智能服务安全基本要求》
随着 OpenAI ChatGPT、Sora 为代表的 AI 大模型正加速发展,复旦白泽高度关注 AI 大模型安全,持续自研大模型靶向安全评测技术,生成海量高危诱导问题,高效挖掘 AI 大模...