最近,Abnormal Security的研究人员发现了一个专门为网络犯罪创建的无审查AI聊天机器人——GhostGPT,是人工智能用于非法活动的新前沿,可以被用于网络钓鱼计划、恶意软件开发和漏洞利用...
微软 AI 红队表示,在解决细微风险方面,人类参与仍然不可替代
导 读由于安全专家担心人工智能会抢走他们的工作,微软的研究人员坚持认为,有效的红队行动仍然依赖于人类的专业知识、文化意识和情商——这些品质是机器无法复制的。该软件巨头表示,其 AI 红队严格测试了 1...
微软OpenAI云遭滥用:攻击者绕过安全护栏 对外售卖违规内容生成服务
关注我们带你读懂网络安全攻击者利用被盗的API密钥,访问微软Azure OpenAI服务中的设备和账号,绕过安全护栏生成了“数千张”违反内容限制的图片,并对外出售这些访问权限。前情回顾·大模型安全动态...
2025年关于AI的5个预测-AI安全
2025年1月1日,一辆特斯拉Cybertruck在拉斯维加斯特朗普国际酒店外发生爆炸,导致一人死亡,七人受伤。调查显示,嫌疑人在策划袭击时,利用生成式人工智能工具ChatGPT获取了制造爆炸物的相关...
LLMSecOps|LLM和GenAI的安全解决方案
如果你也想在网络安全上全栈,点击下方名片关注我,助你离目标更近一步!引言:随着生成式AI的采用、使用和应用程序开发的增长,新的安全风险也随之而来,影响着企业或组织的战略规划和投资。当然,对应的消减方案...
AI算法合规的14个常见问题 | Q&A
探寻合规之道,共筑数据保障之堡。专注为数据安全管理者、技术专家、隐私法务、律师等专业人士打造的知识共享与交流平台。点击 "合规社" > 点击右上角“···” > 设为星标⭐随着技术的不...
Gartner:目前仅8%的中国企业将生成式人工智能部署在生产环境中
Gartner最新调研结果显示,中国企业在采用生成式人工智能(GenAI)方面雄心勃勃,但进展缓慢,目前只有8%的中国企业将生成式人工智能部署在生产环境中。Gartner研究总监闫斌表示:“虽然小规模...
2024年AI安全五大热点回顾
在ChatGPT推出两年后,生成式AI已成为网络安全领域的重要力量。2024年生成式AI技术的影响无处不在,从深伪欺诈到“影子AI”的风险,再到AI安全法规的出现和AI驱动的漏洞研究潜力。以下,我们将...
2025年网络安全十大关键趋势
在当今数字化时代,网络安全已成为全球企业和个人无法忽视的关键议题。随着技术的迅猛发展,网络威胁的复杂性和多样性也在不断增加。展望2025年,网络安全领域将迎来一系列深刻的变革和挑战。在2025年大幕开...
2025,数字化面临的危机
2025以至,各种十大纷沓而至,从一个基层草根工作者而言,2025年,我们将面临哪些数字化危机成为指导网络安全工作的一项重要参考。结合近五年我们所做的,所看到的,所听到的,以及国家层出不穷的政策、法规...
从图森未来到CreativeAI
2024年12月19日 ,图森未来宣布更名为CreativeAI,开始向动漫游戏领域转型,吕程带领团队利用公司在 AI 技术方面的积累,开发基于生成式 AI 的视频生成大模型 Ruyi,并针对不同...
专题解读 | 大语言模型在推荐场景的实践
大语言模型在推荐场景的实践一、简介随着大语言模型(LLMs)的不断发展,工业界大量探索LLM在实际推荐场景的应用。本文介绍小红书在笔记推荐场景应用LLM的探索,以及字节应用LLM在抖音业务上的实践。二...
29