原文始发于微信公众号（网络安全和信息化）：《生成式人工智能服务安全基本要求》发布（可下载）
03月04日28 views评论人工智能
原文
Microsoft 发布 PyRIT，能自动识别AI系统中的风险
关键词系统风险Microsoft发布了一个名为PyRIT（Python风险识别工具的缩写）的开放访问自动化框架，以主动识别生成式人工智能（AI）系统中的风险。红队工具旨在“使全球每个组织都能利用最新的...
02月28日27 views评论microsoft
人工智能
微软发布针对AIGC的红队测试开源工具
近日，微软发布了PyRIT（用于生成式人工智能的Python风险识别工具包）红队测试工具，通过自动化帮助识别生成式人工智能中的风险。这是一个开源的红队测试工具，旨在帮助安全专业人员和机器学习工程师识别...
02月28日21 views评论人工智能
生成式
全新WiFi安全漏洞曝光，可能影响全球23亿安卓用户
《中华人民共和国保守国家秘密法》修订发布，5月1日正式实行保护国家秘密是维护国家权益、维护国家尊严和维护国家长治久安的必然要求。来源: FreeBuf联邦调查局和 CISA 警告美国医院将遭受有针对性...
02月28日33 views评论勒索软件
恶意代码
Microsoft 发布 PyRIT - 生成式 AI 的红队工具
微软发布了一个名为PyRIT（Python风险识别工具的缩写）的开放访问自动化框架，用于主动识别生成式人工智能（AI）系统中的风险。这个红队工具旨在“使全球的每个组织都能够负责任地利用最新的人工智能进...
02月26日90 views评论ai
红队
微软发布用于生成人工智能的红队工具
微软周四宣布发布 PyRIT，这是一款开放访问的红队工具，旨在帮助安全专业人员和机器学习工程师识别生成人工智能中的风险。微软表示， PyRIT通过自动化任务和标记需要进一步调查的区域来提高审计效率，从...
02月26日32 views评论人工智能
红队
生成式人工智能时代的5大网络安全趋势
随着生成式AI技术部署日益增加，安全措施也需要具备与之同步的动态、智能和敏捷性。在近期举行的“人工智能智库日”（AI Think Tank Day）上，安全专家们讨论了其中一些变革性网络安全趋势。趋势...
02月23日77 views评论人工智能
网络安全
Gartner发布2024 年十大战略技术趋势
点击上方蓝字谈思实验室 获取更多汽车网络安全资讯 Gartner于今日发布2024年企业机构需要探索的十大战略技术趋势。Gartner研究副总裁Bart Willemsen表示：“由于技术变革以及社会...
02月23日31 views评论ai
企业
Gartner：2024 年十大战略技术趋势
近日，Gartner发布2024年企业机构需要探索的十大战略技术趋势。主要包括：全民化的生成式人工智能（AI），AI信任、风险和安全管理，AI增强开发，智能应用，增强型互联的劳动力，持续威胁暴露管理，...
02月23日32 views评论ai
生成式
大模型输出内容安全：分类和保障
01 概述目前，生成式人工智能（生成式AI，或AIGC）是人工智能发展的热点，更多的人愿意并主动开始使用人工智能模型帮助自己的学习与工作。但目前由算法进行生成的内容通常没有进行完善的检测监管，在《LL...
02月22日537 views评论llm
人工智能
Experian最新报告发布：70%的企业遭遇网络欺诈的频次有所增长
根据 Experian 的报告显示，有70% 的企业表示近年来因网络欺诈造成的损失有所增加。同时，也有超过一半的消费者认为自己相比去年遇到网络欺诈事件的次数有所增长。为了在 2024 年有效降低网络欺...
02月21日16 views评论人工智能
生成式
「人脑替代计划-1」每个人都应该了解的AI知识
介绍自1956年提出以来，“人工智能（AI）”一词已为我们所有人所熟知。尽管如此，在 ChatGPT 迅速流行之前，人工智能的使用和讨论大多仅限于科学研究或虚构电影。如今，人工智能，尤其是生成式人工智...
02月21日20 views评论人工智能
机器学习
29