7月25日，美国国务院发布了《人工智能与人权风险管理概况》(以下简称《概况》)。《概况》借鉴了美国国家标准与技术研究所（NIST）的人工智能风险管理框架(AI RMF)，旨在将人权与风险管理方法联系起来，用以指导包括政府、私营部门和公民团体在内的社会组织以尊重国际人权的方式设计、开发、部署、使用和治理人工智能。本文对《概况》内容做如下总结。
01
基本原理与功能目标
《概况》第一部分总结了人权对人工智能治理的重要性，具体而言包括三个方面：
►国际人权具有普遍适用性，且已经成为一种共同的国际语言，对科技治理有重大作用。
►人权承诺与政府、私营部门的行为主体相关，这些行为主体在人工智能的设计、开发、部署、使用和治理中发挥着重要作用。
►人工智能带来的许多风险与人权有关。
《概况》同时确立了两个功能目标：
►向 AI 设计人员、开发人员、部署人员和用户展示如何应用NIST的人工智能风险管理框架来促进人权保护。
►在人工智能设计、开发、部署和所有利益攸关方使用的整个过程中，促进尊重人权的人工智能治理。
02
人工智能系统的潜在人权影响
《概况》第二部分介绍了在整个人工智能生命周期中可能出现的人权风险，具体而言包括5个阶段：
►在规划与设计阶段，系统操作员和人工智能设计人员在规划与设计系统时，未考虑潜在的故障模式和超出系统预期用途的可预见危害等。
►在收集和处理数据阶段，收集或抓取的数据被用于训练AI模型，或被用于其他应用程序，或在用户不知情的情况下被出售等。
►在构建和使用模型阶段，系统设计人员实施的技术保护措施不足，无法防止数据泄露等。
►在部署和使用阶段，最终用户绕过系统壁垒，利用系统侵犯或滥用人权等。
►在操作和监控阶段，行为主体没有提供途径来报告系统滥用、错误或其他事件，且没有提供获取补救措施的途径。
03
应对人权风险的建议与行动
《概况》第三部分介绍了根据人工智能风险管理框架解决人权风险的建议行动，具体包括治理、映射、度量和管理四个组织功能。
►在治理功能下，《概况》建议各组织建立算法影响评估、隐私影响评估和人权尽职调查流程，并将其作为组织风险管理流程的一部分等。
►在映射功能下，《概况》建议各组织在设计人工智能系统前，以及在开发和部署系统期间，定期与可能受到影响的不同内部团队、外部合作者、最终用户和社区进行磋商等。
►在度量功能下，《概况》建议各组织应参照其提供的与人权有关的风险和衡量指标的示例，以评估和说明错误与影响等。
►在管理功能下，《概况》建议各组织要基于可能性、可用资源或方法以及风险的影响，对记录在案的人工智能风险进行优先级排序。
04
总结
通过遵循《概况》中的建议行动，人工智能行为者可以将人权因素纳入负责任的和尊重权利的人工智能风险管理和治理方法中，以帮助其在人工智能生命周期的早期和整个生命周期中发现和减轻对人权的潜在风险。
审核｜尚健
上海赛博网络安全产业创新研究院（简称赛博研究院），是上海市级民办非企业机构，成立至今，赛博研究院秉持战略、管理和技术的综合服务模式、致力于成为面向数字经济时代的战略科技智库、服务数据要素市场的专业咨询机构和汇聚数智安全技术的协同创新平台。赛博研究院立足上海服务全国，是包括上海市委网信办、上海市通管局、上海市经信委、上海市数据局等单位的专业支撑机构，同时承担上海人工智能产业安全专家委员会秘书长单位、上海“浦江护航”数据安全工作委员会秘书长单位、上海数据安全协同创新实验室发起单位等重要功能，并组织“浦江护航”数据安全上海论坛、世界人工智能大会安全高端对话等一系列重要专业会议。
欢迎联络咨询：邮件:[email protected]；电话：021-61432693。
原文始发于微信公众号（赛博研究院）：美国国务院：人工智能的人权风险管理
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论