AI治理模型学习笔记

许多国家都推出了自己的人工智能治理模式，它们往往直接参考国际水平和全球人工智能治理问题。关于人工智能治理问题，我们重点关注那些本质上是跨国或多边的行为者和倡议，即涉及来自两个以上国家的利益相关者。但是，我们也不排除研究国家或企业的人工智能治理模式，这也是有启发意义的。

2018年七国集团关于人工智能的蒙特利尔部长级声明所述，以人为本的多方利益攸关方的共同愿望是开发促进经济增长、社会信任、性别平等和包容的人工智能。七国集团领导人做出了12项共同承诺。其中包括:推动行业在安全、安保、数据质量和数据安全方面的研发;处理与问责制、保证、责任、安全、性别和其他偏见和潜在滥用有关的问题;支持终身学习、教育、培训和再培训;促进多方利益攸关方就如何推进人工智能创新进行对话，以增加信任和采用，并为未来的政策讨论提供信息;促进促进安全和透明度的举措，并为人工智能决策过程中的人为干预提供指导;鼓励通过制定自愿性行为准则、标准或准则以及分享最佳实践，提高人工智能、物联网等先进技术和云服务的数字安全，包括行业主导的倡议;确保人工智能的设计和实施尊重和促进适用的隐私和个人资料保护框架;支持开放公平的市场环境等。

致命自主武器系统政府专家组(GGE)平均有来自90个国家的代表，自2017年以来一直在《联合国某些常规武器公约》(CCW)框架内举行会议，仅讨论人工智能的具体应用，即致命自主武器系统(LAWS)。虽然专家组在2018年取得了一些突破，但它确定了涉及人的责任和国际人道法等重要方面的十项指导原则。然而，由于对议程项目缺乏协商一致意见，进展显然是缓慢和困难的。

2019年1月，在达沃斯世界经济论坛上，新加坡发布了其人工智能治理模型框架(“模型框架”)。模型框架对全球人工智能伦理话语的贡献是将伦理原则转化为实际建议。该模型框架侧重于四个广泛的领域:内部治理结构和措施、人工智能增强决策中的人类参与、运营管理以及利益相关者的互动和沟通。人们认识到，有许多问题与人工智能的道德使用和部署密切相关。然而，这个模型框架并不关注这些具体问题。模型框架基于两个高级指导原则，促进对人工智能的信任和对人工智能技术使用的理解:a)在决策中使用人工智能的组织应确保决策过程是可解释的、透明的和公平的。b。)人工智能解决方案应该以人为中心。

2019年9月，由成员国外交部长组成的欧洲委员会执行机构设立了人工智能特设委员会(CAHAI)。在听取各国以及民间社会、学术界和私营部门的意见的同时，CAHAI还与联合国教科文组织、经合组织和欧盟委员会等其他国际机构密切合作。在CAHAI发布的一份关于政府贡献的综合报告中，该组织重申其“在解决人工智能发展和使用问题方面的明确作用”，并建议努力制定一项横向法律文书，其原则可作为更专业文本的基础。

欧盟委员会将其核心理念定义为“以人为本”、“道德”和“值得信赖”。如果该框架被转化为硬性法律，其影响将远远超出欧盟的直接管辖范围，欧盟隐私指令GDPR的全球影响力就是明证。

经合组织人工智能原则由经济合作与发展组织发布，并于2019年5月通过，作为“第一套政府间人工智能政策指南”，其中包括对可信赖的、以人为本的人工智能的承诺。

IEEE标准协会正在积极努力，明确将其在人工智能标准化方面的工作框架为一种新的“整体生态系统”方法，同时考虑到伦理和社会问题。在IEEE P7000标准家族中，目前有14个与人工智能相关的标准正在工作组中开发。

GPAI于2020年6月正式启动，汇集了来自行业、政府、民间社会和学术界的专家，以人权、包容、多样性、创新和经济增长为基础，指导负责任地开发和使用人工智能。它还遵循经合组织关于人工智能的原则，现在由经合组织主办。

组织人工智能治理的沙漏模型，由芬兰图尔库大学的Matti Mäntymäki、Matti Minkkinen、Teemu Birkstedt和Mika Viljanen贡献。该框架旨在帮助部署人工智能系统的组织将道德人工智能原则转化为实践，并使其人工智能系统和流程与即将出台的《欧洲人工智能法案》保持一致。沙漏框架包括环境、组织和人工智能系统级别的治理需求。在AI系统级别，框架将治理需求与AI系统生命周期联系起来，以确保整个系统生命周期的治理。该治理模型突出了人工智能治理的系统性，为其实际实施、连接不同人工智能治理层的机制以及人工智能治理参与者之间的动态关系开辟了新的研究途径。该模型还为组织决策者提供了一个起点，以考虑确保社会接受、降低风险和实现人工智能潜力所需的治理组件。沙漏比喻表示治理需求从环境层通过中间组织层流向人工智能系统。这个比喻还强调了人工智能治理的动态性，这是一项持续的活动，将规范性监管、自我监管和利益相关者的投入转化为运营实践。这些翻译活动可以发生在不同的组织级别和职能部门，从管理层到首席人工智能官、企业社会责任官和开发团队。因此，沙漏类比将翻译过程比作沙粒(环境输入)通过沙漏(翻译过程)的流动。

The hourglass model of organizational AI governance

人工智能治理的分层模型，由哈佛大学的Urs Gasser和Virgilio A.F. Almeida贡献。该框架从互联网环境中治理结构的发展和演变中获得灵感，思考人工智能、自治系统和算法决策过程的治理。该框架强调了三个挑战:信息不对称、寻找规范共识和政府错配，这些挑战转化为未来人工智能治理模型的设计要求。该框架认为，虽然未来人工智能治理模型的确切轮廓仍在不断变化，但先进的治理模型，如主动矩阵理论、多中心治理、混合监管和网状监管，可以为如何设计未来的治理机制提供灵感和概念指导。该框架试图通过使用从上到下的三层分析模型来捕捉人工智能治理的复杂性:社会和法律;道德;以及支持伦理和社会层面的技术基础。

A layered model for AI governance

综上对人工智能治理框架的研究，建议框架需要对关键治理参与者和举措进行实证研究，以揭示新兴人工智能制度的重要特征和模式。

参考资料:

1. 1.     Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance, Matti Mäntymäki, Matti Minkkinen, Teemu Birkstedt, and Mika Viljanen, https://doi.org/10.48550/arXiv.2206.00335

2. 2.        A Layered Model for AI Governance，Urs Gasser， Virgilio A.F. Almeida，http://nrs.harvard.edu/urn-3:HUL.InstRepos:34390353

3. 3.        Model Artificial Intelligence Governance Framework Second Edition

4. 4.        Mapping global AI governance: a nascent regime in a fragmented landscape

5. 5.        http://www.g7.utoronto.ca/summit/2018charlevoix/ai-commitment.html

原文始发于微信公众号（KK安全说）：AI治理模型学习笔记