邮发代号 2-786
征订热线：010-82341063
文 | 新疆社会科学院 刘霞；南京信息工程大学 陈思羽
人工智能算法是社会生产力发展和科技进步的产物，它的广泛应用极大地促进了社会生产力水平的跃升与生产关系的变革，但也催生了一系列新型风险，包括个体层面的算法歧视和算法偏见，市场层面的算法共谋与算法垄断，这亟待有效的法律规制。
为促进互联网信息服务健康发展，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《算法推荐管理规定》），自2022年3月1日起施行，进一步规范互联网信息服务算法推荐活动。
《算法推荐管理规定》加强对算法风险的全流程监管，倡导政府、企业、社会、网民等多方主体共同参与算法推荐服务治理，推动算法推荐服务公正公平、规范透明，促进算法推荐服务向上向善。笔者建议，基于防范人工智能算法风险的目的，应完善有关立法，从立法方法、立法模式、立法路线三个方面规制、防范人工智能算法的风险。
算法、数据、信息、网络密不可分，规制人工智能算法必然与已有法律法规相关。规制人工智能算法需要对传统法律程序制度、法律责任制度、法律裁量制度和法律监督制度等进行可适用的完善、改进。
在法律程序制度中增设过程公平规则。算法公平不能仅侧重于结果公平监管，还要强化过程公平。算法的过程公平，即个人能够平等且有意义地参与到算法活动全过程之中，它体现在：一是决策算法选择的公平性，即，算法使用者应说明为何采取该算法，并简要说明优化目标。二是算法输入数据的公平性，即，数据特征选择的个人自主性、数据特征的可信度、数据特征的相关性等。三是在自动化行政的场景下，算法结果的有效性以通知与申诉的履行程序为前提，允许民众提出质疑，并有权在专业审计人员的协助下审查算法并及时纠错。
在法律责任制度中强化综合治理规则。一是算法责任治理应当全面涵盖人、算法、社会三要素，包括对“人”的治理、对算法的治理和对社会的治理。二是算法责任治理需要综合运用算法责任的多种实现机制，包括基础层次的社会责任融入、中间层次的负责任研究与创新、高阶层次的敏捷治理。三是归因矫正的综合性。算法责任治理应当囊括对人为型算法失当、功能型算法失当、触发型算法失当的治理，对它产生的各类问题进行矫正。
在法律裁量制度中，为保证机器计算结果的准确度和合理性，应侧重于完善传统裁量基准并对其进行精准代码转译。在决策权限保留方面，自动化处罚裁量的功能在于规范裁量权行使，而非剥夺执法人员的个案考虑义务，执法人员也不应怠于裁量。负责个案处理的执法人员应保有处罚决策权，应有权决定是否采用机器计算得出的量罚结果，即，执法人员不应被机器架空。
在法律监督制度中，加强调查研究，提升监管能力。建议采取以下几方面措施：首先，在现有法律法规基础上，进一步出台平台算法应用合规指引，细化算法原理公示等相关要求，为行政执法和企业行为树立明确边界。其次，强化平台经济市场竞争状况调查，进一步加强对算法歧视、算法合谋等行为的实证研究和竞争损害分析研究，以便在反垄断相关配套规定中进一步明确具体违法情形。最后，加强对算法透明、事前监管等制度的研究和影响评估，探索运用消费者权益保护、经营者权益保护等其他监管工具，对一些涉嫌垄断的算法应用行为进行综合约束。
算法规制不能仅停留于伦理约束，而需通过立法，设定“算法合规”准则，确保算法应用的正当性，推动“算法伦理”价值落实。在保障算法合理应用的同时，防止过度规制对算法技术创新的抑制，对算法核心竞争力的损害。在保障算法合理应用的同时，防止过度规制对算法技术创新的抑制，对算法核心竞争力的损害。算法法律关系不仅包括行政法律关系，还包括提供算法服务的企业与消费者之间的法律关系、算法服务提供者之间的竞争法律关系。防范人工智能算法风险的立法，不仅要防止算法应用对消费者权益等传统法益的损害，而且要应对诱导沉迷等新兴领域的“算法‘驯化’”问题，这对规范算法立法方法、立法模式、立法路线提出了更高要求。
立法方法：适用性改进与专项突破。规范算法立法需要区分四种算法侵害风险，设置专门条款加以规制。从行为角度看，算法应用主要包括算法匹配、算法推荐、算法决策、算法筛查四种行为。算法立法应当分类对算法应用行为作出细化规定。人工智能的三要素（数据、算法、算力）进入传统法律领域，面对算法产生的新型风险，应当以传统法律为基础，在传统法律制度上进行适用性改进。同时，规范算法专项立法应当通过申辩权、标签删除权、算法解释权、备案及评估信息公开请求权等程序性权利，以及备案审查、责令停用或整改的权利设置，引导算法规制正当程序确立，建立算法决策领域公益与私益的个案调和机制。
立法模式：实验性立法模式。在人工智能立法模式上采用实验性立法模式，有计划、分步骤地积极稳妥推进，在与人工智能行业相关的领域开展法治智能社会实验并探索总结规律，根据实验反馈的现实需要稳步推进立法。《算法推荐管理规定》以部门规章形式，对使用五类算法技术的算法推荐行为作出规制，对防范算法推荐技术滥用可以起到至关重要的作用。但作为部门规章，《算法推荐管理规定》在防控算法风险过程中还可能存在一定局限性。算法风险治理是一项系统、复杂的工程，不仅涉及个人信息保护，也与数据商业利用、流转和共享等数据生态链的诸多环节密切相关，需要政府部门、监管机构等多元社会主体参与合作治理。
立法路线：纵向立法与横向立法结合的立法路线。可以考虑省（直辖市）/部委+行业领域先行立法试点，后制定中央层面的人工智能领域上位法，并在及时总结地方和部门立法经验基础上，适时出台法律、行政法规。简而言之，即纵向立法层面，在中央层面搭建促进人工智能产业的立法框架。横向立法层面，根据促进法和地方立法探索，适时出台行政法规、法律层面的单行法。
（来源：民主与法制时报）
原文始发于微信公众号（中国信息安全）：专家解读 | 防范人工智能算法风险的法律规制路径
评论