生成式人工智能技术风险审视与治理

生成式人工智能的“自律”正在悄然改变人类对技术的传统认知，打破了传统的“技术中立”幻象，塑造了深度的“技术理性”，也随即僭越了原有“价值理性”。值得注意的是，生成式人工智能与人建构的交互模式，嵌入了人的多元价值观念并“不可避免地被内嵌特殊规则”，这在一定程度上被赋予了人的判断能力与选择能力。因此，要规制生成式人工智能的“自律”，应当从价值嵌入着手，完善价值纠偏，始终围绕人的主体性地位，坚持以“价值理性”引领“技术理性”，保障生成式人工智能始终服务于人，进而实现在人机博弈中把握主动，确保技术的发展方向符合人类的整体利益。

首先，要坚持“动态监管”。采取动态的监管方式，形成针对生成式人工智能“自律”行为的持续监控和调整的动态机制。这不仅包括对学习和决策过程的实时监控，还包括对其产生结果的动态监测。其次，要坚持“分段监管”。养成路径治理思维，形成产品应用路径、用户体验路径和技术治理路径等相对独立且并行不悖的通路，在主要风险点、技术迭代、投入应用等关键节点设置治理哨卡，按“规制—应用—体验”的次序严格把控。最后，要坚持“分层监管”。合理地“划分”治理层次、“区分”问题类别、“分解”实施对策，实现对治理过程的科学“分”化，完善流畅“分用户体验—分产品迭代—分领域开放—分情景治理”的治理链条，加强业界的社会责任感和主动治理意识，以开发者为起点自下而上厘定规制的“边界性问题”。

作为“社会化的技术权力”，“技术利维坦”实现对社会宰制的根本原因在于技术发展“失控”，激化了“物性”与“人性”的矛盾冲突，在很大程度上放大了技术的“自律”特征。因此，要规制生成式人工智能的“自律”，应当针对生成式人工智能的技术逻辑作出优化，推进技术向善，通过技术发展使生成式人工智能脱离“技术利维坦”并逐渐走上正轨。芬伯格始终反对传统技术哲学家们“亡羊补牢”的观点，他强调技术优化要具有前瞻性和全过程性，要消除潜在弊端以防患于未然。生成式人工智能的“自律”是以技术发展为基础所实现的，这对生成式人工智能的治理技术提出了新的要求。因此，生成式人工智能技术风险的治理也应当以治理技术发展为支撑，优化生成式人工智能的“自律”特征。

首先，推进算法黑箱呈现。针对深度学习算法决策的“黑箱”特性，制定算法服务的相关规则，阐述设计理念与内在机理，促使算法价值观以及设计结构的透明化呈现，并且使用可解释性强、理论基础扎实的模型，彰显算法模型的技术引领作用，实现“自律”特性成为用户监督下的“自律”。其次，加强算法技术把关。生成式人工智能的开发推广公司应当加强内部技术审查，建立职能技术机理审查、科技伦理审查、用户隐私保护核定、信息发布审核以及安全评估检测等管理制度与技术措施，建设科学标准的训练数据集，鼓励第三方语言检测处理模型的技术介入。最后，增加用户反馈系统。在人机交互的过程中，为生成式人工智能设置用户反馈算法，为用户设置对生成式人工智能输入信息、评估判断以及算法标注的单独端口，并对用户反馈情况进行筛选整合作为训练数据集的新构成，推动生成式人工智能数据结构的进一步优化。

技术发展的“泛智能化”趋势，激化了技术治理制度与技术迭代发展之间二元矛盾，随着生成式人工智能的广泛应用，原有人工智能治理制度滞后的现实问题由此显现。正如温纳强调，技术的相对自主性在一定程度上否定或弱化了人类对技术的控制权，要从克服技术对人立法、使人异化的基础上来重新设计并规制技术。因此，要规制生成式人工智能的“自律”，必须加强制度保障，完善法律规律体系，建立科学化、动态化、系统化的治理范式，以制度优势规范生成式人工智能走向真正的“自律”。