人工智能技术和应用的迭代创新正在推动算法影响评估作为一种新的并在全球兴起的技术治理制度。虽然继承了环境影响评估、数据保护影响评估等类似制度的部分要件，但算法应用浮现出的社会嵌入性、难解释和难穷尽、公平性悖论等新特征，要求算法影响评估作出新的制度发展。算法影响评估的制度内涵在于平衡“开放性”和“责任性”，并最终致力于形成合作治理框架，以实现动态积累治理经验与知识的目标。通过对欧盟、美国、英国、加拿大等主要国家或地区算法影响评估的实践梳理，认为列表清单、底线规制、放权赋能等三种实践模式在体现各自特征的同时仍然存在不足。由此启发，算法影响评估的制度构建应围绕“合作治理作为制度目标、探索平衡开放性与责任性的关键机制、坚持‘技术-组织-社会’的系统论思维”三个维度展开，而相应的机制设计将助力算法影响评估制度的改革完善与实践应用。
一、引言
伴随着新一代人工智能技术的跨越式发展与普及应用，人工智能治理的重要性得到了多方共识。算法影响评估作为治理层面的重要制度创新，也被越来越多的国家政府所采纳，甚至成为人工智能治理的基石之一。典型代表例如美国、欧盟、加拿大都在人工智能治理框架中引入了算法影响评估要求。在中国，算法影响评估已被视为一般性治理原则而纳入国家或地方出台的多部法律规章之中。例如《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》都明确提出了开展算法安全评估的治理要求。2024年2月，全国网络安全标准化技术委员会发布的《生成式人工智能服务安全基本要求》（以下简称《安全基本要求》）更是将算法治理原则转换成了具体可执行的评估要求。这一非强制性技术文件可被视为我国国家层面治理机构第一次对算法影响评估提出的实质性治理意见，对于我国完善算法影响评估制度建设具有关键性的推动作用。同时，这也标志着算法影响评估已继算法备案、算法分级分类之后，成为敏捷治理理念指引下的新一类算法治理工具与政策实践。
尽管当前国内外政策实践已围绕算法影响评估展开了积极探索，提出了一系列评估要求甚至在部分领域形成了详尽的指标体系，但算法影响评估作为一种治理制度，其在若干关键问题上仍然未得到清楚解释：为什么算法治理需要算法影响评估（制度定位）、算法影响评估制度设计过程中需要考虑的关键机制是什么（制度内涵）、算法影响评估制度落地的实践模式是什么（制度表现）。对这些问题答案的探究，不仅涉及算法影响评估制度的理论解释，同时也是对实践困惑乃至实践乱象的回应。以《安全基本要求》为例，尽管其提出了明确的评估要求，但诸如评估结果应如何与算法备案和算法分级分类治理等制度要求相衔接、评估结果究竟应作为事前准入的监管要求还是事后追责的评判标准、自评估或第三方评估的有效性应如何界定、评估基准如何取得行业共识、监管者与被监管者之间究竟是“监督-执行”关系还是合作治理关系等问题，仍然是迫切需要回应的重要实践挑战。也正因为在这些问题上的模糊理解，导致算法影响评估同样可能演化为“监管套利”的工具而非提升算法治理水平的“良药”。
二、算法影响评估的制度定位：
算法治理的制度困境与突破
在明确算法影响评估制度定位的基础上，接下来的问题就在于讨论算法影响评估制度“是什么”，而这又可进一步细分为“应该是什么”和“实际是什么”这两个层面，前者涉及算法影响评估制度建设在理论上需要考虑的关键机制，后者涉及算法影响评估制度在各国的当前实践。
三、算法影响评估制度的应然内涵：
基于两类制度的机制总结
影响评估作为一种治理手段，已经在环境治理、数据治理等领域得到了广泛实施，而环境影响评估、数据保护影响评估也成为该领域的重要制度得以建立并不断完善。
影响评估制度的理论基础可定位为协同治理，即其试图将多元主体（监管者、被监管者、第三方、公众等）纳入共同的治理框架以发挥各自相对优势。协同治理理论的关键问题还在于，将多方主体纳入统一治理框架后，如何通过差异化的制度要求进一步建构起能够平衡不同主体相对优势的治理关系与结构。具体而言，这主要涉及“开放性”与“责任性”的平衡。
第一类是透明性机制。通过将监管信息向公众开放以实现公开监督，从而在为多元主体提供自主决策空间的同时也将其置于“阳光”下，避免监管俘获并提升多元治理主体的责任性。正如对环境影响评估和数据保护影响评估的比较分析所指出的，追求绝对意义的透明并不一定有利于协同治理绩效的发挥，因其可能遭到被监管对象的反对或抵制而导致“监管合作”失败。
第二类是惩罚机制。即当一线主体“不负责任”的时候对其施加惩罚，而根据惩罚类型的差异又可进一步分为“螺旋式惩罚（escalatingpenalties）”或“惩罚性默认（penaltydefault）”等。前者会推动一线主体为避免可能出现的顶格惩罚而主动承受一定成本来接受或参与合作；后者是指设定惩罚的自动触发条件，此时监管者并不作为监督者或惩罚发起者，因此避免了与被监管者的对立，进一步还可推动监管者与被监管者“合作”以共同避免达到自动触发条件。
第三类是激励机制。即为一线主体的合作参与提供正向激励条件，以使之在考虑合规成本扣减之后仍然能实现正收益。激励机制需要推动被监管者同样能在共同监管的环境中受益，而不仅仅只是付出合规成本。考虑到市场竞争的必然存在，激励机制的实现往往需要改变市场环境，而非仅仅针对被监管者个体施加约束条件。