数字时代的信息技术正在深刻影响行政过程。从行政处罚的电子取证到行政许可的智能审批，从对重点人员的“智慧管控”到对网络违法交易的智能监测，行政活动自动化乃至智能化的趋势日益显著。在行政机关大规模运用算法辅助决策，甚至利用算法进行自动化决策的情况下，行政法越来越难以回避来自现实的追问：在自动化、智能化的行政过程中，如何充分保障相对人及利害关系人的权益?面对冷冰冰的机器，个人能否进行有效的陈述和申辩，机器又应如何听取人的意见并对人作出解释和说明?传统的正当程序理念和原则，在数字时代能否充分发挥其应有作用?在当下的中国，回答上述问题亦颇具时代意义和战略意义。党的十九届四中全会通过的《中共中央关于坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化若干重大问题的决定》,明确提出“推进数字政府建设”,要求“建立健全运用互联网、大数据、人工智能等技术手段进行行政管理的制度规则”。在政府的数字化转型过程中，如何创新发展行政程序法治理论，使之契合数字化行政程序的特点，成为数字行政法研究亟需回应的重要议题。 1

面对自动化行政对于程序正义的迫切需求，21世纪初，席特伦提出了“技术性正当程序”的概念和一系列相应的程序法机制，试图通过向相对人、利害关系人和公众赋能，使他们有机会和能力知悉、理解乃至挑战自动化系统的决定。 2 随后，席特伦和帕斯奎尔明确了技术性正当程序所追求的程序价值目标，并将技术性正当程序的适用范围扩展至基于预测性算法的规则设置和个案决定。 3 这一理论创见启发了一系列学者进一步思考，衍生出一些新的理论构思。例如，克劳福德和舒尔茨以“通知”“听证机会”“不偏不倚的决定者及司法审查”三项关键词构造了数据正当程序模型，提出行政机关应承担披露算法预测目标义务、披露数据来源义务，并确立专业中立的数据仲裁者调查机制等理论观点。 4 维拉森诺和福果提出，人工智能刑事司法正当程序应遵循可审计性、透明性、一致性三项原则。 5 随着技术性正当程序理论声誉日隆，我国学界也涌现出一批具有代表性的研究成果。例如，刘东亮对技术性正当程序的基本原理和主要内容进行了专门的梳理和阐述，从排除偏见、听取意见和说明理由三方面概括了技术性正当程序的核心诉求，并为人工智能决策系统设计了算法评估、算法检测、算法解释、算法透明等具体机制。 6 胡敏洁、张凌寒、马颜昕等学者，对自动化行政、算法自动化决策的法治化问题进行了探讨， 7 张欣对算法解释权的意义进行了深入阐述， 8 谭俊针对大数据技术风险的预防提出了系列建议， 9 这些研究均不同程度地借鉴了技术性正当程序的理论主张。

然而，与迅猛发展的实践相比，技术性正当程序理论的发展稍显迟缓，相关原理在实践中亦颇难落地。究其原因，以席特伦为代表的国外学者的理论主张，虽然充满问题意识和现实批判性，但未能及时跟进自动化行政技术的最新发展趋势，且所提对策建议略显单薄，缺少系统、可行的制度方案。国内学者虽然已将由人工智能算法支持的自动化行政过程纳入研究视野，但未能深刻意识到技术性正当程序的要旨是实现对“人”的赋能，而是试图在传统正当程序的框架内作零敲碎打式的填补，这导致理论建构和制度实践的系统性、前瞻性不强，难以对自动化行政的未来发展予以规划和引领。

要使技术性正当程序在当代行政法治实践中“落地生根”,理论研究必须从批判走向建构，尤其需要提出一套完整的理论框架及模型，来应对日益丰富多样的自动化、智能化行政活动。如果说，在自动化行政急速发展的当下，导致传统正当程序陷入危机的根源在于“人”的缺席，那么，通过一系列制度方案，对包括行政相对人在内的社会公众予以全过程、全方位的赋能，就是确保“人”在自动化行政过程中充分享有正当程序保障的关键。为此，本文将着力阐发，面对自动化行政给传统正当程序带来的现实挑战，为何需要重视技术性正当程序理论中的赋能取向，以及如何构建技术性正当程序的理想模型并完善相关制度，从而在自动化行政过程中实现对人的全面、充分赋能。

一、数字时代正当程序的危机与变革

在现代公法理论与制度中，正当程序是人的尊严的重要保障，正当程序理论在现代行政法中占有不可替代的重要地位。正当程序有实体性正当程序和程序性正当程序之分。实体性正当程序主要立足于保护宪法中未列举的公民权利，程序性正当程序侧重从司法审判的模式中提炼出某些基本的公平程序要求。 10 各国行政法中的正当程序多为程序性正当程序，旨在确保行政程序的公平公正。正当程序既可被视作一种原理，也可以具体体现为法律原则或法律规则。 11 在中国行政法的理论与实践中，正当程序的基本含义是：“行政机关实施行政行为，可能影响公民、法人或其他组织合法权益的，应当在作出行政行为之前向当事人和利害关系人告知事实并说明理由，听取公民、法人或其他组织的意见。行政机关应当告知公民、法人和其他组织享有陈述意见的权利，并为公民、法人和其他组织提供陈述事实、表达意见的机会。” 12 理论上通常认为，正当程序在中国行政法中已具有基本原则的地位，此种地位“源于它从根本上承载了现代行政程序的基本价值追求——程序正义”。 13

近年来，自动化系统在行政过程中的应用日益广泛，正当程序所面临的挑战和冲击持续凸显。实践中，自动化系统作出行政决定的过程，往往缺少告知、听取陈述和申辩、说明理由等程序性要素，导致正当程序原则无力发挥应有作用，相对人的权利也难以得到充分保障。例如，美国的禁飞系统通过自动匹配相关数据筛选涉嫌恐怖活动的人员，并将这些人员列入禁止乘坐民航客机的人员名单。由于数据挖掘算法及其依赖的基础信息存在缺陷，大量旅客被误判为嫌疑人。 14 美国政府部门则站在“宁可信其有”的立场上，任由错判一再发生。再如，美国联邦政府采用的定位服务系统，频繁对父母抚养子女的情况作出误判，美国的一些州政府则基于系统误判，错误发放了大量的医疗补贴。 15 在我国，2005年的“杜宝良事件”,曾经引发社会广泛关注，也使学界意识到，在正当程序缺失的前提下，将自动化系统应用在行政执法中，可能造成对公民合法权益的侵犯。 16 十余年来，随着声呐电子定位系统、征信评级系统、车辆卫星定位系统、驾驶行为监控系统等自动化系统或程序的大规模运用，从调查取证到作出判断或决定的整个过程，都可能脱离相对人的视野。 17 这些过程对公民合法权益有重大影响，甚至可能产生限制人身自由的结果。但是，在自动化行政过程中，相对人难以参与和知晓系统作出决定的过程，只能等待限制权益的后果发生之后再寻求有限的事后救济。自动化系统一旦判断失误而又未被及时纠正，或者因人为干预而偏离既定的运算逻辑，公民就有可能在毫不知情的情况下陷入无门可进、无钱可贷、无从申辩的境地。

实践中，自动化系统作出错误决定的风险，可能源于系统程序的设计缺陷，也可能源于参数配置、训练数据、现实数据中的错误。例如，儋州一位老人曾连续4个月未领到政府补贴，经查询和调查发现，原因可能是因上传数据不完整或系统出错而被系统误判为已死亡。 18 即便系统本身没有问题，系统的运行也可能因工作人员不当使用或受其他人为因素干扰而产生错误结果。例如，山东某镇大量村民的医保账户中出现“脑中风”的医保结算记录，但这些村民本人并不知情； 19 一所职业高校的大学生尚未毕业，但当地政府部门的信息系统显示，“他已在2家建筑公司的工地上开了6个月塔吊”,甚至还有企业为他缴纳职工社保，每月发放工资，尽管他从未收到过。 20

即便是在理论上能够机械执行人类预设条件、实现精准判断的自动化系统，也不能避免误判。在机器的深度学习方法出现以后，由于大量人工智能系统在精确率与召回率上存在不足，误判更有可能大量发生。 21 行政机关并非不知晓自动化行政系统可能发生误判，但他们依然倾向于信赖自动化系统，这背后的深层缘由也许在于：自动化系统的运用往往严格遵循某种内部工作流程或机制的要求，在一定程度上能够防止偏私的发生。“一切以系统认定结果为准”,有利于行政机关工作人员摆脱人情关系的干扰，在某些情形下，还有助于减轻或免除行政机关的法律责任。当然，也不排除个别行政机关工作人员利用自动化系统进行“暗箱操作”,甚至从事逐利执法等违法违规活动。 22 种种复杂的行为动机，都有可能使自动化系统的缺陷被熟视无睹，导致行政相对人的权益频繁受损且难以得到及时补救。

由于传统正当程序机制难以面向机器及算法发挥作用，要使对相对人及公众的程序权利保障贯穿自动化行政的全过程，就必须对正当程序理论进行革新。根据杰里·马肖的梳理，正当程序的法理基础可概括为适当性模型、能力模型和尊严利益模型。 23 其中，尊严利益模型的理论内核，被近代行政法的正当程序理论广为接受。尊严利益理论主张，之所以要遵循正当程序，主要不是为了遵守某种常规次序或增强作出正确决策的能力，而是因为程序(过程)本身具备道德直觉上的重要性；一个人的程序权利是否受到了保障与其实质性的法律主张无关，而是取决于受到挑战的程序(过程)对人的尊严的维持或削弱是否恰当。 24 人的各种权利都可以被视作具体化的尊严， 25 正当程序理论所强调的，正是参与权、辩护权等一系列程序权利背后的尊严价值。从尊严的视角出发，各种交互程序和程序性权利的价值根基，都在于维护人在行政过程中的“体面存在”,避免损害人的自主性和人格。 26 然而，在自动化行政过程中，机器隔断了人与人的程序内交往并日益成为实际上的决断者。一旦人在自动化决策过程中被对象化和工具化，人的交互和全面参与就将彻底无法实现，人的体面存在也将难以维持。因此，必须重塑正当程序理论，使人有能力在自动化行政过程中恢复其主体身份，找回“看得见的公平正义”。

在自动化行政过程中实现“人”的回归，并不意味着要削弱信息技术在自动化行政中的作用，因为信息技术也可以为相对人程序性权利的实现提供便利和支持。理论上，如能实现全程可留痕、可回溯且规则透明的自动化决策，即有机会为人与人之间的互动提供更高效的保障。在一些场合中，机器得出的处理结果可能比全凭人脑认知得来的结果更为精准、公平，有助于人的尊严在行政过程中得到更加全面的维护。自动化处理过程在技术上可以实现对证据采集、证据处理、证据判断的全面记录，有助于清晰展示行政思维过程，这将迫使行政机关全面公开其裁量依据， 27 从而间接助力相对人实现权益救济。

二、技术性正当程序的基本主张与赋能取向

面对信息技术的运用对正当程序带来的冲击，理论与制度的革新可谓势在必行。对此，许多国家已有所回应。早在20世纪末，德国行政法学界就意识到，自动化行政在保障相对人程序性权利方面有所不足，存在听证和说明理由程序缺位等诸多问题。 28 近年来，德国修订了其联邦行政程序法，其各州也纷纷制定了“电子政府法”,试图为自动化行政过程中的相对人提供专门的程序保障。这些立法中的一般性程序理念，如必须充分考虑自动化程序所未能考虑的个别情况，或自动化决定遗漏个案信息时须转为人工单独决定等，已经进入德国的法学教材中。 29 随着学术探索和制度实践的积累，技术性正当程序理论的出现有其必然性。整体上看，技术性正当程序的主要任务在于，确保人在自动化行政过程中充分行使其程序性权利，其基本主张植根于传统正当程序，但面对自动化行政中的新问题和新挑战，技术性正当程序彰显了更加鲜明的赋能取向。

(一)技术性正当程序的基本主张

席特伦等学者在弗兰德利等学者所作相关研究的基础上，以程序性正当程序的内容为基础， 30 对技术性正当程序的价值目标、制度设计等进行了系统阐述。技术性正当程序所追求的价值目标，包括透明、准确、负责、参与、公平等，覆盖了自动化决策规则的制定和基于算法预测的个案决定。 31 这些价值目标是对传统正当程序价值目标的进一步延伸，其中蕴含的尊严保障理念一以贯之。“诸如维护程序公平、保障人性尊严等，具有超越时空的特性，它们在新技术条件下也不会过时。因为人工智能技术的服务对象是人，只要人的主体性保持恒定，对人性尊严的尊重之要求亦不会改变。” 32

为实现上述价值目标，技术性正当程序将自动化系统的建设也纳入观察视野，使正当程序保护的介入节点大幅提前。技术性正当程序理论对自动化系统的设计提出了三方面要求：(1)在系统应用的前提条件方面，必须区分“规则”和“标准”。 33 适用规则的决定可以由自动化系统作出。适用标准的决定不宜由自动化系统作出，但可以由自动化系统发挥某些辅助功能，如提示决策者需要考量哪些因素、要求决策者输入考量因素和权重等。(2)系统设计必须以透明性和可问责性为主要导向，此种导向又包含若干基本要求，如公开源代码、严格测试系统软件、允许公众参与建设自动化决定系统等。 34 (3)用于作出行政决定的系统，至少应能生成和保存“审计轨迹”。 35 审计轨迹的作用在于辅助行政机关向相对人告知决定并说明理由、增强系统决定的可解释性，以及帮助行政机关及时发现并修正偏差。 36

在上述系统建设要求的基础上，技术性正当程序以确保个人能够预先获得“有意义的通知”和有“被听取意见的机会”为基本要义。前者意味着自动化系统应保留每一项决定的审计轨迹，以辅助行政机关向当事人说明理由；后者意味着听取意见的人员应受过专门培训，有能力了解自动化决定的偏差，能够详细解释行政机关如何依靠自动化系统的决定而行动，并能列明相关决定所依据的事实和法律。在行政过程中负有关键职责的人员(如听政官), 37 可能会盲目相信自动化系统的准确性和公正性，这种偏见容易误导其作出不公正的判断。为此，技术性正当程序理论主张在听证程序中增加两种消除偏见的机制：一是行政机关应向听政官明确表示自动化系统是可能出错的，听政官也需要接受这方面的专门培训，以了解自动化系统可能发生的错误；二是听政官应具体说明其所做决定如何受到自动化系统的影响，或依据了自动化系统生成的哪些事实和法律发现。 38 由此来看，技术性正当程序不仅旨在对相对人的尊严利益提供充分保障，也意在强化行政主体一方在自动化行政中的主体地位。

为确保相对人获得正当程序的保障，使相对人有能力挑战自动化系统的决定，技术性正当程序理论对自动化系统提出了如下要求：(1)自动化系统的审计轨迹应有防篡改之功能，以满足相对人可查阅、保密条件下中立第三方专家可审查、司法救济可覆盖的基本要求，使相对人有机会和能力对自动化系统的错误判断与处理结果提出质疑。 39 (2)要增强人工智能系统算法的可解释性，通过算法评估和软件测试等确保算法设计的程序一致性，聘请独立的第三方算法审计机构对算法进行定期检测。 40 如果相对人不具备质疑系统判断和处理结果的能力，则通常需由专业人员协助审查算法模型及其运行结果，以及时发现和纠正系统错误。 41

技术性正当程序理论的基本主张蕴含了多元的法律价值。该理论的形成源于这样一个基本判断：自动化行政有可能“使参与者丧失理解行政过程的能力”,弱化行政行为的可问责性，因而有必要着力恢复自动化系统的可问责性和透明度。 42 技术性正当程序为保障自动化行政的程序公正提供了丰富的建设性意见。在这一系列理论主张中，始终贯穿着一个核心理念：面对人与机器在能力上的日益失衡，必须充分增强人挑战自动化决定的能力，避免人的命运被机器主宰。

(二)技术性正当程序的赋能取向

为实现人在自动化行政过程中的回归，捍卫被“四处蔓延的、秘密的、自动化的”系统所威胁的尊严价值， 43 技术性正当程序理论紧密结合自动化行政的实践，对当代行政法中的正当程序作了重新诠释，力求通过相关制度的完善，实现对相对人及社会公众的充分赋能。

在个案裁决层面，技术性正当程序理论主张通过规范审计轨迹来发挥赋能作用。首先，该理论对审计轨迹提出了很高的要求，要求审计轨迹必须能够展示每一个“微决定”所适用的规则，并在此基础上展示计算机决策过程的“详细地图”;其次，该理论主张，行政机关必须确保审计轨迹遵循业内最佳实践，确保相对人能够获得“有意义的通知”,必要时还可以引入独立的专业第三方，帮助行政机关从审计轨迹和相关系统测试数据中发现自动化系统存在的错误或偏见。 44 不仅如此，席特伦还力主突破美国司法系统在正当程序之成本收益分析方面的认知局限，主张当事人应有检视自动化系统源代码之渠道， 45 这一渠道与留存及查验审计轨迹的要求相结合，有助于清晰查证系统作此决定的具体原因。实践中，如果有人试图干预自动化决定过程，只要有效建立了审计轨迹的自动化留存和防篡改机制，所有“暗箱操作”都将无所遁形；如果并非人为干预，而是发生了系统运行或数据方面的差错，对源代码和审计轨迹的检查也有助于找出问题根源，防止发生进一步的危害后果。

在规则制定层面，技术性正当程序设想的赋能机制，主要包括向社会开放自动化决定程序的源代码和允许公众参与构建自动化系统。自动化系统通常不会直接制定规则，但可以产生相当于规则制定的效果。程序员将法律规范转换为计算机代码时，有可能扭曲规则的原义，引发影响不特定相对人切身利益的后果。 46 代码开源和公众参与能够发挥向相对人及公众赋能之作用，能使各方主体有机会深入认识自动化系统的缺陷和风险，有助于及时发现和解决系统设计和运行中存在的问题。在有关算法黑箱、算法解释、算法透明度的讨论中，学界对于应否公布源代码存在争议。考虑到自动化行政系统涉及重要的公共利益，且这些系统多是利用公共财政资金开发或采购的，向公众开放源代码的必要性足以压倒对商业利益的考量，法律甚至可以强制要求部分自动化系统开放源代码。公众参与构建自动化系统，主要是指由利益相关各方派出有能力的代表参与自动化系统的建设与完善。政府也可以建立由多方代表参与的信息技术审查组织，为公众参与系统建设与调试提供更多机会。 47

总体而言，技术性正当程序的学理主张与各国行政法制的前沿发展相呼应，有望成为数字行政法的重要理论组成部分，但客观而论，其与系统性的行政程序法治实践之间仍有一定距离。究其原因，当前技术性正当程序的研究对象还局限于简单的自动化决策，而未扩展至基于深度学习的智能化决策；研究者因担忧自动化系统可能引发权利侵害等法律风险，而对自动化系统甚至信息技术本身过于警惕，没有充分意识到信息技术对于实现公平和克服偏见亦能发挥正向作用。 48 更重要的是，技术性正当程序理论目前还停留在概念提出和就事论事的阶段，这种零散的理论主张和制度实践，难以适应自动化行政的规模化发展趋势，也难以为自动化行政的参与各方提供稳定的制度预期。因此，若要借鉴技术性正当程序指导我国的自动化行政实践，理论研究不能止步于观点梳理和原理分析，还必须结合我国各方面的实际情况，对技术性正当程序的核心理念予以深入挖掘，进而形成一套完整的、体系化的理论框架，为不同场景、不同技术发展阶段下的自动化行政提供统一、可行的制度建设方案。

三、技术性正当程序的理想模型

传统正当程序的理念和自动化系统的技术条件，是构建技术性正当程序理想模型的基础，但如果只是将技术性正当程序的学理主张笼统地填入传统正当程序的理论框架，就显然低估了赋能理念所具有的独立价值。尤其是在智能化决策发展势头迅猛的当下，赋能是技术性正当程序发挥其权利保障作用、充分维护人的尊严的关键。通常而言，社会主体要获得某种社会行动能力，既有依赖于行为规范的保障，也需要有充足的信息支持。这意味着，技术性正当程序对人的赋能，既应着眼于行为规范的构建，也需着力提高人的信息能力。由此，技术性正当程序可展开为一套体系化的赋能机制：在系统建设赋能层面，要保证社会公众知悉自动化系统的设置情况及运行原理，以实现他们的有效参与；在传统行政程序层面，要确保相对人获得有意义的通知，使他们能够进行有效的陈述和申辩；在个案救济赋能层面，需要围绕增强相对人的信息能力来设计审计轨迹，以便对自动化行政行为开展有效的审查。技术性正当程序的完整内涵可以具体展开为原理公开、全程参与、充分告知、有效交流、留存记录、人工审查六个方面。据此，从自动化系统的建设维护到系统支持行政机关作出决定的每一环节，均充分包含相对人及社会公众的有效参与、表达和沟通，人在自动化行政过程中的体面存在和行动能力便可得到切实保障。

(一)原理公开

自动化行政系统的技术原理应当向社会公众公开。由公共财政支持、面向公众使用，且能对公民权益产生实质影响的自动化系统，有别于一般的商业算法应用，在不涉及国家秘密的前提下，其算法应当充分透明，以使处理过程的技术原理可以为一般理性人所理解。尤其是对于面向社会运行的政务类、公共服务类算法应用，更有必要满足算法透明的强制性要求，原因在于：其一，算法不透明会增加公民寻求法律救济的难度。 49 如果公众无从质疑算法，算法决策作为一种实质意义上的公权行为，就很难受到约束。 50 实行算法透明能够丰富监管框架，从而有效评估和解决数字政府环境下算法应用的可问责性问题。 51 其二，实行算法透明并允许算法运行的结果接受专家和公众的全面检验，能够强化系统的可靠性与安全性，有利于及时发现和修补系统漏洞，减少系统决策侵害公民权益的风险。其三，为政府部门提供算法服务和维护算法系统的私营企业，有可能会排斥算法透明的要求，如果不将算法透明作为强制性义务，公众对自动化系统监督缺位的问题就无法得到根本解决。 52

对处理公共事务的自动化系统提出算法透明的强制性要求，也许会面临许多质疑或实践困难。有不少学者认为，公众对算法的理解能力有限，实行算法透明对算法漏洞的修补助益不大；相反，这样做可能会泄露软件提供方的商业秘密，算法的相关知识产权也有可能受到侵犯。 53 事实上，上述质疑大多都不难驳斥。即便公众对算法的理解能力有限，这一事实也不足以否定算法透明的合理性。能否享有和行使知情权，关系到人的尊严，能力上的不足并不构成剥夺知情权的理由。在现代社会中，公众参与的大量公共事务都具有专业属性。在公众参与的过程中，不同层次的专业人士之间、专业人士与社会公众之间，会逐渐形成“专业知识—公众认识”的传播结构。这种传播结构不仅具有竞争性，而且是多层次的。只要不刻意阻断专家知识的多元化传播，社会公众就有机会提升其理解、判断和理性选择的能力。在商业秘密保护方面，由于公共部门的自动化系统承载着重要的社会公共利益，行政部门可以在进行政府采购时明确要求相关企业承担算法透明义务，企业可以自主决定是否放弃部分商业利益以换取同政府合作的利益。在这些方面，域外司法实践已形成较为明确的判断：对于公共机构的算法决策，防止商业秘密泄露不能成为阻碍正当程序保护的理由。 54 此外，随着技术的发展，算法透明与数据安全、商业秘密安全等，已日渐能够并行不悖，算法透明的实现路径也正在不断优化。例如，在一定的技术条件下，无需开放系统的源代码，只需要引入可验证的算法解释机制，以一定精度刻画各种输入变量与最终输出结果之间的相关性，就可以生成满足公众知情权的量化透明度报告，这种做法并不会危害到算法模型中的商业秘密。

(二)全程参与

除涉及国家秘密或可能危及数据安全的少数特殊情形外，用于支持行政机关作出行政行为的各种自动化系统，必须处于全过程的公众监督之下，在采购、安装(设置)、使用、维护、评估，以及任何可能影响自动化系统运行的方面，均应有一定形式和程度的公众参与。在自动化决策的全流程中实现公众参与，有助于从信息分享、信息交流、信息纠错三方面克服自动化决策的信任危机。 55

公众参与的方式是灵活多样的，行政机关可以根据实际情况，在“公众参与阶梯”中选择恰当的参与方式。 56 为使参与者具备必要的专业背景，行政机关在采购、安装(设置)、使用和维护系统时，应对系统的用途、配置、性能、技术原理等作必要的公开说明。对于可能影响相对人或公众合法权益的关键运行过程，可以在行政机关发布公开说明材料的基础上，鼓励具有专业资质的第三方机构或人员开展各种形式的科普解说，实现对公众的充分赋能。有条件的地方还可以设立制度渠道，鼓励社会公众实质性地参与自动化系统的选择、建设、优化与维护等事项的研究和决策。

(三)充分告知

行政机关通过自动化系统作出行政行为，或者采纳自动化系统的判断或处理结果作为行政行为之关键事实依据的，应当在作出行政行为前向相对人告知拟作出的行政行为及其事实依据和法律依据，如果作出的是裁量性行政行为，还需要向相对人说明裁量理由。告知的方式，可以根据实际情况确定，既可以是系统根据相对人预留的有效联系方式进行格式化告知，也可以是由工作人员告知。在履行告知义务的同时，行政机关还应当允许相对人通过一定方式查阅系统用以支持其结论的原始证据材料内容及计算过程，系统可采用数据或算法可视化技术满足上述查阅请求。

一切受到算法影响的人都有“知其所以然”的尊严性权利，这是技术性正当程序的核心要义。 57 在当代政策制定和司法审查的实践中，“说明理由”制度的地位日益重要，诸多程序保障机制功能的发挥，都要以“说明理由”制度的存在和运行作为前提。 58 因此，相对人及利害关系人不仅有权知悉行政机关拟作出的决定，还应有权知悉相关决定的依据和理由。 59 当然，自动化系统运行过程中留存的原始信息，可能是相对人及利害关系人难以识别的计算机文档，为使“说明理由”具有实质意义，行政机关需对这类文档进行可视化处理，形成可被非专业人士清晰认知的内容。

(四)有效交流

传统正当程序对尊严的保障，归根到底是通过人与人之间的有效交流实现的。在技术性正当程序中，真正离不开人的介入的，是告知和说明理由后的听取陈述和申辩环节。在该环节，行政机关可以进一步解释说明其作出行政行为的理由和依据，并与相对人进行交流。理论上，在系统形成拟作出的行政决定并向相对人发送通知后，以下几种人工介入的交流模式均可采行：一是到场处理模式，即通知相对人前往行政机关办公场所或其他指定地点接受处理，相对人可以当面向工作人员提出陈述或申辩；二是人工客服模式，即相对人可以通过网络或电话与行政机关的工作人员联系，进行陈述和申辩；三是上门服务模式，即在特殊情形下赋予相对人联系工作人员上门听取陈述和申辩的权利。当然，如果法律规范明确了相对人有申请听证的权利，相对人亦可在听证程序中与行政机关进行有效交流。不论采取何种交流方式，行政机关的工作人员均应充分了解自动化系统的运行状况及技术原理，以便全面解答当事人合情合理的疑问，并切实考虑当事人的陈述和申辩意见。

人工智能技术也在向着模拟人类情感和价值观的方向发展， 60 但即便到了强人工智能时代，人也应对行政过程有整体上的掌控。一般性的陈述和申辩可以由强人工智能负责听取并初步回应，如果相对人对强人工智能的回应不满，则仍应安排行政机关的工作人员亲自听取相对人的陈述和申辩，确保个人权益不被机器单方面处置，为人的尊严提供底线性保障。

(五)留存记录

系统保留的原始记录，可以用于检视系统作出判断或决定的实际过程，证明系统的运行状况，检验原理公开、充分告知、有效交流等环节涉及的内容是否准确。因此，工作人员进行的所有系统操作和系统运行的全过程，均应在自动化系统中留下清晰的原始记录，且行政机关应将这些记录备份并妥善存储，以便接受各方监督。根据《国务院办公厅关于印发政府网站发展指引的通知》(国办发[2017]47号),政府网站“留存网站运行日志不少于六个月”。在国家法律作出明确规定前，自动化系统中原始记录的存储时间，可参照上述通知，确定为至少六个月。如果相对人已经提起行政复议或行政诉讼，则系统应当继续完整保留相关记录，直至相关法律救济程序进行完毕。此外，法律还应授权相关主体针对特定行政活动制定有关留存记录的具体标准，根据场景的不同对留存记录的完整程度和技术细节等作出详细规定。

在系统的安全性、准确性等尚未得到严格保障的情况下，为防止不法人士精准攻击或恶意利用系统漏洞，上述原始记录可以不公开或只公开一定时期内的统计数据。在监察活动、行政复议和行政诉讼等监督与审查工作过程中，监察机关、复议机关和人民法院可以依法调取系统的原始记录，核对作出行政行为的事实依据是否充分、公开与告知的内容是否准确，以及是否存在其他违法或明显不当之处。必要时，监察机关等有关部门还可以对原始记录进行数据审计，以确定系统的运行是否存在误差或漏洞。

(六)人工审查

在自动化行政程序中，不能将人的命运完全委诸机器，相对人应当始终保有回应和挑战机器所作决定的能力，而人工审查是维护这一能力的底线。为防止自动化系统作出错误判断，行政机关应当为相对人提供人工复查的机会。在作出重要的行政决定之前，行政机关应主动对自动化系统的判断和处理结果进行人工审查，而不宜由自动化系统直接生成决定。当然，面对不断增长的行政任务量，要求行政机关对每一项自动化判断和处理结果都主动进行人工审查，或许并不现实。即便如此，行政机关至少应在实行依申请审查的同时，对符合一定条件的重要决定进行依职权的主动复查，并且定期对所有自动化判断或处理结果进行随机抽样复查，以尽可能及时发现自动化系统出现的偏差或失误。为确保人工审查的客观全面和精准高效，行政机关应对从事人工审查的工作人员进行必要的技术培训，使其通晓相关自动化系统的技术原理、了解系统既存的问题(如已发生的操作错误或判断偏差)和潜在的风险。 61

将上述六方面要求予以整合，即可得到技术性正当程序的理想模型(如下图所示)。其中，充分告知和有效交流，是传统正当程序理论与实践关注的焦点；原理公开、全程参与、留存记录、人工审查，是技术性正当程序在系统建设赋能和个案救济赋能两个层面对传统正当程序的拓展。这六方面要求均回应了自动化行政的特点，有助于充实人在自动化行政过程中的信息基础和行动条件，而基于赋能机制的不同，它们又可分为两类：(1)原理公开、充分告知和留存记录，侧重于为个体提供必要的信息渠道，从而提升个体的信息能力，保障其理解、判断和行动的能力；(2)全程参与、有效交流和人工审查，侧重于在行政程序中为个体创造行动空间，为其理性选择和行动提供机会。

来源：《法学研究》（本文为文章摘录版，如需引用，参阅原文）