论文精粹|INFORMATION
马长山:数字公民的身份确认及权利保障
管理员 发布时间:2023-10-30 08:44  点击:1070

当今时代,在信息革命的推动下,自然人或个体公民日益以“数字人”或“数字公民”的新姿态呈现,自然人(公民)权利的内涵与外延也经历着深刻的数字化重塑,“数字权利”应运而生。当前,数字权利的实现正遭遇诸多困境和严峻挑战,这就需要人们像“认真对待权利”那样,凝心聚力地“认真对待数字公民权利”,将数字公民的身份确认及权利保障提上议程。

一、数字公民的时代生成

随着网络化、数字化、智能化技术的深度交融发展,人类社会迈进了“一切数字化、万物可计算”的数字时代,人们的生存方式和生产生活关系遭遇颠覆性重构,数字公民身份应运而生。

(一)数字化生存的身份变革

当下,以比特为单位的数据正迅速取代原子而成为人类社会的基本要素,“计算不再只和

计算机有关,它决定我们的生存”。 1 从形式上看,数字化生存主要是人们在数字空间工作、生活和学习的全新方式,但在本质上,数字化环境已经无处不在,它正基于解析化的感知计算、网络化的泛在关联、智能化的博弈演化,日益形成一个复杂的“虚实世界”和“信息—物理—社会”系统。 2 于是,数字化生存不再是传统生活的简单映射,而成为人类生活的基本属性与核心机制,这必然会引发人类的主体身份变革。

1.自然人的数字化

信息革命改变了人们的生存方式,人们的行为越来越多地以在线方式实现,且每天都会产生大量的身份数据、关系数据、行为数据、影像数据、语音数据等,“个人信息或数据成为大数据和人工智能应用的原料,人也因此获得数字人这一全新的存在形态”。 3 不仅数据画像、行为预测、情感计算成为一种生活常态,“身联网”也实现了体内数据与网络系统的交互处理,此时就“可以把全人类看作单一的数据处理系统,而每个个人都是里面的一个芯片”。 4 随着新兴科技的加速迭代,脑机接口使“电子人”成为可能,数字技术成就了虚拟形象背后的“中之人”,而“元宇宙”则试图在整合现有信息技术的基础上,开发出与物理世界平行的全息数字世界,形成一个个具有互操作性的、能够进行沉浸式互动的“数字自我”。于是,“自我也相应地碎片化、分散化,只剩基于多个数据库,根据选择、便利性、相关性、可用性等激活的多个数据化的自我(或部分自我)画像,从而进一步增加了新主体环境的流动性和可塑性”。 5 如果说,从猿到人是人类发展史上第一次重大飞跃,那么也可以说,从自然人到数字人可能是人类发展史上的第二次重大飞跃。

2.社会关系的数字化

伴随数字化转型的加深加快,人类社会日益呈现出万物数字化、超时空链接、智能化运行的生活状态。日常生活中的每一个体、每次社会交往、每种社会关系,都深嵌于数据分析和算法建模的数字生态之中,“任何有机体都是因为拥有获取、使用、保存和传播信息的手段才得以维系和生存”。 6 这种现象的实质,是“对于信息圈及其居民的根本性的再本体论化”。 7 人们的生产生活方式和社会关系,不再局限为传统工商业社会的“自然主义”模式,而是呈现出数字社会的“计算主义”模式;分类评价、数据画像、精准分析、预测引导、个性化推荐、算法决策等,深刻地改变、塑造着人们的行为和价值观,构建了社会关系中的数字身份和数字人格。

3.政府的数字化

数字政府是在政府信息化的基础上发展起来的,但如今数字政府建设已不再是一种工具性的技术赋能策略,而是一个机制重塑、制度重建、模式探索的升级过程。在“政府即平台、公民即用户”的变革理念和“数字机关”的机制架构之下,形成了数字化的业务流程、泛在化的公共服务、智能化的行政执法,司法机关也进行了业务流程再造、组织构架重塑和诉讼制度变革,由此实现了从“物理空间”的政府形态向“数字空间”的政府形态的总体转型。虽然“数字空间”政府并不会完全取代,更不可能消灭“物理空间”政府,但它会大大压缩以致改变传统政府的生存状态, 8 形成数字行政、数字服务、数字公民和数字社会四个维度,并“依据公共价值的行为性、公民性、服务性和社会性”,发掘数字政府在改善治理质量方面的潜力。 9 基此,公民权利与责任也就自然地出现在数字空间和数字生活之中,数字政府、数字机关的相对方必然是数字公民,这无疑是个重要的时代趋势。

总之,无论私人生活、社会交往,还是公共领域,都在全面数字化的过程中生成着个体的数字身份。这种数字身份既可以表现为承载着民事关系的“数字人”,也可以表现为承载着公共关系的“数字公民”。数字身份的诞生对每个人的生活和权利都会产生重要影响,也将深刻塑造数字社会的新型秩序。

(二)数字公民身份的理论逻辑

近年来,基于数字化生存趋势、数字政府战略和民众权利保护需求,联合国、欧盟和世界主要国家都对数字公民教育、数字公民权利等议题进行了积极回应。欧盟法院还建构了欧洲数字公民身份雏形,以应对日益严峻的数字化挑战。 10 不过,这些政策回应都立足于自然公民的基点之上,旨在让自然公民获得数字能力、促进其参与数字生活和展现数字价值,因而更多是将数字公民视作自然公民的数字化延伸,而事实上,数字公民身份具有更为复杂的人格属性和主体逻辑。

1.数字公民身份的异在“镜像”

在二维空间里,一个物体(或二维图形)的镜像就是该物体在某平面镜中反射出来的虚像。在福柯的异托邦理论中,镜像具有更深层的哲学隐喻,也即镜子让我在自己并不在场的地方看到了自己,这乃是一种“乌托邦”;而当镜中我的目光从虚拟空间的深处看过来时,镜中我是真实而又不真实的幻象,这就具有了乌托邦和异托邦的双重属性。 11 这里的异托邦是一种既虚幻又真实的多元交互的他者空间。如果按这种隐喻逻辑来审视我们身处的数字生活,那么,人们每天都要穿梭于虚实同构的双重空间,都会呈现出生物/数字的“两种人性”。虚拟空间映射着人们的所想所思和日常行为,但这却是真实的数字足迹、孪生的数字“镜子”,是一个更加丰富具象的异托邦。不过,数字镜子与福柯理论中那种物理镜子的映照效果显著不同,这主要体现在以下方面:(1)不同步性,即数字足迹不因生物自我的“离场”而消失,生物自我也并不能清晰看到、知晓和掌控数字自我;(2)不一致性,即数字镜子呈现的并不是一一对称的物理映射,一个生物自我可能会有数个数字自我,他(她)们以碎片化、流动化样态异在于众多数据处理者的他者空间之中,且数字自我的清晰度、控制力高低取决于数据处理者所掌握的数据量和算力;(3)互操作性,即生物自我与数字自我密切关联并能够交互影响,如客户可以要求平台删除个人数据,平台也可以通过算法推荐引导客户;(4)外方介入性,即很多时候(如数据交易和处理利用过程中)会有多个第三方对数字自我进行数据分享、身份识别和画像挖掘,并通过信息投喂、算法控制等方式,对生物自我进行一定程度的诱导和操控。这样,就形成了一种复杂的异在交互镜像,此时的数字身份既是个体的数字映射、对应匹配,又与个体若即若离、潜行反塑。可见,数字身份并不是自然人(公民)肉眼可见、物我二分的直观映照和“僵性”随身影像,而是与自然人(公民)浑然一体、交互影响的“活性”数字化身,其实质是自然人(公民)意志、行为和关系的数字化表达。从某种意义上说,这是一场自然人或者公民身份的数字革命,人们通过受动性的数字化呈现(数字身份、数字轨迹)、主动性的数字化表达(数字行为、数字形象)和互动性的数字化交往(数字参与、数字关系)进入数字生活实践、实现数字生活价值。

2.数字公民权利的两重向度

数字公民是公民身份、角色和行为在数字空间中的动态映射,是物理空间中公民的孪生“副本”,是数字化的公民或公民的数字化。在数字时代,数字公民“构成公民个体的重要组成部分”, 12 它具有两重向度。

其一,数字公民是公民责、权、利的数字化呈现和延展。如今,每一个公民都有一个与其自然身份相平行、相孪生的数字身份,人们能够在虚实同构的数字社会中参与公共生活、进行数字化表达、实施数字行为、融入数字化交往等,从而习得数字能力、享有数字权利、遵守数字伦理和承担数字责任。数字公民权利比传统公民权利的范围更大、内容更丰富。特别是在数据信息、在线参与、算法决策、数字监督等领域,数字公民权利的核心在于“通过数字世界对物理世界的传导过程,实现物理世界公民身份与数字世界公民身份的同步革新和增权,赋能现实社会的智慧发展”。 13 数字公民反映了公民身份的一体两面,代表着公民权利义务的数字样式,体现出在空间和形态上的两重性。

其二,数字公民从“两方”契约论迈向了“三方主义”理论。基于平台化的社会运行模式,以往那种“政府—公民”“公权力—私权利”的二元架构,转向了“政府—平台—用户”“公权力—私权力(权利)—私权利”的三元架构,并承载着新型的数字治理关系。迅猛崛起的商业平台日渐凸显出公共基础设施属性并扮演“守门人”角色,法律法规也设定了平台的主体责任和平台内治理权力。平台“控制着数据资源的供应、分配和使用权力以及规则体系,能够主导和影响公民的行为模式”, 14 从而成为一种具有社会权力的公共治理主体。平台的内容审查和封禁行为等,不仅仅是基于合同之约,也具有某种公法意义和后果。此时,用户权利不再简单属于私域范畴,而是添附了公域特征,故而可被视为数字公民权利的合理延展或者“准公民权利”,适用公法与私法的双重规制。

3.公民理论观的时代转向

在漫长的公民理论发展进程中,先后形成了“自由主义公民”“共和主义公民”“社群主义公民”“多元主义公民”等不同理论模式,但这种基于工商逻辑、物理时空观和生物人属性的界分,遭遇到了当代数字逻辑的严峻挑战。

首先,数字公民身份的内在张力凸显。数字时代的一个重要特征,是在传统自然公民身份的基础上孕育孪生了数字公民身份,以适应“虚实社会”的公共生活。数字公民身份既是匿名性的,如微信昵称,也是可视性的,如数据画像、身份拼图;既是流动性的,如数字公民可以上网无界畅游,又是属人性的,如数字公民最终能够归于自然公民的国籍身份;既是多元异质的,表现为网络舆情中时常见到的价值撕裂、个体极化,又是同质强化的,表现为同者汇聚、排斥他者。这些都是各种传统公民身份理论所未曾面临的问题。

其次,传统技术“为现代性提供了物质框架”, 15 而信息技术则瓦解了这一物质框架,国家治理和社会治理也由此转换为数字治理样态。数字政府与数字公民的关系构造、行为模式、运行机制等,都需依托于平台、数据和算法,这就赋予了“公域—私域”“公权力—私权利”以新型的数字属性和数字形态,演绎着数据利用和权利保护、算法行政和数字民主、平台功能与规制逻辑等数字逻辑。这些公共的、社会的和私人的数字权力和数字权利,会随着多元化、场景化的数据确权而呈现出边界流动性。

最后,工商业社会的价值核心是针对身份、财富、机会、条件等的分配正义,但进入数字时代后,数据和算法成为调配各种资源、塑造社会秩序的关键要素和重要力量,自然主义的分配正义就转向数据主义的计算正义。数据主义的计算正义需要处理的核心问题,是数据信息在何种意义、范围和程度上可以被处理利用和分析计算,又在何种价值、功能和尺度上应当予以规制、平衡和保护;其旨在厘定数据利用、算法决策和平台运行的正当性、合理性,确立数字身份、数字行为和数字关系的正义尺度,并成为处理数字政府与数字公民关系的价值原则。立足数字正义的公民理论,突破了公民身份理论的传统框架。数字正义基础上的公民观是立足数字身份和数字关系、强调数字自主和数字权利的数字主义公民观。它不同于立足个人主义、自由主义精神,强调个人权利和自由的自由主义公民观;不同于立足公民德性和共和主义精神,强调政治认同、公共参与和责任伦理的共和主义公民观;也不同于立足社群连结与文化共生价值,强调多元包容、共同体意识的社群主义公民观和多元主义公民观。

综上,数字公民是自然公民的数字化身与数字表达,承载着数字公共生活中的公民身份、行动逻辑和权利义务关系。数字公民的理论重建,将为数字法治政府建设提供重要的理论支撑和价值指引。

二、数字公民的机制性游离

从世界范围来看,各国数字政府建设大致都经历了一个从单纯地提供信息和服务,到实质性地推动公民参与和有限互动的“数智治理”的转变。 16 这期间,大众的数字公民身份也因获得政策和制度支持而日渐发展。然而,目前联合国和大多数国家对数字公民的支持规划多为政策性、战略性确认,而并非伦理上、制度上的确认;更多是基于对自然公民立场的感知和承认,而并非基于对数字公民属性的理解、确认和保护。这必然会使数字公民的发展遭遇一些曲折和困难,其中十分突出的就是数字公民的“机制性游离”倾向。具言之,基于数字技术应用所形成的一种生成性、持续性、系统性的潜在机制,造成了数字公民的身份减损和权利流失,加剧了自然公民与数字公民之间的异在状态,甚至使数字公民身份成为诱导和控制自然公民的技术手段与途径,而非自然公民的数字赋能延展和数字实现方式,这明显有悖于数字时代的发展要求和数字社会的秩序需要。

(一)平台构架中数字公民的边缘化

随着数字政府日渐成为行政主导形态,建立在启蒙精神基础上的近代行政模式也开始发生深度变革与总体转型。近代政府是在政府与公民的契约关系和政治逻辑中展开的,它要承担起保障公民的生命、财产、自由和安全等宪法义务。随着从数字政府1.0到数字政府3.0的迭代变革,数字技术开始重塑政务架构,形成新型的数字治理模式,并将政府与公民之间的政治契约转换为服务契约。与以往的政府中心主义的行政架构不同,平台型政府通过提供稳定和开放的场所,以及规则、技术、信息、服务等基础性组件,“吸引、召集、撮合、协同和监管多元主体共同合作参与公共行政”, 17 进而为公民提供便利服务,实施敏捷治理。在此过程中,政府主要扮演中间角色,服务于双边主体。相应地,这就构建起了平台主体(政府部门)、供给主体(服务商家)、需求主体(公民用户)之间的三方关系。例如,市民在阿里云计算平台上可以像逛淘宝一样办政事,政府网站也能接受支付宝在线支付缴费等。

平台型政府新模式不再把政府视为提供公共服务的“自动售货机”,而是一个为人们提供多种选择的“开放集市”,这意味着政府将从积极的干预性角色变换为消极的中立性角色。平台型政府新模式旨在消减监管层次结构,改变全能主义的管控策略,促进公民的自我表达和交往互动,增进政府与民众的良性互动,以提升政府决策的科学化和民主化水平。数字政府的建设目标包括三方面:一是政府业务的数字化,具体体现为“一网通办、一网通管、一网协同”“掌上办”“指尖办”“最多跑一次”等形式;二是行政行为的数字化,如“互联网+”监管、穿透式监管、“双现”执法等;三是执法机关的数字化,即推动传统的“物理机关”向数字化、脱域化、无形化的方向发展,实现机关数字化运行、数字化协同等。这样,在数字政府建设进程中,就形成了公共服务提供的泛在化、政府存在的“弥散化”走向。 18

数字政府的平台化构架带有复杂的两面性,它固然受益于技术赋能而实现了机制创新,但也带来了数字公民的边缘化、无力化等问题,而这无疑有悖于数字政府建设的价值取向。

首先,在平台型政府的开发设计过程中缺少公民参与。平台型政府的设计开发,只是政府与技术公司之间发包/承包的双方合作,即便是“众包”,也无法为政府与公民提供太多的互动参与、权力共享、“联合生产”的机会。并且,政府与技术公司的合作也主要由政府控制,企业容易把政府的需求置于首位而忽视公众的需求,政企合作中还可能存在寻租等现象。

其次,公民在平台型政府的议程中参与不足。平台型政府的初衷是基于服务性、中立性、双边性和数字性构造,为各主体的交互合作和创新发展提供信息与服务供给,进而开拓出利用互联网和移动程序支持公民参与的新方法。然而,这些开放性、多中心的互动,更多地存在于公共服务领域,在政治参与和数字民主方面鲜有拓展。 19 从实践效果看,人们所期待的那种互动讨论和政策参与,尚未在政府议程中同步生成。 20 域外的相关经验也表明,由于“缺乏实质性的制度保障以及政府的引导与激励,数据本身难以直接作用于政府与公民的联系与互动,

导致公民参与形式大于内容”。 21

最后,公民无力对数字化行政进行监督。平台型政府的数字化行政带来了更优效能,但也造成了政府公务人员与公众的隔离。基于平台的中立性、双边性、数字性,在数字化行政的过程中,可能出现官员不作为、假作为、懒作为、乱作为等问题。对此,数字公民往往处于无可奈何的境地。 22

(二)算法决策中数字公民的离场化

在“算法为王”的时代,自动化行政旨在推动行政权力运行过程的信息化、数据化和自流程化,以提高行政效率和行政精准性,减少自由裁量的人为因素,最终形成基于数据和算法的权力监督及技术控制体系。在自动化行政的算法决策中,潜在着数字公民的离场化问题,这具体表现在以下方面。

其一,算法决策中的相对人缺席。自动化行政主要通过行政决策要素数据化、行政规则程序代码化、自由裁量建模化等方式,将行政决策过程转换成数据信息的计算过程,实现对“人”之决策的过程替代。表面上看,被替代的对象既包括行政执法人员,也包括行政相对人,决策过程被交付给客观、中立的算法,但在事实上,被替代的主要是相对人。因为交给算法的这套程序是在行政机关的主导下设计完成的,很少有行业专家、公民代表和其他社会主体参与其中,难以切实贯彻和嵌入权力制约原则。与此同时,算法并非绝对中立,算法黑箱、算法偏见、算法滥用、算法错误等,都是人所共知的技术风险。这就意味着,在形式合法性方面,难以保证算法决策恪守法律法规的要求;在民主过程的正当性方面,算法决策的“逻辑隐层”和“数据壁垒”将导致公众的知情权、异议权和建议权落空。 23

其二,算法决策中的权利减损。算法行政过程是一个机制再造和制度重塑的过程,大量的行政要素和规则,会经由数据处理和算法运用被转化进入自动化决策系统。这一转换过程中,数据清洗标注、知识图谱绘制、参数设置、算法建模、训练校正、应用示范等环节,都难免受到政府规划设计的价值偏好、本位利益的影响;而对于行政原则、法律规则、自由裁量等的代码转化,也大多都是基于行政机关的立场和价值判断进行的。于是,这些算法决策系统通常会在有利于公权力运行的条件下进行目标压缩、程序简化和技术改写,进而导致行政法治和公民权利遭遇耗损和克减。

其三,算法决策中的互动消解。算法决策是一种“无人干预”的自动化行政过程,它虽然提高了执法效率,但行政相对人难以面对面地见到执法者,无法及时进行陈述、申辩等互动对话,执法人员也做不到因事制宜地灵活处置,即便是行政相对人的事后陈述、申辩,也难以对抗“机器执法”。这样就产生了裁量判断、执法监督等方面的难题, 24 有悖于数字政府建设的初始目标。

其四,算法决策中的规制失衡。算法决策是一种非人为的、不可见的、闭环性的技术化操作,它已经脱离了传统行政环境,难以受到监督和控制,也难以成为复议和诉讼的对象,这必将导致行政法上的正当程序原则被悬置或掏空,救济渠道也将出现某种程度上的失灵。如果不能有效约束和规制算法决策,其“极有可能会侵蚀,甚至取代法律对行政的控制,导致所谓

‘法律的统治’异化为‘算法的统治’”。 25

算法决策中的相对人缺席、权利减损、互动消解和规制失衡,犹如一个“电子围墙”,切断了数字政府和数字公民的直接联系。数字政府的算法决策原本意欲打造出更加客观科学、精准快捷,能够全程留痕的自动化行政模式,从而把执法权力关进“数据铁笼”, 26 实现比传统“制度铁笼”更好的权力约束效果,但其实际运行中反而形成了约束数字公民的“算法牢笼”,甚至致使数字公民被“数字决策系统锁定”。 27 此时,人们面对的并非国家机器,而是“非个人的、不透明的算法系统”。 28 公共生活的严重异化,无疑值得认真对待和深刻反思。

(三)数字控制中数字公民的对象化

数字身份的异在“镜像”使人们获得了跨越物理时空、突破生物限度的数字行动能力,也带来了数据处理者识别析出“数字人”,进而操控“生物人”的社会风险。应当说,任何时代都存在社会控制,但既往社会中的控制主要是基于制度形式和物理/生物手段,属于人们可以切身感受的即时情境。进入数字时代后,数据、信息和算法开始打破传统的秩序形式和机制构造,超越于物理性、生物性、外在性的控制方式,创造出数字性、虚实性和内在性的新型数字控制形态。这固然实现了传统社会难以想象也无法做到的敏捷治理,但也带来了严重的负面问题。

1.监控采集上的对象化

在当今数字社会,无论人、物、事,还是交往、关系、流程,都处于加速数字化的进程之中。面对数字机关、自动化行政和在线政务服务,社会公众都需要进行必要的身份认证、信息提供、信息交互等;交通出行、社会治安、食宿娱乐、社区治理等日常生活领域,也建立起了全场景、全天候的电子监控环境和网格化治理体系。“在我们的世界里,信息哨兵纵横交错。” 29 政府和网络平台掌握着数据和技术的控制权,“公民和用户则是数据的生产者和依赖者”。 30 人们成为被无感监控和数据采集的对象,既是数据生成和汇集的来源,也是信息处理和利用的基础,但人们自己却不在自己的掌控范围内。监控采集在越来越普遍、越来越日常化的同时,也具有了潜在的目标指向或者暗示功能——“通过这种监控收集的数据使我们无法不选择监控者所偏好的选项”。 31 这样,人们渐渐习惯于采用监视者的规则来规范自己的行为并约束自己, 32 监控采集的对象化也会日益加深加重。

2.计算分析上的对象化

数字时代造就的是一种“全信息”社会,生产生活和人的行为都会每时每刻生成数据,并以信息方式来呈现表达、交换利用和创造价值。这既产生了突破物理空间阻隔的“穿越性”,又可以做到计算分析的可视化。事实上,各类分析预测系统、个性化推荐系统、调度决策系统等,基本都内嵌着数据标签和数据画像流程。如果这些“画像”没有边界、不受约束,人们的身份数据、关系数据、行踪数据、财产数据、情感数据等,就会被以各种方式和途径归集在一起,成为被观察、分析和透视的特定对象,数字公民也将由此变成“可以用数字计算的人”。 33 原本模糊难测的身份、关系、特性和行踪,经过计算分析后可以瞬间变得清晰透明,而本人却对此毫无察觉。掌握数据和算法的信息处理者,可以采取“隐身”的方式对生活中的人、事和物随时进行“技术围猎”,而具有目的理性的人则沦为了“科学技术的俘虏和数据统治的工具”。 34

3.感知控制上的对象化

在以往的社会生活中,人们主要靠社会观察、亲身体验、对话交流来感知世界、认识世界。进入数字时代后,日常生活中涌现出海量的数据和信息,让人们应接不暇、难以取舍;人们亲身体验、直面交往的比例在不断降低,远程临场、在线互动的方式日渐增多。微信、微博等渠道,成为人们获取信息、接触社会、认识世界的主要渠道,“信息投喂”现象也悄然产生。信息投喂可能是比数据偏见、数字鸿沟、算法歧视更为严峻的问题。具言之,新媒体与数字平台的信息分发已经成为一种权力行为,它通过信息过滤和个性化推送形成信息茧房,限定人们的信息可见范围、偏好角度和观察窗口;它给特定对象呈现的是一个筛选后的“片面”世界,是一个想让特定对象看到的世界,而特定对象却以为其看到的是真实完整的世界。信息投喂以技术方式悄然影响人们的体验、认识和判断,通过控制人们对世界的感知来行使权力,其实质是用“一种稳定且广泛的能力去让其他人去做那些他们从前不愿意或者做不了的事情,或者是不去做他们原本会做的事情”。 35 例如,在美国总统大选中,脸书、推特等平台公司,利用数据画像和个性化推送操纵选民的意识和行为, 36 英国脱欧决策过程中也发生了一场“新型政治形态革命”。 37 凭借数据分析和算法系统,设计者能够根据其目标偏好对社会结构、权力关系等进行编码、解释和分析,然后再将结果输送回社会,从而深刻影响社会的运作方式, 38 人们也由此变成被“感知控制”的对象。

4.自动执行上的对象化

以算法决策为核心的自动化运行机制,既应用在执法、司法领域,也应用在商业治理领域。当算法部分或全部替代人类,成为发出指令和进行决策的“主体”时,数据所有者、企业决策主体、劳动主体就将失去一定程度的控制权,算法决策也将演变为“算法操纵”,至少是“通过算法的控制”。例如,在“北斗掉线案”中, 39 “自动化技术压缩了法律保护的个案正义和基本人权,排除了自由裁量、个性化和说明理由”, 40 其间并没有行政相对人提出异议的机会,民主参与和监督机制明显缺位;早在2019年,亚马逊公司内部的AI系统就可以追踪每一名物流仓储部门员工的工作效率,然后自动生成解雇的指令;2021年,俄罗斯在线支付服务公司使用算法判定哪些员工“不敬业、效率低下”,并辞退了147名员工。 41 在行政决策的过程中,当原来的“人—人”关系,转化成“人—机—人”关系,就很容易造成相对人的“物化”,并带来严重的负面后果。

在人的主体性及其异化问题上,弗洛伊德、荣格、弗洛姆等分别分析了“无意识”“集体无意识”“社会无意识”等深层心理机制;马尔库塞则更深入地剖析了发达工业社会的单向度发展,他认为发达工业社会以表面上的“自由”剥夺了实质上的自由,使人们成为“单向度”的被驯服的公民。 42 进入数字时代后,普通民众成为不懂技术的单一数据生产者,而政府、技术公司和平台企业则成为掌握技术的数据处理者。这些数据处理者确实能够为民众提供高效的公共服务、便捷的消费环境和沉浸式的娱乐体验,但由于数据的边界不清、权属不明、规则不足,大量的数据处理和建模计算过程不公开、不透明、不可解释,普通民众深陷“被处理者”地位和数字控制环境之中。特别是那些“提前知、提前控、全程知、全程控”的数智治理体系,以及它所具有的“望远镜”“显微镜”“雷达”等数智治理功能,置民众于无处可避的“裸奔”境地,使之成为比“单向度”公民更无力、更脆弱的“单向透明人”。更为严峻的是,一旦人们对数据处理者提供的数字化、自动化机制产生了用户的黏性依赖,社会之中就会建构起一个“没人能够逃离的电子牢笼”, 43 并形成潜在的数字强制。由此看来,“以数据为基础的治理技术如何改变了人之为人的本质”, 44 确实需要深度拷问。

(四)技术赋权中数字公民的失能化

网络化、数字化、智能化对人类的生产生活进行了全方位的数字赋能和技术赋权,打破了原来的物理时空限制,使人们获得了前所未有的远程临场能力、基于数据和算法的可视分析能力,以及精准敏捷的决策能力等。但是,该过程中也出现了数字公民的“失能”问题。

1.赋能赋权的明显失衡

平台是各个领域进行数字赋能的主要载体和重要渠道,商业平台可以做到“赢者通吃”,政府平台可以做到“穿透式监管”,它们都拥有巨大的赋能空间,而用户(公民)则缺少获得赋能的条件和机会。与此同时,信息革命改变了工商业社会的秩序构造,释放出巨大的虚拟空间“飞地”和数字发展红利,形成了一种技术赋权。公民虽然是这种技术赋权的受益者,能够享受便捷高效的数字生活,获得网络访问权、数据携带权、虚拟财产权等,但很难有机会参与到数据处理和算法决策的过程中。无论在数字赋能,还是技术赋权的过程中,相对于作为数据处理者和算法掌控者的平台企业和数字政府而言,公民个人都是明显弱势的一方。

2.数字鸿沟的多维呈现

数字鸿沟并不仅仅是老龄群体可能遭遇的问题,理解和接受能力较强的社会群体也有可能遭遇数字鸿沟。数字鸿沟也不仅仅意味着不会操作数字设备、不熟悉数字途径和方法,它还包括生存能力、公共参与能力等受限。数字发展不平衡可能导致出现年龄鸿沟,也可能导致出现阶层鸿沟、地域鸿沟甚至国别鸿沟。赋能赋权不平衡可能导致数字生存鸿沟、数字参与鸿沟、数字发展鸿沟等的产生。例如,智能机器人替代人类劳动可能引发大量失业,甚至形成“无用阶级”和“数字弃民”;在数字技术越来越先进、基础设施越来越齐全、参与方法越来越多的数字治理过程中,实质性的深层政民互动、合作治理却并不多见。总之,数字赋能、技术赋权的失衡,可能对数字民主参与和数字公民权利带来方方面面的实质性负面影响。

3.数字公民的“失能”风险

公民身份和公民权利是现代法律体系构架下的制度安排。权利能力和行为能力是人们进入社会生活的前提条件和基本保障,它们反映着人的生物属性。如今,人们在生物属性之外又获得了数字属性,参与社会生活的条件和环境也发生了深刻变化。尤其是数字生存鸿沟、参与鸿沟、发展鸿沟等的出现,使人们原有的权利能力和行为能力受到严重侵蚀,如果缺乏新的数字能力,公民的权利能力和行为能力就不足以应对和解决数字社会中的生活参与和生存发展问题。这种“失能”并非由人的生物属性不足所致,而是由技术赋能赋权失衡带来的数字属性欠缺所引发。正因如此,联合国和许多国家相继提出旨在提升公民数字素养的项目规划,我国也适时提出了“提升全民数字素养”的战略任务, 45 致力于培养公民的“第三种能力”,强化公民的数字公共参与,使其有能力共享数字发展红利。

(五)技术理性中数字公民的去人化

近代以来,人们相信科学、崇尚民主,技术理性成为现代性发展的根本动力之一。然而,技术理性的过度膨胀也引发了异化现象。 46 数字化发展趋势表明,AI系统有可能替代大量的人类体力劳动,算法决策也会替代相当部分的初级脑力劳动。此种“机器替代”还只是简单的、直观的“去人化”,其实质是一种生产生活的自动化,而深层的、值得警醒的去人化,则是计算逻辑和技术理性的泛化。

浪漫主义的技术观,包括技术中立论、技术至上论、技术万能论等,认为机器会从发挥对人类的增强、辅助作用,逐渐演化为发挥认知主体的作用,即机器将从“认识论的边缘”逐渐走入认识论的中心。 47 还有一些思潮,展望和期待着人工智能超越人类的“奇点”的来临。这些观念在无形中抽离了价值判断,忽视了人类伦理。技术工具主义、技术实用主义、技术功利主义等倾向,过于相信和依赖数字技术手段来解决问题,造成了数字技术的滥用、误用和恶用。从日常生活的智能化到情感计算的“读心术”,从个性化推荐服务到“电子围栏”和“数字截访”,那些防不胜防的数据收集、没有节制的数据画像、贪婪逐利的信息茧房、高度泛化的监控预测和预警处置等,不仅“增加了个人隐私和公共部门信息泄露的风险,也恶化了社会治理的碎片化问题”。 48

在数字时代,人类世界植入了计算机逻辑,它能够做到高效、客观、精准,但这毕竟只是“一种无须满足任何更多的条件即可生成‘是’与‘否’的二元选项的机器”。 49 如果电子交警“识别违章”即开罚单而不管违章是否为了避让更大的危险,人们就难以感受到人间的温度。一旦把所有领域的所有问题都尽量交给机器来处理,就会出现一种“互相按对方的按钮”的机械环境。 50 为此,联合国教科文组织、欧盟等的相关文件或法案均提出倡议,在涉及人类生命、自由、人权等核心生活领域,应该设置人与人的互动环境,至少在算法决策和机器处理过程中要有人类监督。

数字公民的机制性游离,对公民的平等自由、基本权利和民主法治价值形成了严峻挑战。客观来看,它是全球数字化转型中的一种普遍现象,是迈进数字社会进程中因利益格局重建而引发的系统性挑战。进言之,其根本上乃是数字化转型中数字技术发展不平衡、数字利益不对称、数字权利边界不清晰的必然结果,是数字法治建设尚不成熟、尚不完善的副产品。因此,数字公民的机制性游离在总体上属于前进中、发展中的问题,需要通过更深入地推进数字法治来加以解决。

来源:《法学研究》(本文为文章摘录版,如需引用,参阅原文)

文献数据中心|DATA CENTER

© 2009-2024 吉林大学理论法学研究中心版权所有 请勿侵权 吉ICP备06002985号-2

地址:中国吉林省长春市前进大街2699号吉林大学理论法学研究中心 邮编:130012 电话:0431-85166329 Power by leeyc