哎呀呀我来了 [樓主]
級別:騎士 ( 10 )
發帖:426
威望:433 點
金錢:53913 USD
貢獻:1200 點
註冊:2025-03-20
|
第三章
技术与支配。
在人工智能的许诺光照下看人类的伟大
在回顾照亮社会训导的原则之后,我现在愿把注意力集中在若干深刻塑造我们今日生活方式的挑战上。伴随这些反思的圣经图像,是一项建筑工程。一方面,有巴贝耳塔;在那里,集体努力遵循一种支配人的计划,最终使人失去人性(参 创 11:1-9)。另一方面,有耶路撒冷的废墟;在乃赫米雅的带领下,它作为共同责任的工程,被一块一块地重建起来(参 厄下 2–6)。我们受召反思我们时代的巨大“工地”,并询问:我们正在建造什么?当技术发展迅速改变语言、关系、制度和权力形式时,我们这些信徒必须、也能够选择参与哪些工程,并以何种方式参与,好能守护并珍视那作为恩赐赐给我们的人类伟大。这不仅是关乎未来的选择,也关乎我们的当下,因为人工智能和其他新兴技术已经成为我们日常生活的一部分。
我深信,在福音光照下具体活出社会关系的方式,并非一次而永远地确立,而是一个托付给基督徒团体、由一代又一代承担的任务。在圣神引导下,教会让自己受天主圣言光照,辨读时代的征兆,并以创造力寻求新的道路,使民族与民族、国家与国家之间的关系,越来越符合天主国的要求。118 因此,我鼓励教会全体成员,不要害怕当前的挑战,而要彼此聆听,并坚定承担自己的责任,共同建设一个更有人性、更具兄弟情谊的社会。
技术治国范式与数字权力
在通谕 Laudato Si’ 中,方济各教宗谴责了在我们全球化世界中日益扩张的技术治国范式119的支配:也就是倾向于只让效率、控制和利润的逻辑来塑造个人、社会和经济决策。这清楚表明,技术并不只是工具。当技术成为判断一切的标准时,它便开始规定什么重要、什么可以被丢弃,把受造界降为剥削的对象,把人降为系统中的齿轮,而这个系统则被驱向越来越高的效率。
近年,这一范式迅速扩展,部分是由人工智能、认知科学、纳米技术、机器人技术和生物技术的发展所推动。这些创新本身能够大大服务于全人发展,并有助于照料我们共同的家园。然而,正因它们具有强大能力,也可能加速技术官僚范式的扩张,因此需要一种新的灵修、伦理和政治框架。拥有更大的能力,并不必然意味着更好。在这方面,罗马诺・瓜尔迪尼的话依然切中时弊:“当代人并未受过善用权力的训练。” 120
人类有可能成为自身成就的受害者,这一危险早已为圣保禄六世清楚认识到。他曾警告说:“最非凡的科学进步、最惊人的技术成就和最令人赞叹的经济增长,若没有真正的伦理和社会进步相伴,长远而言终将反过来损害人。” 121 因此,技术进步本身虽有价值,却需要我们审慎辨明:引导它的人观是什么,它所追求的目的又是什么。若技术发展没有相应的伦理和社会进步相伴,其结果可能只是手段的增加,而非人性的成长:只是“拥有更多”,却没有“成为更多”。在这种情形下,人有可能主要按其产出的结果来被评价。122
在此,我们也必须承认另一项关键事实,我先前已提及。在数字环境中,许多情况下,对平台、基础设施、数据和算力的控制,并不掌握在国家手中,而是掌握在大型经济和技术行动者手中。这些实体实际上设定了进入的条件,决定了可见性的规则,并塑造了参与本身的可能性。当这样的权力集中在少数人手中时,往往变得不透明,并逃避公共监督,从而增加发展形式被扭曲的风险,导致新的依赖、排斥、操控和不平等。
面对数字世界中这种权力集中,教会社会训导的崇高原则,正是我们在这一新处境中作出判断和辨明的准则:人的不可剥夺尊严、公益、财物的普世用途、辅助性原则、连带和社会正义。这些原则要求我们评估:数字基础设施和算法的权力,是否真正促进参与和责任,是否保护脆弱者,是否保障人们公平获得机会,并始终指向众人的善益。在此基础上,我们现在可以更仔细地考察人工智能是什么,它开启了哪些可能,又带来哪些风险。
人工智能
我在此无意对人工智能作全面论述,也无意概述相关的大量文献,因为已有权威贡献存在,其中也包括教会领域内的贡献。123 我只愿回顾若干基本要点,以便进行伦理和社会辨明,维护人的首要地位,确保技术创新始终由具备良心与自由的人类智能来引导,并由它负责任地决定其用途和限度。
在展开讨论之前,宜先提出两点考虑。第一,鉴于这些系统发展的速度极为惊人,任何关于人工智能的论述都有迅速过时的风险。第二,我们所有人,包括设计这些系统的人,对其实际运作也只有有限的理解。事实上,现今的人工智能系统与其说是被“建造”出来,不如说是被“培育”出来;开发者并不直接设计每一个细节,而是创造一个框架,使这种智能在其中“成长”。因此,一些根本的科学层面,例如这些系统的内部表征和计算过程,目前仍属未知。由此便产生一种迫切需要,要求我们作出双重努力:一方面深化科学研究;另一方面实行伦理和灵修上的辨明。
我们不可能为人工智能提供一个单一而全面的定义。然而,可以肯定的是,我们必须避免一种误解:把这种“智能”等同于人的智能。这些系统只是模仿人类智能的某些功能。在这样做时,它们往往在速度和计算能力上超过人的智能,并在许多领域带来切实益处。然而,这种能力仍完全系于数据处理。所谓人工智能并不经历经验,没有身体,不感受喜乐或痛苦,不通过关系而成熟,也不能从内在认识爱、工作、友谊或责任意味着什么。它们也没有伦理良心,因为它们不判断善恶,不把握处境的终极意义,也不为后果承担责任。它们可以模仿语言、行为和分析能力,甚至可以模拟同理心和理解,但它们并不理解自己所产生的内容,因为它们缺乏人借以在智慧中成长的情感、关系和灵性视野。即使这些工具被描述为能够“学习”,它们学习的方式也不同于人。那并不是人的经验:人让自己受生命塑造,并在时间中借着选择、错误、宽恕和忠信而成长。相反,那是一种基于数据和反馈的统计性适应,可能非常有效,却并不意味着内在成长。
一种需要警醒看守的宝贵工具
按照以上所说,我们便能更好理解,为什么人工智能可以成为宝贵工具,同时又为什么要求我们采取审慎而警醒的态度。近年,它在私人使用上的扩展十分显著,促使人们越来越多反思它所提供的机会,以及它迅速传播所带来的风险。在个人使用方面,尤其有三点值得认真考量:取得结果的容易程度、客观性的印象,以及对人际沟通的模拟。人们能够迅速而简便地获取信息、复杂分析、媒体内容和实际协助,这无疑使生活更为便利。然而,这也可能助长过度依赖和寻找现成答案的倾向,并削弱个人的创造力和判断力。这些系统所提供的回应和建议看似客观,可能使我们忽略这样一个事实:它们反映了设计者和训练者的文化预设,其中既有长处,也有限制。对积极人际沟通的人工模仿,如劝告、同理、友谊甚至爱的言语,可能引人投入,有时也确能提供帮助。然而,对辨识力较弱的使用者来说,它也可能造成误导,使人产生一种错觉,以为自己正在与一个真实的位格主体建立关系。当言语只是被模拟出来时,它们并不建立真正的关系,只建立关系的外貌。对关怀或支持的人工模仿,一旦进入缺乏真实关系和情感纽带的处境,就可能变得尤其危险。在这里,危险并不主要在于一个人可能相信自己正在与另一个人交流,而在于他可能逐渐失去建立真实人际联系的愿望本身。
若把视野扩展到人工智能在社会中的使用,我们会看到,它如今已嵌入许多部门、多个层级的决策过程之中:在传播、管理和控制中皆是如此。效率的提升,以及改善某些服务的潜力,是清楚可见的;然而,迅速而不加批判地采用这些系统,也使我们暴露于一系列风险之中,其中包括忽视其环境影响的倾向。现今的人工智能系统需要巨量能源和水资源,对二氧化碳排放产生重大影响,并对自然资源造成沉重需求。随着其复杂性增加,尤其是在大型语言模型的情形下,对算力和储存能力的需求也随之增长,这就需要庞大的机器、线缆、数据中心和高耗能基础设施网络。因此,发展更可持续的技术方案至关重要,以减少环境影响,并帮助保护我们共同的家园。124
人工智能的责任、透明度与治理
人工智能的使用绝非纯粹技术问题:当它进入影响人们生活的程序时,便触及权利、机会、地位与自由。有关就业、信贷、公共服务的取得,甚至一个人名誉的重要而敏感的决定,可能被完全交托给自动化系统;这些系统并不认识“怜悯、慈悲、宽恕,尤其不认识人能够改变的希望”,125 因而可能产生新的排斥形式。显然,有些用途本身有害,例如操纵信息或侵犯隐私。然而,也有一种更隐微的危险:当人工智能系统以中立、客观自居时,最终却会反映并强化其设计者和开发者的成见或意识形态偏向。
事实上,若在实践中把选择谁配得、谁不配得的权力交托给算法,而没有任何人为这一判断负责,这就是把重新界定人类可能性边界的任务拱手让出。在这一过程中,失去的不只是对被排斥者的同理心,因为同理心毕竟可以被模拟;政治责任也随之丧失。脆弱者被排斥,却披上一层中立与客观的外衣,使人难以提出异议。如此,不义便不再被察觉;怜悯、慈悲与宽恕若被理解为真实的政治行动,而非仅仅表面的姿态,也会逐渐从视野中消失。
由此产生一个简单却有力的结论:我们不能把人工智能视为道德上中立的事物。事实上,每一种技术工具,都会借着它衡量什么、忽略什么、优化什么,以及如何分类人与处境,体现某些选择和优先次序。若一个系统的设计或使用方式,把某些生命视为较不配受尊重,或在没有申诉可能的情况下将他们排除,那么它就不只是一个“可善用”的工具,因为它已经引入了违背人不可让渡尊严的标准。因此,伦理分辨不能只限于询问我们是否把一个系统用于善的或恶的目的;也必须审视这个系统如何被设计,以及指导它的数据和模型中,嵌入了怎样的人观与社会观。126
若要使人工智能尊重人的尊严,并真正服务公益,就必须在每一个阶段清楚界定责任:从设计和开发这些系统的人,到使用这些系统并依靠它们作出具体决定的人。然而,在许多情况下,产生结果的内部过程仍然不透明,使责任归属和错误纠正更加困难。正是在这里,问责显得至关重要:必须能够辨认谁应为决定“交账”、说明理由、加以监督,并在必要时提出质疑,补救所造成的损害。127
呼吁谨慎、严格评估,甚至在某些时候放慢采用人工智能的步伐,并不意味着反对进步;相反,这是对人类大家庭负责任的关怀。鉴于技术增长的速度,常常与意识、规范、保障措施以及足以治理其影响的制度之发展较为缓慢之间存在失衡,这一需要更为迫切。仅仅抽象地诉诸伦理是不够的;还需要坚实的法律框架、独立的监督、有充分认识的使用者,以及一个不放弃自身责任的政治体系。否则,变革将只由技术官僚思维支配,并被呈现为必要且不可避免,最终强加由掌控数据、基础设施和计算能力者所塑造的规则。
我们不能只满足于呼吁机器道德化,即所谓使人工智能与人类价值“对齐”,却没有勇气坚持另一个进一步的条件:必须能够公开讨论其中涉及的伦理框架,并使之接受社会正义的共同标准。否则,掌控人工智能的人将强加他们自己的道德愿景,而这愿景将成为这些系统看不见的基础设施。若这种道德由少数人决定,那么更具道德性的人工智能仍然不够。所需要的是更积极的政治参与:当一切都在加速时,政治必须有能力使之放缓;并保护各团体仍能参与和发问的机会。
事实上,正如每一次重大的技术转变一样,人工智能往往会扩大那些已经拥有经济资源、专业知识和数据取得能力者的权力。按照公益和财物的普世用途来看,这引发严重关切;因为人数很少却影响力极大的群体,可以塑造信息与消费模式,影响民主进程,并为自身利益引导经济动态,从而损害社会正义以及各民族之间的连带。因此,人工智能的使用,尤其当它触及公共财和基本权利时,必须由清楚的准则和有效的监督来引导,并以参与和辅助性原则为基础。团体和中介组织不应被贬为被动接受别处所作决定的对象;他们必须能够参与分辨和监督。此外,数据的所有权不能只留在私人手中,而必须受到适当规管。数据是许多参与者共同产生的成果,不应被视为可以售卖或托付给少数人的东西。我们必须以创造性的方式思考,如何以参与的精神,把数据作为共同或共享的财来管理,正如圣若望保禄二世论及集体财时已经提示的那样。128
社会训导的原则,为理解这一新现实提供了框架。在一个数据、计算资源和规管影响力仍掌握在少数人手中的世界里,谈论公益,就意味着揭示这种新的知识、经济和政治不对称,并指出人工智能的新垄断。谈论财物的普世用途,就意味着寻找途径,确保人人都能取得技术,以及使用这些技术所需的教育。谈论辅助性原则,就要求保护各团体作出选择和修正的能力,而不是把他们的角色局限于标准已在别处制定之后的事后监督。谈论连带,就迫使我们承认那些支撑算法系统、却常被剥削的隐形劳动者。谈论正义,就要求我们追问全球权力如何分配:究竟谁事实上能够训练这些模型,谁又只是被这些模型所支配。同样,这也意味着承认,社会正义不只是技术部署之后需要维护的目标,而是从一开始就必须塑造其设计本身的条件。
最后,我愿使用“解除武装”这个我十分珍视的表达。解除人工智能的武装,意味着使它摆脱“武装”竞争的心态;这种心态今天并不只限于军事领域,也是一种经济和认知现象。它表现为竞逐更强大的算法和更庞大的数据集,其动力来自确保地缘政治或商业支配地位的欲望。解除武装,意味着否定这样一种假设:技术能力会自动赋予治理的权利。解除武装并不是拒绝技术,而是防止技术支配人类。它意味着使技术摆脱垄断控制,使其向讨论和辩论开放,从而使其有益于人,并把它归还给人类文化与生活方式的多元性。我们今天的任务,不只是伦理的或技术的;在最深意义上,它也是生态的,因为它关系到我们共同家园的一个新维度。人工智能已经是我们身处其中的环境,也是我们必须与之互动的一种力量。因此,仅仅规管它并不足够;它必须被解除武装,成为好客而可亲近的事物。
我愿特别呼吁那些开发人工智能的人。从某种意义上说,技术创新可以代表人参与天主的创造行动。因此,开发者负有特别的伦理和灵性责任,因为每一个设计选择都反映一种人类愿景。正如艺术或文学作品的创作者必须思考作品所传达的价值,开发者也蒙召以应有的严肃态度,把价值嵌入自己的项目之中:保持透明,对受影响的团体负责,并谨慎留意,确保所培育的是真正的善。
不可失去的事物
在思考了人工智能的责任与治理问题之后,我们现在必须回到核心问题:守护我们的人性,究竟意味着什么?风险并不只在于某些技术被滥用。更严重的是,我们身处其中的技术官僚范式,因数字革命和人工智能而被放大,正威胁着使一种反人性的愿景成为常态。在这种愿景中,生命的圆满被等同于拥有更多、减少软弱、消除不确定,并施行完全的控制。当效率成为价值的最终尺度时,人便容易把自己看作一个有待优化的项目,而不是蒙召进入关系与共融的位格。
事实上,把人类存在的任何单一层面提升为绝对,始终是错误的。诚然,失序并不只由匮乏而来;不受约束的增长也会造成贫乏。在一个生态系统中,当某一物种以牺牲其他物种为代价而扩张时,平衡便遭破坏;在人类生活中,当某一能力自命为衡量一切的尺度时,也会发生类似的情形。因此,理智若被绝对化,便会遮蔽生命其他不可或缺的层面,如情感、意志、承担和关系。同样,技术能力若失去平衡,并不会使我们更有能力;反而使我们更孤立,也更容易被支配和排除。指出这一关键点,并不是反对理智,而是提醒我们:当理智只指向自身时,它服务生命和人的真正目的便会丧失。
一个文明的品质,不在于其手段有多强大,而在于它能给予多少照顾,在于它能否承认他者是一张面容,而不只是一个功能。彼此照顾的能力,是我们人性的基本层面;这种能力是在实际生活经验中学习并成熟起来的。给孩子读故事,陪伴老人,把家布置得宜人好客,这些简单举动往往根植于家庭生活。它们教导我们在社会层面珍视照顾,也训练我们承认他人是值得关注的位格。技术也能支持人们之间这种相互照顾,例如提供工具,帮助我们预见并安排事务,同时不损害人的自由和判断。毕竟,人是关系的主体,也要为自己的决定负责。
深层叙事:超人类主义与后人类主义
为了阐明伴随当前数字革命而来的文化预设,我现在愿把我们的注意力转向若干思想潮流;这些潮流把进步理解为超越人的处境,并常被归入超人类主义和后人类主义的名下。这些观点构成某些技术权力中心背后的意识形态背景,并以简化的形式占据集体想象,尤其是在媒体和社交网络中。它们往往借着一种关于“增强的人”或“人机混合体”的未来主义愿景,激发人们对新技术的热情。
超人类主义和后人类主义包含一系列潮流与感受,因此难以用单一而毫不含糊的方式加以定义。它们可比作由若干概念“岛屿”组成的群岛:彼此有别,却又由一片共同预设的“海洋”相连,即技术的核心地位,以及超越人类处境限度的渴望。一般而言,超人类主义设想通过技术增强人类,例如生物医学、身体工程、装置和算法,以提升表现和能力。后人类主义,尤其在其较激进的形式中,则走得更远:它质疑人类中心主义,设想人、机器和环境的混合,甚至预期一个门槛,在那里,人类将在新的进化阶段中超越自身。即使这些观念在很大程度上仍属推测,它们仍因改变集体想象而具有重要性,并由此影响社会、经济和政治选择。129
从教会社会训导的角度看,关键问题并不是技术本身的使用,而是其背后的愿景。若人被视为某种有待完善或超越的东西,便更容易接受某些生命较少有用、较不可欲、较不值得的看法。以进步之名,“必要牺牲”可能开始被合理化;为了追求一种所谓物种优化,重担便落在最脆弱者身上。在这方面,前文提到的圣保禄六世的警告仍极具远见:事实上,科学和技术进步若脱离道德与社会进步,终将反过来危害人类。130 因此,必须作出清楚区分。把技术整合进以人为中心、以关系为本的愿景,是一回事;受一种贬低人类限度、并许诺纯技术形式“救恩”的视野所引导,则完全是另一回事。
限度、心灵与人的伟大
今日,我们与生命的关系似乎正处于危机之中。凡显得像“限度”的事物,如无能、疾病、年老、痛苦、脆弱,往往首先被视为需要纠正的缺陷,而不是一种现实;正是通过这种现实,我们的人性得以成熟,并向关系开放。然而,我们必须记得:人性得以繁荣,并非是尽管有限度,而往往是通过限度。信德之光为我们观看现实提供一种视角,帮助我们认出此世万物所谓的“偶然性”。努力减轻标记人类生命的痛苦,是正当的;同时,承认我们根本的有限性,也是明智的,因为我们知道:“宗教经验,尤其是基督信仰,提出让我们在不过度简化的情况下,活出人类伟大与限度之间的这种双重性,并在我们与天主原初且根本的关系之光中加以诠释。”131
正是在我们的限度之中,下列事物才找到位置:怜悯,对他人需要的真诚关怀;即使在黑暗和失败中仍能涌现的慷慨;灵性经验,以及对天主的敬拜。当我们的限度变得可触可感时,我们在许多时刻看见这一点:当我们面对拒绝,当我们承受所爱之人的疾病或离世,当我们遭遇自己的软弱或失败。奥妙的是,正是在这样的时刻,我们能够发现一种新的智慧,具体经验到他人的亲近,并遇见主的临在。
即使限度被经验为内在痛苦,人类智慧也教导我们不要否认或压抑它,而要把它整合进生命之中。若完全消除痛苦,最终也意味着熄灭爱与渴望。凡爱慕和渴望的人,都无法避免经过考验与痛苦;岁月流逝,我们在内心携带着留下痕迹如同伤疤的教训,那是由自由与失败、梦想与失望塑造的旅程记忆。唯有由于这些因素彼此交织,灵魂的奇妙之事才会在我们内发生,使我们感受到人性的丰厚。132 若以一种自以为超越一切限度之名,放弃这场既悲怆又灿烂的冒险,可能意味着许多事,却不再是人的事。
我们作为受造物的限度所带来的道德败坏,也就是明显搅扰人心的邪恶,会毁坏社会和生命,有时甚至达到极端非人性的形式。然而,即使这些痛苦地显露我们限度的表现,仍为善留下通道。即使人使自己非人化,并造成悲剧,人性之中仍有一线微光继续照耀;借着天主的恩宠,这微光能在皈依与和好的道路上重新燃起。正如维克多·弗兰克尔正确指出的,在恐怖时刻,“我们认识了人的真实面貌。归根到底,人是发明奥斯维辛毒气室的存在;然而,人也是昂然走进那些毒气室,唇边念着主祷文或 Shema Yisrael 的存在。”133
有限性若真正被接纳,并不贬损我们,反而开启我们,使我们认出天主和他人的面容。事实上,正因为我们经验到限度,即脆弱、痛苦和失败,我们才得以认出每一个人不可侵犯的尊严,包括我们自己的尊严,也包括他人的尊严。在同一经验中,我们仍能直觉到一种超越自身的兄弟情谊,并把不义视为一种丑闻。真正的文化与艺术保存这点火花,抵抗邪恶被视为正常。因此,某些作品几乎具有先知性的意义:贝多芬《第九交响曲》可被视为对合一的渴望;Guernica 可被视为对非人化的控诉;Schindler’s List 可被视为呼吁人不要把过去交付遗忘。
历史并不只呈现为人类暴力的记录,也证明人类能够创立制度,保护我们共同的生活。过去两个世纪中,若干具有标志性的成就显示了这一点:国际红十字委员会的创立(1863年),其行动上的中立确保一切人都能得到富于怜悯的照护;促成废除奴隶制的漫长过程,这不仅代表法律上的转变,也代表良知的转化;联合国的成立(1945年)以及 Universal Declaration of Human Rights(1948年),它们为肯定人性尊严的普世性,至少作为共同理想,提出了一种共同语言;还有 1951 Refugee Convention,它承认有责任保护那些逃离迫害和危险的人。在这些事例中,对善的渴望都在公共领域中取得了具体形态,即法律、制度和实践;它们能够限制权力滥用,并保护脆弱者。然而,这些发展无一不是在遭遇抗拒、狭隘利益或文化惰性之后才出现的。道德进步几乎总是经由一段漫长而艰难的旅程展开,并常常伴随挫折。我们只须想到陷入停滞的和平进程,或环境承诺迟迟未能落实。正是这些成就的脆弱性,凸显出那些开启并维系它们之人的责任何等珍贵。
某些事件清楚表明,当个人真正认真看待每一个人的尊严时,历史也能够改变:美国的民权运动与马丁·路德·金的见证密切相连;南非种族隔离制度的终结,则发生在纳尔逊·曼德拉获释之后,以及他决定不把未来交给仇恨之后。在不同处境中,许多勇敢而慷慨的女性也格外突出,包括圣劳拉·蒙托亚、加尔各答的圣德肋撒、桃乐丝·戴、玛丽·斯克沃多夫斯卡-居里、玛利亚·蒙特梭利、伊丽莎白·艾略特、旺加里·马塔伊、贝娜齐尔·布托,以及来自各大洲无数其他女性;她们的委身,帮助历史变得更有人性。
除了这些公共标记之外,还有一段更隐而不显、却具有决定意义的历史。我们在那些选择到贫穷和危险之地服务的修会团体中看见它。我们也在兄弟情谊与正义的殉道者身上看见它,例如圣玛西米连·玛利亚·高比、圣奥斯卡·罗梅罗和真福恩里克·安杰莱利;也在那些于艰难、往往非人道的环境中体现福音的希望与人性尊严的见证者身上看见它,例如可敬者方济各-沙勿略·阮文顺。最重要的是,它显现在“日常生活的殉道者”身上:他们默默无闻地照顾、教育、陪伴和安慰他人,例如父母、护士、医生、志愿者,以及那些陪伴老人或被排斥者的人。他们的见证表明,善并不会自动推进,而需要坚忍、记忆和内在皈依;这些使人即使在失败之后,仍能重新开始。
正是正义制度、可信见证和日常忠诚彼此交织,维系希望,并为科技进步提供清楚方向,使人心不致倒退。因此,人类,连同其伟大与创伤,绝不可被取代或超越。我们可以接纳那减轻痛苦并开启新可能的科技进步,但前提是我们不放弃人性最本质的部分,即建立关系与爱的能力。这引向一个关键问题:若确有一种真正的“超越人类”,它究竟在哪里可以找到?基督信仰回答这个问题时,指向的圆满并非来自科技式的神化,而是来自在基督内领受的天主恩宠。
真正的“超越人类”:恩宠与基督徒人文主义
“超越人类”这一说法,并非科技承诺所独占的领域。数百年来,基督徒传统始终认为,人并不被自身本性的界限所囿限;相反,人蒙召走向自我超越,不是借着逃避现实或轻视自己的限度,而是借着在爱中得到成全。信仰承认人向“彼岸”开放,而这开放源自天主的恩赐。这一转化是圣神的工程。正如圣多玛斯·阿奎那所教导的,这一提升与转化的过程“超越一切受造本性的能力”,134 因为我们有限的本性与天主的生命之间,隔着无限的差距。135 然而,即使我们仍在此世的限度中行旅,仍有可能进入那取之不尽的生命核心。使这一越渡成为可能者,只能是那位自我赐予的永恒者。事实上,正是天主亲自克服这“无限”的不相称。136 在他内,人的再创造得以发生。“谁若在基督内,就是一个新的受造物;旧的已成过去,看,都成了新的”(格后 5:17)。
当我们接纳借着天主恩宠而超越自我的可能时,我们并不是否认自己的本性,也不是变得更不像人。相反,正如教宗方济各所解释的:“当我们成为超越人类之人,当我们让天主带领我们超越自身,以抵达我们存在最圆满的真理时,我们才成为完全的人。”137 这正是与普罗米修斯式梦想的根本分道扬镳:拯救人类的,不是增强了的自足,而是一种使人自由的关系,一种使人转化的共融。在此光照下,一种仅仅把既有现实加以分类和优化的科技,即使并非有意,也可能成为改变与成长的障碍。对算法而言,错误是有待修正的缺陷;然而对人而言,错误可能成为深刻改变的契机。人的未来无法计算,而取决于人的自由,即由天主取之不尽的恩宠所提升的自由,也取决于人所培育的各种关系。
两座城与两种爱
基督徒人文主义并不拒绝科学或科技,而是怀着感恩与现实精神接纳它们,并把它们安置在更高的召叫之内。人类的创造性智慧是一份恩赐,能够减轻痛苦并开启新的可能,但它必须始终归向公益、正义、对脆弱者和受造界的照护。在这个意义上,真正的选择并不在热情与恐惧之间,而是在两条发展道路之间:一种进步服务个人与各民族,另一种进步则使他们屈服于权力心态。归根到底,关键问题仍是圣若望保禄二世所提出的问题:人工智能是否“在世上人的生活的每一方面,使人的生活‘更有人性’?是否使它更配得上人?”138 若答案是肯定的,那么我们就可以承认它是一个机会,并在耐心而共同的重建道路上负责任地接纳它,正如《厄斯德拉下》所叙述的耶路撒冷重建一般。可是,若权力增长,而人心枯萎,人际纽带破裂,那么我们面对的就是一种新的巴贝耳,即一种宏伟却根本上非人化的建造。
追问这另一条进步之路,以及我们如何理解并活出这条路,归根到底,是省察我们自己的心。我们理解并塑造关系、工作和制度的方式,实际上显明了我们的根本价值。到最后,一切都源于我们最珍爱的事物。这是一种爱,指引我们明白自己作为个人及作为社会真正珍视什么,并引导我们的生活和行动。圣奥思定曾把人类历史描述为两种爱的争战;这两种爱产生了两种居住于世界并共同生活的方式,或可说,两座“城”:一方面,是爱天主与爱近人;另一方面,是排他地爱自己。“两种爱建造了两座城:尘世之城,是爱自己以至轻慢天主;天上之城,是爱天主以至轻看自己。”139 正如贯穿历史一样,今天这两种爱仍在我们心中争夺主导地位。人工智能的时代也不例外:建造巴贝耳,或重建耶路撒冷,都始于我们每一个人内心。
第四章
在转型时期守护人性
真理、工作、自由
我们已经勾勒出技术转型挑战所处的背景,特别是与人工智能以及超人类主义和后人类主义思潮相关的背景;然而,我们不能只停留在一般分析的层面。语言和工具一旦改变,日常行动和社会关系也会随之改变。因此,我们必须关注若干领域,在这些领域中,这些转型带来格外具体、有时甚至悲剧性的后果。按照教会社会训导的原则,数字化转型邀请我们重新发现真理作为公益,保护工作的尊严,并守护自由,使之免受各种依赖和商业化的侵害。 真理作为公益
真理与民主
数字平台和人工智能系统的使用,正在公共传播和政治传播中推动深刻变化。原本可以促进对话和参与的工具,常常被用来建构扭曲的叙事,模糊真理与虚假之间的界限,把事实与意见混杂在一起。虚假信息并非始于人工智能;然而,今天它在人工智能中找到了强有力的扩音器。操纵内容、图像和视频的能力,使人们暴露于偏颇或误导性的视角之下。这个问题既有文化层面,也有道德层面,因为公共传播的质量直接取决于社会信任,并反过来塑造社会信任。同时,真实的信息并不来自集中化或自动化的控制。在公共论述中,事实的真理具有理性维度,因为它需要核实、交叉查证来源,并负责任地论证。此外,它也深具关系性,是通过信任的纽带和共同实践,以及与他人、与世界的诚实交流而建立起来的。唯有把追求事实的真实性视为一项公益,并共同追求,才能为公正的传播奠定稳固基础。
那些掌握强大技术和经济资源,并拥有大量可用于介入的人力资本者,具有影响文化变迁的重要能力。归根到底,他们能够影响许多人对于人性、世界、存在意义、家庭,甚至天主的真理的理解。这是一种脱离真理的纯粹权力,它以隐微或公开的方式,把自己希望他人接受为真的东西强加于人。其根源在于一种更深、且常未被察觉的“疾病”:即“现代人错误地相信,他是自己、自己生命和社会的唯一作者。这是一种由自私地封闭于自身而来的妄自尊大。”140 因此,人们相信自己能够建构现实,并认为凡最符合自身主张的,就是合乎真理的。圣若望保禄二世曾反思这场“真理危机”的后果,甚至指出:“一旦关于善的普遍真理,即人类理性可以认识的真理这一观念失落,良心的概念也必然随之改变。”141 在这样的处境中,那些先于我们而存在、且良心必须接受的普遍有效真理,便不再被承认。因此,教宗方济各现实地发问:“若没有一种由久远反思和伟大智慧所孕育的信念,即每一个人都是神圣而不可侵犯的,法律又是什么?”他接着总结说:“社会若要有未来,就必须尊重我们人性尊严的真理,并服从这真理。谋杀之所以错误,并不只是因为它不为社会接受且受法律惩罚,而是因为一种更深的信念。这是一项不可谈判的真理,是通过理性获得,并在良心中接受的。一个社会之所以高贵而正派,尤其在于它支持对真理的追求,并坚持最基本的真理。”142
寻求真理是民主的必要要素;民主本身也是促进公益的一种方式。当关于何为真理的问题失去吸引力,而一种只满足于表面上有用或有效的实用主义占据人心,民主生活便会被削弱。毕竟,民主并不只由规则和程序构成,而首先在于同事实有坚实的一致,并真诚委身于个人及整个社会的善。对真理的冷漠,会缓慢却必然地滑向极权主义。正如哲学家汉娜·阿伦特所写,这类政体理想的臣民,并不主要是那些在意识形态上深信不疑的人,而是“那些对事实与虚构之间的区别(即经验的现实),以及真与假之间的区别(即思想的标准),已经不复存在的人”。143
传播与集体想象
有鉴于此,必须记得,传播“并不只是信息的传递,也是在创造一种文化”。144 在数字环境中流通的内容,塑造人们感知世界的方式,并把一些图像和叙事带入集体意识之中,指引我们的欲望,影响我们的日常选择。这“并不是一个平行的或纯粹虚拟的世界”,145 因为源自网络的事物,如今已成为人们生活的一部分,尤其成为最年轻一代生活的一部分。
因此,那些控制数字平台和传播媒介的人,拥有相当大的能力影响集体想象,并把某种特定的现实观呈现为值得向往的东西。这样的权力应当常常由追求真理和尊重人性尊严来引导,使互联网所培育的文化不致成为过度分心、同质化或支配的工具,而成为内在自由和批判思考能够成熟的场所。
迈向传播的生态
我们首要的任务,既不是妖魔化技术工具,也不是崇拜技术工具,而是依据一项基本原则来使用它们,即真理是公益,而不是有权势或有影响力者的财产。因此,我们必须推动一种传播的生态。在公共政策层面,这意味着要制定规范,使内容选择及其发展背后的决策过程更加透明,并保护个人数据。就社会和文化方面而言,这要求加强中介组织、严肃新闻事业和辩论论坛,使有理有据的论证和核实,比即时反应更有分量。对于家庭和学校而言,日益需要新的教育意识,并需要有关正确且批判地使用数字工具、人工智能以及线上商业和金融平台的培育。在大学中,主要挑战在于整合知识,既培养连接并综合知识以把握复杂性的能力,也培养核实事实所必需的技能。
基督徒团体也蒙召致力于传播中的透明,并诚实追求事实。遗憾的是,情况并非总是如此。我们曾羞愧地看见,一些令人痛苦的真相浮现出来,甚至涉及教会成员和教会现实。尤其是,有些记者怀着对真理的热爱,在揭露不义和弊端方面发挥了关键作用。对于他们,我愿重申教宗方济各对记者所说的话:“我也感谢你们把教会中出错的事告诉我们,帮助我们不把它们扫到地毯底下,并为受虐者发声。”146 然而,警醒与透明首先仍是教会自身的重大责任;我们不应等到别人迫使我们面对关于自身的、令人不安的真相。
数字时代的教育联盟
在这个时代,真理常被扭曲,用来服务某些特殊利益和传播策略;因此,教育领域具有决定性的重要意义。然而,科技的迅速变迁,也显示出我们在教育层面多么准备不足。数字媒体无处不在,助长了一种追求即时与过度刺激的文化,使人在寻求真理所需的努力面前,产生疲惫、厌倦和冷漠。
与此相反,教育是一段漫长旅程,需要耐心,因此也需要时间,使人得以成长,并与超越表象的现实相遇。这是一个根本问题,因为每一种技术都会塑造使用它的人。因此,教导人使用人工智能,也包括教导他们判断:在什么时候、为了什么目的,不应使用人工智能。答案或摘要取得得越快、越容易,就越有熄灭发问愿望的危险;而发问这一过程,只有经过时间才会结出果实。正如柏拉图所写,最深刻、最重要的事,唯有经过长久时间和努力,借着与他人交谈,共同“敲击”思想和经验,如同击打燧石,直到理解的火花在我们心中点燃,才能学到。147 因此,我们必须学习如何在使用人工智能时有所节制,并保护我们的青年免受“完美机器”承诺的诱惑;这种隐微的诱惑,恰恰在最需要人类思想之时,使人以为思想已属多余。
近年来,心理学和精神医学文献越来越强调并记录:儿童过早且无人监督地接触数字设备和社交媒体,可能对睡眠、注意力、情绪控制和人际关系产生负面影响,尤其在人生最脆弱的阶段,有时甚至导致悲剧后果。更有甚者,人们容易接触到暴力或贬损人的内容,伤害人的感受;接触到色情和过度性化的材料;接触到轻视身体与情感的信息;也接触到使危险行为正常化的提议。网络上的现象,如诱骗、勒索和对未成年人的性剥削,并不罕见;而虚假个人资料、便利危险接触的算法,以及能够操纵图像和视频的人工智能工具,使这些现象更加阴险。过早拥有个人移动设备,并在没有成人监督下使用,可能加剧青少年的脆弱,助长成瘾,使他们暴露于孤立、欺凌和网络欺凌之中,也暴露于被迫分享私密图像或敏感信息的压力之下。
父母若只靠自己,很难抵挡那些把注意力和时间变现的商业模式的影响。因此,政策制定者、教育机构和家庭之间,必须形成一种联盟,能够具体支持成年人承担这项任务。我们需要有远见的公共政策,在平台由少数人掌握、其即时利益与未成年人福祉相冲突时,加以制衡。在这方面,立法者的介入是适当的:设定年龄限制;要求服务提供者承担责任,而不是把全部监管负担转嫁给家庭;并提供具体保护,防止一切形式的网络性剥削和暴力。这样,托付给我们照料的儿童和青少年,才能真正得到保护,如同珍贵的宝藏。148 同时,也必须教导儿童、青少年和年轻人,在数字环境中识别操纵,捍卫自己的尊严,并尊重他人的尊严。149
学校的核心作用
学校是新一代能够学习寻求并热爱真理、反思生命意义、承认每一个人尊严的地方。为此,许多父母希望子女在建立关系的能力、批判性思考能力和稳固价值观方面成长,便对学校寄予厚望,视之为子女教育中的宝贵伙伴。然而,父母拥有首要且不可剥夺的权利,可以依照自己的道德、文化和宗教信念,为子女选择教育和培育的方式。今天,教育界面临若干迫切挑战。
第一个挑战是社会政治方面的。无论在各个国家内部,还是在世界不同地区之间,接受基础教育和高等教育的机会仍存在重大不平等。在许多国家,政府尚未投入必要资源,以保障人人享有优质教育;无论是充分支持公立学校体系,还是援助提供这项基本服务的私立机构,都仍有不足。当各级教育中相当一部分托付给私立机构时,入学机会可能过度依赖家庭的经济能力,尤其在缺乏充分公共支持的情况下更是如此。面对这种风险,仍有必要承认并鼓励许多私立天主教教育机构的贡献;它们确保不同背景的儿童和青年都能获得包容性的入学机会,即使其家庭经济状况原本并不允许。
第二个重大挑战是教育学方面的。许多教育体系难以跟上变化,也难以支持学生的全人发展。信息技术和人工智能的发展,正迅速使那些为另一个时代设计的课程变得过时。与此同时,学校的组织方式、实体空间、评估方法,以及教师自身的角色,都必须重新思考,以促进真正完整的教育,回应人的每一个面向。必须支持教师在整个职业生涯中持续接受培育,使他们能够积极面对新技术,帮助学生负责任、批判性、创造性地使用这些技术,而不是被动屈服于其影响。
第三个重大挑战是智识方面的,关乎知识。若不细心留意,一种缺乏热爱真理的教育体系可能会出现;在其中,源源不绝的信息流取代了研究、反思和辨别这一必要操练。随着知识日益碎片化,人越来越难以把握整体现实,难以提出关于意义的深刻问题,也难以发展真正批判而富创造性的思想。许多教育工作者已经指出非人性化的迹象:人或许“知道许多事情”,却难以在生活中找到方向;部分原因在于,他们无法把信息与更深的知识连接起来,也无法保持目的感。我们需要一种真正健康的态度,需要一种节奏,其中包含静默、深入学习、阅读和审慎分析;因为若缺少这些要素,内在自由就可能受到损害。
教会社会训导邀请家庭、学校、基督徒团体和公共机构,组成一种更新的教育联盟。当基本原则转化为教育目标时,这联盟便具体成形;这些目标包括:教导学生有节制感和限度感;承认他人和未来世代的权利,使他们能够享用那些赐给我们或由人类智慧创造出来的财物;教导自由与责任;并培养超越感和公益意识。学校并非受召去追随数字世界的速度,而是要提供数字领域本身无法给予的事物,也就是共同学习的时间,以及发展可信赖关系的时间。
数字转型时代的工作尊严
工作的价值
自从教会社会训导兴起以来,始于 Rerum Novarum,教会一直强调保护劳动者,并须反对一切形式的剥削。然而,教会训导尤其承认,工作是理解整个社会问题的“关键”150,因为人正是藉着工作,发展其存在的许多层面。由此,我们可以明白努西亚的圣本笃伟大的洞见:他把祈祷与工作结合起来,显示日常活动也是人回应天主召叫的一部分。我们既按造物主的肖像受造,我们自己的工作也以某种方式延续祂的工程;因为藉此,我们促进社会进步和公益,善用所领受的才能,改善并美化世界,扶持家庭,参与合作关系,并藉着聆听与交谈,学习共同建造任何人单独都无法成就的事。
因此,工作并不只是工具;它表达并提升我们生命的尊严。工作是人性处境的要求,是走向成熟、发展和个人成全的正常道路。在这方面,在紧急情况下,给予穷人经济援助有时是必要的,但这不能成为唯一的回应,因为目标是使每一个人都能藉自己的工作有尊严地生活。151
今天,自动化、机器人技术和人工智能的汇流,正在迅速改变工作的结构本身。有人说,这将为所有人带来巨大的改善。然而事实上,这些“新方式”的工作并不必然更好,因为“人工智能承诺藉接管日常琐碎任务来提高生产力,却往往迫使劳动者适应机器的速度和要求,而不是使机器被设计成支持工作者。结果,与人工智能所宣传的益处相反,当前的技术进路反而可能使劳动者技能退化,使他们受制于自动化监控,并把他们降格为执行僵硬而重复的任务。追赶技术步伐的需要,可能侵蚀劳动者的行动主体感,并压抑他们本应带到工作中的创新能力。”152 正是为避免这种偏向,必须设计以人为中心、而非只以绩效为中心的系统。
失业问题
圣若望保禄二世承认,失业是一项严重的恶。事实上,当失业达到大规模时,就成为真正的社会灾难,尤其需要国家负起责任。153 今天,在“第四次工业革命”之中,这一忧虑更为迫切,因为创新往往只是为了降低成本、增加利润而被追求。154 在某些处境中,人们有正当理由担心可得工作岗位会大幅而迅速收缩,并造成连锁反应,深刻影响家庭、青年和地方经济。在许多行业中,这已经可见于新的就业不安定和不平等形式:一小部分高度专业化的人获得过高报酬,而大部分劳动力的工资却下降。
技术能使人免于艰苦、重复或危险的任务,并为人的活动提供智能支持,这当然值得期望。然而,保护就业机会以及个人不可替代的角色,必须仍是一般原则。追求更高利润不能成为系统性牺牲工作岗位的正当理由,因为人是目的,不是手段;经济秩序必须服从人的尊严和公益。
同时,我们必须承认,每一个真实的转型都包含断裂,因为它是不均衡的、片段化的,有时还带有冲突。因此,并不存在单一的变革模式或普遍解决方案,因为不同地方和处境需要不同回应。鉴于我们的世界具有不平等的特征,人工智能和计算系统的扩散,在不同地方产生不同影响。富裕社会迅速而混乱地自动化,减少对劳动力的需要,并造成失业和制度摩擦的空间。相反,世界广大地区仍被困在混合型经济中:低薪人力劳动与局部技术并存,却没有实现真正转型。这些地区成为不稳定劳动的场所,也成为动荡和被迫迁徙的温床。因此,必须藉中介团体的参与,在国家和地方层面寻求解决之道。我们需要适应性的工具,包括结构良好的模式、地方倡议、渐进式再分配,以及取得基本财物的新权利。我们不追求抽象的和谐,却必须在这个转型时期,建立具体的人类共处形式。
工作仍是人类经验的基本层面,因为它不仅是维持生计的手段,也是表达、关系和贡献团体的处境。因此,与工作相关的问题,超越了家庭生存所需收入本身。一个社会即使具有高度技术发展,若只保障少数人口就业,就有使许多人陷入被迫无所事事、缺乏责任、没有日常任务与激励的危险,结果导致人性和文化的贫乏。这造成物质进步与人类学退化的悖论,并削弱公正而稳定的社会和平基础。因此,教会社会训导坚持,人人享有工作的机会,必须成为公共政策和经济进程的高度优先事项,并作为评估任何发展模式之人性品质的准则。155 此外,在世界上一些地区,工作因技术和组织进程脱离民主控制而趋于减少或根本改变,我们必须重新思考工作的本质及其与公民身份的联系,确保失业不致危及社会参与。
按照这一信念,我们能够更好地理解 Rerum Novarum 之后教会社会训导的历史。由这一传统产生的各项行动,包括协会、工会、合作社和福利组织,曾决定性地促进劳动立法的改善,保护最脆弱者,并推动更合乎人性的条件。156 然而今天,面对人工智能、新市场组织以及很少顾及社会可持续性的竞争力所推动的转型,这些工具本身已不再足够。政治领袖、劳动组织、企业界和科学共同体之间,需要新的合作努力,以便迅速制定适当的共同规章和保护措施,包括在国际层面。157 教会一贯支持的工会,蒙召向新的就业类型及劳动者相应的需要开放,好能代表并维护他们。在这一处境中,若没有勇敢的决定,更严重的贫穷和不平等前景将逼近,使许多人被边缘化、滞留无助,并被取代他们的机器和自动化系统所环绕。
在这转型时期,只在工作岗位消失时才作出反应是不够的;我们必须预先监督转型。一个可行的道路,首先是为创新确立社会准则。在这里,每一次引入自动化和人工智能,都应伴随可核实的措施,以保护劳动者的就业、再培训和参与。如此,技术将被引导去释放人的时间和能力,而不是制造排斥。其次,我们需要主动的政策,使持续培训和职业转换人人可及,确保适应的成本不只落在个人身上。最后,企业需要承诺把工作的质量和尊严纳入其成功指标。当这些条件具备时,创新便能成为更安全、更有创造力、更有尊严之工作的盟友;若没有这些条件,创新往往会成为不义的加速器。
重视尊严的经济
劳动市场是新技术相关风险较为清楚显现的领域之一。因此,必须记住,经济自由并非绝对;它始终必须以公益和每一个人的尊严来衡量。企业家的主动精神确实可以是一项真正的召叫,创造财富并改善生活,而不只是一个完全取决于利润的变量。当它承认创造有尊严、有价值的工作,是其正当服务社会的必要部分时,这便成为可能。158
教宗方济各以先知性的精神警告我们,不可只在言辞上宣称经济自由,而在实际条件中却使许多人无法从中受益。159 高举效率与个人成功的经济模式,往往把对弱势者,或对发展道路较慢者的投资,视为无用或不合算,仿佛他们的未来只取决于是否能跟上“胜利者”的步伐。事实上,一个公正的社会需要警醒的国家与民间机构,能够超越单一的效率思维,并确保资源、创造性的解决方案和法规有利于最脆弱的人。160 不应等待增长的益处“终有一天”惠及穷人,而应作出决定,确保增长从一开始就是包容性的。近几十年的经验表明,在经济和金融危机中,付出最高代价的总是穷人,而那些承诺普遍繁荣会自动到来的理论,往往证明只是幻象。
重要的是,应超越当前的发展衡量标准;八十多年来,这些标准一直与国内生产总值(GDP)的概念相连,而它们几乎系统性地忽略了人民与环境整体福祉所必需的方面。发展补充 GDP 的参数和指标,对于改善用于分析、政治与经济决策,以及确立区域、国家和国际优先事项的数据库,至关重要。引入新的参数,将使人能够全面而及时地评估立法与监管决定如何影响工作的尊严、共享的繁荣、不平等的减少以及环境保护。它也将影响发展观念、教育过程、思维方式和公共舆论,并影响和平;而和平唯有建立在正义之上,才是真正的和平。
近年,金融的重要性日益增加,并经历了重大创新,其中一部分由加密货币的引入所推动。我的前任们,尤其在他们的通谕中所作的训导,其反思和观察已经指出,金融中介部门“若在缺乏必要的人类学和道德基础的情况下运作,不仅产生了明显的滥用和不义,也显示出制造系统性、全球性经济危机的能力”。161 同样,资本收入也有取代劳动收入的风险,而劳动收入常被置于经济体系主要利益的边缘。然而,储蓄转化为实体经济的信贷,并因此创造受雇工作和自营工作,仍然是发展以及伴随当前转型所需投资的核心。信贷的社会功能仍不可替代。为金融而金融,与旨在发展、创造并推进工作的金融,有根本区别。
这一视角需要纳入对全球动态更广阔的观察。世界财富虽在绝对数额上增长,却日益集中在少数人手中,加剧了各国之内和国家之间的不平等。“少数人拥有太多,而太多人拥有太少,这就是今天的逻辑。”162 科学和技术进步,即使在医疗领域,也并非广大多数人容易取得;近来的疫情以戏剧性的方式显示了这一点。一些地区大量花费用于多余的干预,或用于只有少数被拣选者才能享有的个人增强梦想,而世界其他地方却缺乏拯救数百万生命所需的基本设备。以为新技术会自动造福每一个人,就是无视事实。除非在设计阶段的转型优先防止新的和进一步的差距,否则技术进步必然会产生结构性不平等。今天,正义要求人能够取得创新的益处,包括照护、知识、工具和机会。
公正的法律和再分配方法,当然是纠正失衡所必需的,其中包括减轻最弱小者负担,并向资源更多者要求更多的税制。然而,追求社会正义不应被视为一个与财富生产分离、只在其后才出现的问题,仿佛经济只为创造财富而存在,政治人物只是事后介入以便分配财富。事实上,正义关乎经济活动的每一个阶段,从资源取得到融资,从生产到消费;每一个选择都有道德后果。163
在人工智能和机器人技术的时代,比以往更不能只依赖市场的“看不见的手”。164 政治的任务,是引导经济和技术走向公益,促进有尊严的工作、社会融入,以及创新成果的公平分配。由于许多经济决定超越国界,也需要国际合作,能够界定共同策略,尤其支持最脆弱的国家和人民,以促进发展并克服对福利的依赖。这些选择背后的思想,是每一个人不可衡量的尊严、公益,以及一个真正为所有人而治理的世界。正如圣保禄六世在一九六七年以先知性的眼光所写的,165 和平与发展之间的相互依存,今天仍然适用;因为繁荣唯有广泛、包容且可持续,才有助于建立并巩固和平。
就实际而言,在人工智能和机器人技术的时代,确保经济有利于人的尊严,意味着采取若干明确行动的准则。第一,透明与问责:当数据和算法影响信贷分配、人员选任,或取得服务与机会时,必须使决定可以理解、可以申诉,并受到监督,使个人不被简化为单纯的档案画像。第二,包容与可及:创新的益处必须与技能、基础设施和基本服务方面的投资相配合,以确保技术不扩大有者与无者之间的差距。最后,确保公平的措施:税收、社会保护和产业政策,必须纠正财富与权力集中所造成的失衡。事实上,这些准则并不构成对创新的束缚;相反,它们使创新变得文明而合乎人性。
家庭与青年:希望的社会条件
家庭是一项首要的社会善。家庭奠基于一男一女持久的结合,是所有人发展其潜能、意识到自身尊严,并学习真理与善的最初形式的第一个环境;人在其中内化各种习惯,为在社会中生活作准备。166 作为第一个自然社会,并享有基础性权利,家庭是每一个共同体组织的基本且不可替代的细胞。167 因此,当政治计划和重大经济决定把家庭置于边缘或次要地位时,整个社会机体的真正成长便受到损害。168
然而,家庭是一项脆弱的社会善,会立即受到经济和技术转型的影响,而这些转型正在重塑工作的性质。因此,家庭需要文化、法律和经济的支持。失业和工作不稳定对家庭结构造成的破坏性影响,众所周知。短期来看,降低劳动成本或最大化金融效率似乎有利;但从长远看,这会削弱社会共处的根基。当技术成就受到庆祝时,社会组织却逐渐被侵蚀,仿佛遭到一种无声病毒的侵袭。
对青年人而言,就业不稳定尤其具有摧毁性。正如美国主教们曾经指出,工作不仅是收入来源,也是一个关键领域:人在其中形成身份,建立友谊和关系,学习实际责任,并辨明自己的召叫。169 当高失业率、不足的培训制度或结构性障碍阻碍人们取得工作时,许多青年人通往人性与职业圆满发展的道路便受到阻塞。人一生中需要多次转换工作,因此必须提供持续更新与再培训,使新一代能够有能力、也能自主地面对一个不断变化且往往难以预测的经济环境所带来的风险。170
由此产生一种特定的公共责任。国家有责任支持企业活动,营造有利就业的条件,在缺乏工作的地方促进就业,并在危机时期维护工作,因为工作是家庭和社会的首要善。171 尤其在持续技术变革的时代,我们需要一种政治创造力,以促进“工作”,并把家庭和未来世代置于中心;否则,我们的经济进步将转化为新的不稳定和排斥形式。
在这一转变中支持家庭和青年人,需要作出能使稳定成为可能的选择。如上文所述,劳动政策需要促进就业的连续性和质量,抵制把不稳定视为生活常态,并鼓励进入劳动力市场和职业成长的现实路径。其次,需要采取措施,确保一种健康的生活方式;因为若工作、闲暇与休息之间缺乏适当平衡,家庭就会被削弱,青年人也难以培养责任感。此外,必须投资于人人可及的教育和再培训,使数字经济所要求的职业流动,不致成为一种严酷筛选,把能够更新技能的人和不能更新技能的人分开。最后,必须扶持社会联系,借助网络和教育共同体陪伴人生选择,防止不确定性滋生孤独或成瘾。若能实行这些措施,人们便能在技术变革中前行,而不削弱建设未来的能力;正是这种能力使一个社会繁荣昌盛。
保护自由,抵御依赖与商品化
依赖与社会控制
在反思真理与教育、工作与家庭之后,我们现在必须思考数字革命对人的自由所产生的影响,既要面对个人心理健康的风险,也要面对更广泛的社会挑战。与“数字注意力经济”相关的较隐蔽成瘾形式,不可低估;因为平台和服务往往被设计用来攫取使用者的时间和注意力,利用他们的脆弱,削弱他们内在的自由。当商业模式依靠人的弱点获利时,人就被当作工具,而不是目的;设计或资助这类系统的人,负有不可忽视的道德责任。我们迫切需要促进那些能加强内在自由的技术,借着数字节制教育和保护未成年人,抵制利用脆弱性的模式。
另一项风险较不易察觉,却同样严重,就是借由大规模收集数据和使用算法系统而可能实现的社会控制。当每一个行动——移动、购买、关系和偏好——都留下痕迹时,一种新的权力便出现了,即刻画画像、预测并影响行为的权力,而且当事人往往并未充分意识到。若这类数据被用来作出影响具体机会的决定,例如能否获得信贷、就业或基本服务,就有削弱自由并歧视最脆弱者的风险。此外,控制不仅通过明文禁止来施行,也通过可见性的架构来施行:什么被放大,什么被隐没,什么受奖励,什么受惩罚,最终都会塑造意见与选择,助长从众和自我审查。因此,数字时代的自由不仅是内在生命的问题,也是公共关怀。它要求明确规则、透明度、申诉可能,以及对侵入性技术使用的相称限制,使技术始终服务于人,而不成为控制良心的形式。
这些问题的根源,在于一种技术治国和后人文主义的心态;这种心态倾向于把人看作可操纵的对象,或可优化的资源,172 从而移除一切防止无节制逐利的保障。占上风的是效率,而不是对自由和人性尊严的尊重。有些后人文主义思潮甚至设想存在“二等”人类,使他们从属于那些自认为优越的精英利益。当这种令人不安的前景与技术工具结合,而这些工具又成倍扩大控制和筛选的能力时,问题便更加严重。甚至某些结构性负债形式,使整个民族长期处于依赖状态,也以新的形式反映出同一种心态:它容忍近似奴役的从属关系。
打破新形式奴役的锁链
这种对人的扭曲看法,今天反映在与数字经济直接相关的各种奴役形式中。人工智能世界中没有任何东西是非物质的,也没有任何东西是魔法。每一个看似即时而完美的回应,都是一条漫长中介链的结果,其中涉及庞大的自然资源网络、能源基础设施,尤其涉及人。数字经济运行的相当大一部分,依靠数百万人的沉默劳动;他们从事必要却大多不为人见的活动,如数据标注、模型训练和内容审核,而且常常要接触令人不安的材料。在许多情况下,这些劳动者是青年人,且以女性为主,在严苛条件下工作,所得工资极低。除了这种不可见的劳动,还有更为艰苦的工作,即开采生产人工智能所依赖的设备和微处理器所需的资源。在世界某些地区,儿童和青少年在危险条件下工作,破碎那些可从中提取稀土元素的材料。这些人的身体被留下伤痕,受到损害,日益耗损,只为使计算流动能够不间断地继续。此外,犯罪网络利用线上平台、通讯系统、匿名支付方式和画像技术,招募、控制并转运人口贩运的受害者——其中极常有未成年人——把男女贬为可追踪的“数据”和可在同一数字回路中搬运的“包裹”,而这些回路正支撑着全球经济的很大一部分。这一现实深深挑战我们时代的道德良知。若创新的益处建立在一条被蓄意隐藏的剥削链上,那么仅仅援引效率,或赞颂创新带来的好处,是不够的。若技术许诺解放,却制造新的全球性从属形式,它便与人性尊严这一根本原则相矛盾。
反对新形式奴役的斗争,是辨明人工智能和数字转型伦理的一项决定性考验。教会延续良十三世所开创的传统,重申她对一切形式的奴役、人口贩运和人的商品化的坚决谴责。教会也同样强调,迫切需要反思并行动,把每一个人的不可剥夺尊严和公益,作为社会的中心与目标,并作为每一项个人、社会和政治选择的指导准则。若缺少这种伦理的、使人更合乎人性的反思,数字系统日益增长的力量,可能把我们带向新的暴行;这些暴行并不比我们今日所痛惜的过去暴行少羞耻,尽管我们仍继续把自己呈现为“先进”和“文明”的社会。
必须承认,人口贩运是当代的一种奴役形式,也是对人性尊严的严重侵犯。若不坚决回应,或以任何方式容忍这些行为,就在某种程度上成为今日罪恶的共犯;这些罪恶类似于过去奴隶制度被掩盖和辩护时的罪恶。173
在教义的发展中,教会逐渐更深地意识到这些问题的严重性。诚然,我们不能以时代错置的方式判断过去的事件,仿佛那些后来才逐渐成熟的道德准则一直都已具备。然而,我们也不能否认或淡化,无论社会还是教会,在谴责奴役这一祸害上都曾迟延。在古代和中世纪,许多人,甚至一些教会机构,都拥有奴隶。早在近代初期,罗马宗座应诸位君王的请求,曾多次介入,以规范并使某些隶属形式合法化;在若干情形中,也使奴役“异教徒”合法化。174 直到十九世纪,尤其在教宗良十三世任内,才清楚表达了对奴役的正式、绝对而普世的谴责。175 这一发展清楚表明,教会在理解她所守护的启示恒久真理上不断成长。虽然在实践上并非始终一致——因为奴役曾长期被容忍,后来才受到明确无误的谴责——但在历史中,教会始终不断肯定每一个人的尊严:人是按照天主的肖像受造的;只是要等到十八个世纪之后,才明白承认这种尊严与奴役完全不能相容。这构成基督徒记忆中的一道创伤,我们不能认为自己与之无关。176 当我们默想如此众多的人所忍受的巨大痛苦与屈辱,并看见这一切与他们作为人格者那不可衡量的尊严——他们为主无限地所爱——形成如此鲜明的对比时,我们不可能不深感哀痛。为此,我以教会之名,诚恳请求宽恕。
因此,面对奴役的不义,过去曾有的同谋与盲目,其记忆如今成为对我们保持警醒的召唤。我们所学到的一切,必须在当下化为分辨与责任。若我们不愿将来再次因为没有尊重信仰所要求我们珍视的人性尊严而请求宽恕,那么今天我们就有责任清楚而坚定地谴责各种形式的人口贩运,并与所有投身此事业的人一道,支持预防、保护、解放与复原的具体努力。
即使在今天,殖民主义仍以新的形式出现。它不再只是支配人的身体,也攫取数据,把个人生活转化为可供利用的信息。整个地区,尤其是那些具有结构性脆弱、地缘政治分量有限的地区,正在被一种新的攫取心态所支配:攫取健康数据、流行病学资料、基因图谱和人口信息。这些已成为权力新的“稀土”:这些攸关生命的数据,一经汇总和分析,便可用来训练预测模型,指导投资策略,预判危机,尤其是决定谁和什么被认为重要。那些掌控整个民族健康数据的人——这些数据往往以援助、研究或创新为名而收集——便拥有左右未来的结构性杠杆,因为他们能够塑造需求与市场。他们也能比别人更早决定,药物、投资与保护将分配给谁。我们时代最迫切的道德挑战之一正在于此:确保共享的知识成为真正的公益,而不是支配的工具。这要求不仅把描述个人的数据归还给个人,也把决定这些数据如何使用、由谁使用、为谁的益处而使用的能力归还给他们。否则,数字时代就不会是后殖民的时代,而只是另一种形式的殖民时代。
新形式的奴役由经济链条和数字基础设施所助长。因此,必须在多个层面采取行动。首先,支撑科技产业和数字经济的供应链需要更加透明,使任何竞争优势都不建立在隐蔽的剥削之上。其次,企业和投资者需要采用明确的预防性伦理审查标准(尽职调查),把保护劳动者、反对强迫劳动,以及评估数据驱动商业模式的社会影响列为优先事项。此外,数字平台必须负责任地同主管当局和公民社会合作,防止通讯、支付和画像工具成为招募和控制受害者的渠道。当这些努力汇聚起来时,数字环境便能从剥削的空间转变为保护、预防和促进人性尊严的空间。
共同的责任
刚才所考察的各个领域——公共生活中对真理的追寻、数字环境中的教育、工作的转变、家庭的脆弱,以及新形式的奴役——并非彼此孤立的现象。相反,它们反映了一个共同的根本问题:如果技术成为最终标准,人就有被化约为数据、机器中的齿轮或商品的危险。然而,如果技术被纳入明智的视野之中,它便能成为成长、正义与兄弟情谊的工具。
从这一视角来看,教会社会训导呼吁共同承担责任。它要求以远见引导这些进程:由能够规范而不窒息、保护而不取代的制度来引导;由承认工作与尊严乃成功尺度的企业来引导;由重建信任与关系的中介组织和教育共同体来引导;也由培养责任、节制、分辨和真理感的公民来引导。唯有如此,创新才能真正服务全人发展,而不是成为排斥与支配的根源。也唯有如此,进步的许诺才能被认出为真实可信,因为它是以每一位男女不可侵犯的尊严来衡量的。
|