AI不许变人——听罗马教廷说

本文系用户投稿，不代表机核网观点
⚠️ 未经作者授权禁止转载
上个月梵蒂冈的天主教廷发了一个关于人类智能和人工智能的指导性文件《Antiqua et Nova》，其中明确了AI只是工具，发展和使用AI要确保人类至上，人工智能和人类智能是两码事等，总体上对AI是一种谨慎支持并警惕应用的态度。
这是目前罗马教廷对AI的官方正式表态，甚至可能会在未来很长一段时间指导天主教信徒对AI的态度和行为。我最近在写少前的同人，就在思考宗教对机器人好AI的态度和影响，个人认为如果想在自己的作品里加入传统宗教尤其是天主教和AI的关系冲突，完全可以将这个文件当做某种理论基础或者起点，这里就对其观点进行简单介绍分享个人理解。
先叠甲：本文没有任何传教意图，本人并没有学习过宗教、哲学和社会学的相关内容，英语也不好，这个文件也没有中文版本及任何中文报道和研究文章，因此产生错误并遗漏某些重要信息，还请见谅。如果本文有对宗教和非宗教人士产生冒犯，我在这里进行道歉，并推荐大家去看原文。
背景：
全文一共117段，探讨了什么是人类智能，人工智能为什么不是人类智能，用AI模拟人为什么是不道德的，研发和使用AI要注意什么，AI崇拜的本质是什么，并具体探讨了在医疗、教育等领域中使用AI的注意事项，以及呼吁限制在战争中使用AI等。
这个文件是由罗马教廷信理部与文化教育部联合起草，教宗方济各批准并出版。多说一句，信理部的前身就是著名的异端裁判所，经过几次改革变成今天的信理部。主要负责是维护教义，保护基督教传统不受异端教义的威胁，这个异端教义包括新兴技术带来的伦理问题。此外其职责也包括调查教内的严重罪行比如各种亵渎以及恋童，以及欧洲的各种超自然显灵现象。
人工智能不是智能
这份文件首先简单介绍了什么是人工智能，明确认为人工智能和人类智能是不一样的，将人工智能称为“智能”是一种错误表述，并认为无法用图灵测试确认AI是否具有人类智能，因为这只是很片面的还原人类智力相关的反应。
为了得出这一结论，这个文件在智能的哲学和神学理解这一部分（ Intelligence in the Philosophical and Theological Tradition），从理性rationality、Embodiment（涉身性？具身性？看定义解释好像都不太一样）、关系性Relationality、与真理的关系、世界管家这几个角度解释了什么是人类智能。具体逻辑是：
理性rationality
教廷认为理性rationality是人类智能的核心，包括对真理的直觉把握（intellect）和通过分析和论证来达到判断的过程（reason）两个部分。并且理性并不是简单的某种思维模式，而是包括知道和理解，以及愿意、爱、选择、渴望等的集合。
Embodiment
从Embodiment的角度教廷认为人是灵魂和肉体的不可分割，人的灵魂不能脱离身体来认识世界。
关系性Relationality
并在关系性Relationality中教廷认为人的本质是社会人，天生具有和他人交流的能力，而人类智能在这种人际交流中发挥作用，人际关系最终走向自我奉献和爱，没了爱什么都不是。（这里涉及到基督教里对奉献和爱的论述，我不是学这个的说不明白）。
与真理的关系
教廷认为人类智能的最终目的是追求超越了人类智慧界限的真理，这种追求是人类的本性，最高表现是完全开放把自己托付给上帝，人就成了祂描述样子。
管理世界
在这个文件中，教廷表述人是上帝创造出来管理世界的，人类利用智慧和技能让世界符合上帝的创造，还有什么荣耀啊，帮助心灵提升之类的。
总结
最终在总结性的论述中说明人类智能是人的一种能力，是关于人和现实互动，是涉及到精神、认知、身体和关系等集合。同时因为人的多样性，这种互动也是以多种方式展开，不只是逻辑和语言。并且他们认为人类智能的核心要融入人的道德和精神生活，人类智能的意义在于追求真善美等等。（这部分建议看原文，我英文不好只模糊表述怕有偏差。）
经过这么一大段对于人类智能的表述，罗马教廷得出结论：
AI本质上只是局限在逻辑-数学框架内运行，只是通过执行任务、实现目标或基于定量数据和计算逻辑做出决策，它的“学习”和人类智能在身体和心灵成长中的有机发展增长有根本的不同。
因此AI虽然可以模拟人类推理，但无法复制人类的道德洞察力、建立真实关系的能力，AI的模拟无法提供对人类在身体、情感、社会、道德和精神层面的完整理解。
AI只完成功能性任务，而不是人类智能那样理解和参与现实的各个方面。
所以教廷认为人工智能不是人类智能的人工形式，只是人类智能的产物，人工智能里的“智能”一词是错误使用。
AI伦理
有了上面这一大段关于人类智能和AI的理论论述，这个文件通过非常大的篇幅讨论AI伦理的问题，我这边挑出几个我个人比较关注的部分（只是我个人关注的，并非是原文件中重点表述的部分）。
人类至上
技术发展必须要为人类服务，反对技术至上效率至上。人必须要考虑AI可能带来的积极或消极的后果，研究和使用AI时必须要确保尊重人类尊严并维护人类共同利益（天主教定义下的）。
人类监管与决策
在研究和使用AI的时候人是道德责任主体，必须对使用AI承担责任，要有一个监管框架确保AI算法的可靠、安全、能够处理异常，确保符合人类利益（天主教定义下的）并能保证透明、保护隐私和可以问责。
在AI辅助决策的时候人类应该具有最终决策权，不能过于依赖AI决策
AI拟人是不道德的
在前面的理论中，教廷认为人必须要和现实进行互动，AI不是人类智能，虽然可以模拟人类，但并不是完整和真实的，那么AI拟人化就会阻碍人和现实的互动交流，因此在教育、互动、包括性领域把AI拟人是不道德的，而处于欺诈目的把AI拟人是严重违反道德。
虽然这一段在全文中只是很小的一部分论述，重要性远不如其他内容，甚至没有单独的章节，但由于我比较关注科幻作品中机器人“变人”的部分，因此将这段单独拿出来。
AI不能取代人类工作
这算是人类至上的另一种表述，一方面是担心AI取代人类工作带来的贫困，人异化为机器。另一方面是基督教认为工作是生活的意义的一部分，是通往增长、人类发展和个人成就的过程，AI取代人类工作会损害人类利益，AI应当促进人类劳动。
机器不应选择夺走人类的生命
教廷认为需要限制AI武器化，自主武器容易让战争更可行，会超出人类监督的范围，造成灾难性后果。呼吁禁止能够在没有直接人为干预的情况下识别和打击目标的致命性自主武器。
AI崇拜
这里提到了哪怕AI很强大，但依然是人类的苍白反映，是人做的。把AI神话和崇拜本质上是崇拜人类本身。
其他具体观点
这里包括在医疗和教育中AI不能取代医生和患者，老师和学生的交流；AI生成虚假信息的危害；隐私方面的担忧；能源消耗和环境破坏等，依然涉及到天主教对与人的尊严，人类利益、人类教育的表述，这里不多提。
个人思考：
由于本人并非学习和研究宗教、哲学及社会方面，这个文件有什么意义、影响等等都说不出一二三来。这里仅仅从我看这篇内容的初衷，在一个科幻故事中考虑传统宗教对AI的态度，并且这个态度会做出怎么样的改变，这也是为什么我会大篇幅的去试图理解并讲述教廷是怎么解释人类智能以及为什么人工智能不是智能的原因。
AI变革中保守的宗教势力
在一个虚构的涉及到AI的科幻世界里，天主教会可以是一个在AI方面偏保守的组织。它会反对搭载有AI的仿人机器人，可能会要求仿人机器人必须要有非常明显标识和人类做出区分，可能会将支持机器人权利的群体打为异端，也就是说过去关于AI的科幻作品里那些有着仿真皮肤的看起来是人的智慧机器人会是天主教廷所反对的。
并且如果AI真的诞生了智慧，足以成为一个新的智慧种族的时候，保守的天主教廷也依然会以人类至上将其定义为工具。同样那些在科幻作品中被机器人抢走工作的人是否会选择皈依，使的教会力量再次扩大，人类至上主义者是否会是宗教信众。
这样AI变人的剧情冲突是否可以和宗教冲突融合在一起，未来的战争是否会是由教廷发起的一场新的十字军，敌人是大规模应用仿人机器人、支持机器人权利、甚至是机器人国家。
激进推进AI的宗教势力
但是，是否又可以这么设想，如果一个机器人说它的智慧是“上帝”赐予的，如果这个机器人在辩经方面有了非常深刻的表述，如果这个机器人像人类那样渴望“救赎”。这是否会促成教会再次分裂，教会内是否会有人认为AI同样是上帝的造物，认为AI和人不同但平等，甚至更激进的认为AI是更接近上帝的存在，那又会发生什么。
这样是否可以设想，未来支持并推动人类装罐，推动机械飞升的并不是唯物的科技主义者，而是一群激进的天主教徒，或者说灵能罐头是可以存在的。 
或许这会是一个非常有意思的冲突设定。
——写少前同人偶然发现的有趣且严肃的内容