前几天梵蒂冈新任的教皇良十四世发了关于人工智能的通谕。科技圈比较关注的是Anthropic联合创始人叫Christopher Olah,被邀请去梵蒂冈做了一次演讲,随后融资宣布,说融了650亿美元,据称明年IPO,市场消息是这样。
这里聊教皇,罗马教廷和AI,Anthropic以及彼得·蒂尔、马斯克这些人之间的权力斗争,以及为此前教皇的AI顾问写文章发问:是不是应该把彼得·蒂尔烧死。从罗马教廷来说,已经有把彼得·蒂尔看成异端的迹象了。那么他们对Anthropic、马斯克以及硅谷的观点又怎样呢?
本期不展开谈通谕,只说一点,即教皇把人工智能又比作巴别塔,巴别塔我们聊过,就是巴比伦建起的通天塔,建得太高,上帝不满,所以把人类打散,让用语言、文化和其他隔阂打散,让你们没有办法团结到一起,通天塔就不会修。今天教皇又把巴别塔拿出来,即从教廷来看,人工智能就是当代的通天塔。
美国媒体对此解读有几头,一说Anthropic去表态;二是对硅谷批判;三是觉得教皇就是说说,形不成影响。
这看起来是欧美的,或者说天主教和硅谷的对抗,但我们至少应该注意两个前提。一边是教皇表态,警惕AI奴役人类。另一边教皇做了认证,AI是新的通天塔了。这是对象性关系,一边认可风险,一边给AI的影响力盖章。
教皇为什么在此时要发这样一份通谕?以及为什么邀请Anthropic此人去对话和演讲?
从教会看,先是教会对社会和技术的包容,天主教到现在,社会化是重要的趋势,此前方济各也是属于比较社会化的教皇,喜欢开玩笑,贴近世俗。到了良十四世,至少社会化不能中断,你要在社会上产生持续的影响力,和社会的关系要持续融入、持续互动,这在现代化之后是不会变的。
良十四世上台之前就找准定位了。首先他是美国人,是第一位来自北美的教皇,给自己选了封号是“利奥”或者说“良”。此前大家认为选了美国裔的教皇,至少可以把欧美观念冲突、权力冲突稍微缓解一点,尤其是和特朗普政府的关系,但新教皇和美国右翼还是调合不了。至少今天他对右派还是很拒斥。
另外是封号。往前倒一下,看看利奥十三世的TrackRecord,就知道他为什么要选“良”这个封号了。
利奥十三世在位时间是19世纪末到20世纪初,在1891年他发过一份通谕,面向第二次工业革命,即欧洲社会从蒸汽化到电气化的转型过程,造成了非常多阶级矛盾,通谕呼吁要把技术为我们所用,在技术变革的大时代,工人阶级、无产阶级怎么生存,政治家资本家应该达成什么样的共识,通谕翻译成中文叫《新事》。所以利奥十三世被认为是无产阶级或者说是工人阶级的教皇,他留下了这么一个名声。
所以教皇成为利奥十四世的那一刻,他就想清楚定位和使命了。他要继承名字,继承遗产,甚至继承选题。他人工智能的通谕《壮丽的人性》选在在5月15日签署,5月25日发布。而1891年的5月15日,利奥十三世签署了《新事》。
我的疑问是,这么做能够提升教皇通谕的神性吗?
目的性是否太强?教皇是上帝和信徒之间的信使,135周年的当天,这个巧合的时间,是上帝选的还是人选的?当然我不是教徒,对上帝传谕不熟悉。但你选择封号,继承遗产,继承选题,甚至继承日期,在我看来行为有点社会化。如果是一家公司,一个企业家,甚至是一个政客用这种刻奇的手法,我都能理解,但教皇这么做,我不那么信服。
此外,利奥十三世发《新事》的时候,社会矛盾很深,马克思、恩格斯组建的第二国际和革命活动很活跃。今天的政治环境,方济各的观点一直是说分散的、小型的、分散的第三次世界大战。也是定义社会、技术、政治阶段的依据。
通谕4万字,在2026年5月份发出来,普遍的、合理的怀疑是不是拿AI写的,有媒体提出问题,到底是神父牧师和管理层,开会讨论,手写出来,大家通读,然后再签字,还是拿AI生成了这4万字文本?
我认为这个问题提偏了。我的观点,以及从教皇的角度出发,不是拒斥AI,更不是禁止,只是说要在人和人工智能之间,站到人这边。所以即便用AI写稿,只要代表教会意志,就没问题。最近的专栏,我一直在谈人文精神、人文主义。科技要以人为本,科技必须以人为本,你别拿超人类主义当借口,别告诉我技术可以引领人类解放,即便要解放,也不能用奴役人类的方式去实现。
总结来说,教皇此时发通谕,除了上帝谕旨,我认为有社会化的原因。另外,是教会要和AI抢夺话语权。我始终认为AI被人高估了,拿苏格拉底、柏拉图,拿康德这些哲学家定义的人的灵魂去衡量,你就知道人理性产物不可能取代人类,复制不了人类。至于说人类会不会把自己简化掉、阉割掉,只剩下理性和算计,我不知道,如果能实现,AI奴役人就是可以实现的。所以我始终认为,AI技术最终能做到什么程度不重要,人信不信AI最重要。
比如现在资本和市场是有统治力的,但是否说明马克思主义或者社会主义就一定不如资本制度更好?不是,这是另外一码事。资本和市场制度通行,是因为人们相信它。现代社会在资本主义这条线上跑了很久了,大家相信私有制,主张个人权利,集体主义越来越弱了,这是信不信的问题,不是客观上谁更好的问题。AI是一样的,它实际能做到什么不重要,重要的还是你相不相信它可以主导人类社会。
教皇在通谕里面谈了很多次世俗生活和人文精神,世俗就是人文,从启蒙运动来的。宗教改革带来个人主义,带来理性主义,卢梭这些人为人文精神打了底,启蒙运动又带来资产阶级革命,现代社会资本主义和个人主义这条线上越跑越远。
教皇从人文出发,从人类的福祉出发,这是宗教进入现代化的前提。但拉人文站队,本身属于权力博弈,是宗教+人文对抗资本+技术。教皇有义务维护天主教统治,这是他的问题,对我来说,尽管这是权力斗争,但教会的人文理由我是认可的,任何主张,都要从人类的福祉出发,从世俗幸福出发,人活得好不好,有没有受到剥削,人和人有没有良好的关系,心里有没有爱,这很重要,所以教皇开展的是权力斗争,但我认可他的理由。
第二件事,着重谈一下Anthropic此人的发言,先说结论,我对Anthropic此人在梵蒂冈的发言不买账,非常不喜欢。教会选择的此人或许不是极右派,相对硅谷右翼和所谓黑暗启蒙运动的这帮人主张不同,但不影响他这次欺世盗名。
此人叫Christopher Olah,Anthropic联合创始人。他的原话:
“如果我们希望这项技术朝着好的方向发展,至关重要的一点是必须有不受这些激励机制影响的人存在”。
“如果这项技术势不可当,它必须向好的方向发展,为了我们的家园,也为了我们的后代”。
激励机制是指社会问题,比如说地缘政治,AI的军事运用,这句话正本清源,首先要批判它。阐述的主题也没有问题,AI怎样为人类带来福祉。但这是表态站队,他的演讲提出了哪些信息量呢?
第一,他认为AI应该去哪儿,不应该由他们计算机科学家来解决。AI的社会议题,应该由政治家、宗教家、社会活动家、资本家去解决。并称“AI这个东西本质上不是一个所谓的工程设计”,强调AI是“生长”的,他可能想说AI是有自我意识的东西,类似于生命。还说“AI即便是对于我们这些创造者而言,它们仍然充满神秘。”
这里他的出发点是说要让渡权力,AI由我研究,但在社会上怎么用我说了不算,我只是一个创造AI的人。但紧跟着的话就是赋魅,而不是祛魅。他没有告诉你人工智能怎么来的,不是,而是第一句话就告诉你,你们对AI理解错了。说它是由我们创造出来,是由人类的语言生产出来,但它自己能生长。
你今天跑到这儿来,我们认为人和AI应该怎么相处的时候,你跑在这儿先告诉大家,这个他一上来就告诉你,我们生产出来的人工智能这个东西可不得了,它会怎么着我可不知道。
第二段话,“我们应该如何确保AI的收益在全球范围内得到共享,目前我们还没有相应的机制,AI的发展集中在少数几个富裕国家”。
这是技术平权的问题,我之前专栏谈过几次,互联网web3AI任何技术都没有实现过最初的平权愿景,都是被寡头掌握的。他承认这一点,说AI掌握在少数几个富裕国家手里,这是问题。
但AI是国家与国家的问题吗?AI带来仅仅是地缘政治问题吗?教会既然发生,证明它首先是伦理问题,或者至少应该是阶级问题,它定义成政治问题是转嫁矛盾。AI在美国内部难道不是资本家和技术官僚剥削其工人农民的工具吗?它怎么就掌握在“富裕国家”手里了,它是掌握在你们全球寡头手里对吧?
AI绝不是政治问题,至少是阶级问题。再往上谈,它甚至是信仰问题,天主教宗教和技术宗教之间的问题,你要警惕那些“富裕的国家”,对不起,我要警惕的是你,是你们这些技术官僚。马斯克和彼得·蒂尔之前一直在谈,说职能技术会重建全球帝国,主权国家之间的是次要矛盾。掌握技术和不掌握技术的人之间才是主要矛盾。所以此人跑到梵蒂冈去作演讲,态度上诚恳,但一句实话没有。是纯 PR行为,配不上教会的场合,不谈信仰,不谈真理,甚至连价值理性都是装出来的。
第三段,“如果AI模型将得到广泛应用,那么对人类家庭和世界而言,他们意味着什么?父母已经在为孩子的思维担忧,个人也在为未来的工作前景担忧,这些并非实验室能回答的问题”
这是好话,虽然建设性为零,但总算好话。
第四段,“需要对AI模型的本质进行分析,我是一名科学家,我领导着一支研究这些模型内部结构的研究团队,他们内部到底发生了什么,我将坦诚相告,我们不断发现一些神秘的甚至令人不安的事物,我们发现了反映人类神经科学研究结果的结构,我们发现了内省的证据,我们发现了在功能上反映出喜悦、满足、恐惧、悲伤和不安的内部状态,我不知道那意味着什么,但我认为这值得持续地审慎考量”。
这最恶劣的一段话。我不知道他具体在说什么,大概想说AI模型结构上像人类,喜悦、满足、恐惧、悲伤和不安的情感也像人类。然后扭头又告诉你,我不知道这意味着什么。是说我是一个AI造物主,但我没办法解释它的行为。这是什么?严重赋魅。
他宣称称自己是科学家,人类的科学一直以理性为前提。你要基于已知,用理性推导出来下一个已知。你一上来就谈未知,而且每条信息都在你的模型黑箱里,你说你看到,我们只能相信你看到。你说的每一句话,要么就是信息不对称,要么就是推卸责任的。
非要谈未知,至少要先交代你的已知,谈完了再涉及未知,而不是一屁股坐下,一边显摆自己太伟大了,是造物主。另一边严重放大了人类对AI的恐惧感。
我怀疑的是,你即便在人工智能身上看到了喜悦、满足、恐惧、悲伤和不安又怎么样呢?人类的理性和现代科学,能解释世界的多少东西?
几年以前高晓松在节目里提过一句,说人类太自大,你去外边的老槐树上掰一片树叶下来,代科学都只能解释它最基础的结构而已。科学能够创造出来最精密的仪器能精密到哪儿?跟大自然的构造有可比性吗?人体结构你了解多少?金字塔底下有什么你知道吗?我昨晚做了一个梦,你用科学能解释吗?非得用数据说的话,世界上99.9%的事用科学都解释不了,人类都理解不了,丈量不了,可这有什么值得担心的呢?即便AI产生了既有的科学、数据、理性解释不了的事物,又怎么样?以此吓唬人有意义吗?
最后,此人说:
“我想作为一个请求结束,我们觉得我们这个世界上需要更多的宗教,更多的公民社会,更多的学者、政府以及怀有善意的人去践行胜负在此所做的事情”。“今天我们坐在这儿就是一个强有力的展示,就是一个强有力的号召,就是一个强有力的决定性的一步,也让今天迈向壮丽人类充满未来希望的决定性一步”。
最后一句还舔了教宗屁股,去切合了壮丽人类的通谕主题。
这是资本家不可信的典型表现。此人讲了一堆符合私利的话,做了非常普世价值的表态。我的看法是,这是一次极为恶劣的示范。教会展现了宗教对社会的包容,但你却暴露了资本家的劣根性。再一次证明了资本主义无法承载真理。
下一篇再谈彼得蒂尔和教皇的斗争,已经白热化了,下次见。
全部评论