成语“杞人忧天”都听过吧,讲的是古代有个杞国普通人,天天担心天上掉石头把自己砸死。这个成语拿来笑话人瞎操心,用了几千年。那如果忧天的不是杞人呢?
9月11日,陶哲轩、邓煜等25位数学家联名发出一封公开信《人工智能在数学中的严重错位》;10月初,陶哲轩在个人博客转发人类数学协会的联合声明,呼吁全球数学家停止与OpenAI合作。
导火索是10月6日,OpenAI在GitHub上公开了722篇数学手稿,由一个尚未对外发布的内部前沿模型生成,按372个成果家族归类,涵盖数论、代数几何、微分方程、理论计算机科学。
我看不懂这些数学问题,但从陶哲轩、邓煜这批全球顶级数学家的反应来看,数学的天是要塌了。
而就在几个月前,陶哲轩还是AI for Math的粉丝,带头在数学界推广AI,说AI是个好工具,能帮他从大量机械重复的工作解放出来。
给数学带来的分工也是好事,比如有些“长尾”数学问题,AI出现以前很少有人碰,无人问津,也没有后续研究,是AI让他看到了另一种协作的可能。他还说过,数学其实是最有条件实现高水平自动化的学科,因为验证标准足够严格。
这才没几个月,陶哲轩一看见AI真的批量解出了这么多数学问题,开始带头抵制了。
反差和变化最吸引人,嘲讽的人也不少,最直接的是认为陶哲轩怕AI端了他的饭碗,所以才有这么明显的立场转变。但这帽子扣的太低级。我一向以为,上来就分析动机和立场不光是偷懒,基本是又蠢又坏。
陶哲轩可不是杞人,数学的天即便现在就塌了,想必也砸不死陶哲轩。然后又有人说了,虽然AI砸不死陶哲轩,但其他没那么大的数学家的饭碗怕是要砸了,陶哲轩代表的不是他一个人,是一个行业、一个精英阶层马上就要面临的生存危机,他是怕了。
不过这边关于饭碗的问题还没讨论完,一份演讲PPT,又把这事引向另一重话题。陶哲轩做了一个思想实验,说即便AI找到了能通过人类三期临床试验的癌症药物,但人类不理解其作用机制,也不知道AI是否作弊了。
而反过来呢,如果至少有一个人类专家能理解这个药,病人是不是吃着会安心一点?


这下好了,要不然说不能随便举例子呢。思想和语言之间本身就有信息断层,解决数学问题和解决癌症问题,伦理、紧要程度也不一样。所以马上就有专家跳出来说,癌症病人根本不会管什么机制不机制,有保命的可能最要紧。而且有很多药到现在机制也不是特别清楚,大家还不是照样用?
陶哲轩这篇PPT的名字叫Math 2.0,是想通过这个思想实验说明,数学不光是要拿到一个证明结果的学科,要的是可理解的推理过程,可以被人类吸收,并衍生出新理论的逻辑结构。如果只给答案,特别是一下子给出一大批答案,多到来不及理解推理过程,那就是本末倒置,再往下就是学科危机。
很多事情之所以觉得各方都有道理,是因为大家聊的根本就不是一个事,再用各自不同的立场和视角去套,自然是各说各话,大家不在一个频道上,驴唇不对马嘴居然还能吵起来。
但这就是我看到的AI的现状。就事论事,甚至人身攻击、动机揣测这都没什么新鲜,也只是社交媒体的常规现象。但顶级AI公司为了让AI绑架全世界,OpenAI选择了看起来更科学的数学问题,Anthropic用宗教、神学、哲学家甚至教皇来给AI增信,证明AI有道德感和灵魂,试图赋予AI在技术伦理以上的权利,甚至将AI工具异化成一种更高阶的救赎性力量。
陶哲轩担忧的数学问题正是如此。为什么他呼吁全球的数学家停止跟OpenAI合作?实际上是要停止给AI增信,不让人们觉得,AI真厉害,好像所有数学难题都被AI解掉了。
披着科学的外衣,这实际上就是人类和AI的权力斗争,一旦社会接受这套叙事,那AI产出的一切东西,哪怕人类无法完全理解底层的机制、证明过程,哪怕是一个黑箱,这都不重要,信就完了。
这跟VC圈盛产天才,追捧小天才是一个道理。这几年听过的概念一茬又一茬,嘴里头各种黑化概念,标准的名校、名师、前沿科技加小天才的配置,估值几十天涨多少倍,融资额度不断新高,描绘的愿景,一个比一个大。真有实现AGI的那天,这些公司还能存在几个?AI就不会造反吗,科幻电影早演的够够的了。
我的同事董师傅今年写过不少彼得蒂尔的文章,这中间穿插了他对AI的理解,反复提的四个字是以人为本,保持人的主体地位,要支配AI,而不是被AI驯化。以人为本,说来只有四个字,像是一句空洞的口号,但理解起来,用起来,我觉得不简单。
我们之前写过《就该李飞飞拿到大结果》,李飞飞也做世界模型,但脑子里有技术,手里有活儿,心里头有“人”,跟很多也搞世界模型,但目的是融资、估值、上市的人不一样,所以该她拿大结果。
到陶哲轩这,之前用AI用的挺顺手,看到OpenAI抛出几百道数学证明,怎么一下就慌了?他的解释是,数学要以人类理解为本。这更具体,也更好理解一些。
很多小孩会问家长一个问题,为什么有了计算器还得学算数?长大了工作也用不上数学,干嘛非得学?家长通常会给一个解释,数学是一种思维,是一种思考方式,是一个思维框架,一种逻辑能力。小孩听了多半不以为然,但只要你是个心智健全的正常人,你就得感谢学数学给你带来的逻辑思考习惯和能力,不会说出学数学没用这样的话。
放在数学家上也类似。解题是数学家的目标之一没错,但它只是个实现更长期价值的“代理指标”,在没有AI的年代,把这个代理指标当目标还算靠谱,毕竟人得先理解才能证明。但如果有了AI,证明丰裕甚至泛滥,那这个代理目标就不靠谱了。
赵哲轩在PPT里面有这么一段原文:
“和大众认知(也包括一些企业宣传)不同:数学家并不是一门心思只想着攻克开放难题。尤其在纯数学领域,公开难题更像是灯塔,它本身不是终点,而是用来探索周边数学疆域的向导。
在尝试解题的过程中学到的东西 —— 无论最终成功、失败,或是取得部分进展 —— 往往比问题本身的最终答案更有价值。如果自动化工具过早抵达这座灯塔,就会打断对其他可行路径的探索,周边这片知识领域,会慢慢变得贫瘠。”
哪怕是拉马努金,那些声称做梦写出的公式,数学家花费数十年去理解、证明,这些理解过程才催生大量新的数学。
这时候你OpenAI再拿证明数学当噱头,不光是要砸数学家饭碗的问题,是人类还有没有能力保住数学的真正传承,从一次次解题和验证失败、成功中,逼出新的思维方式、数学工具和理论框架的能力。
就像奥运会有几千年历史,后来人们逐渐发明了火车、汽车、飞机,短跑、游泳这些项目还是存在,规则也没变,只是越来越快。没听说在奥运会上比开汽车、开飞机的。或者说,现在人类应该有能力在尽可能减少副作用的情况下,短时间内提高人体爆发力的东西,像兴奋剂,也没听说能合法使用的。
为什么?因为奥运会的宗旨是更高、更快、更强,是要不断地超越自己,超越人类极限,这就是以人为本。不是比谁更科技,更狠活。当然,你要非杠跑鞋的碳板缓震材料也算科技,那你赢了。
现在的AI,就有种奥运会宣布可以合法使用兴奋剂的荒诞感。
但现在看来,这个过程可能无法避免。所以我们可以欢呼AI不断攻克难题,但也别忽视陶哲轩这些新晋的AI减速派或是审慎派。也不止数学,可以肯定,未来会有越来越多的领域,拿到AI给出的黑箱正确结果。就像每次生产力跑得太快,旧生产关系跟不上,自然而然就有人要喊停。停不下来怎么办?没法办,只能靠越来越多的人的觉醒。《黑客帝国》之所以是经典,是因为无论情况有多恶劣,都有人对既定的世界说不。
全部评论