新智元报道
最近，被誉为AI教父的Geoffrey Hinton发出了一则尖锐警告：如果没有监管，AI就像一辆没有方向盘的高速跑车！他指出，在全球范围内仅有大约1%的研究致力于安全问题，而价值4.8万亿美元的巨大市场正在飞速增长。
在一次面对众多代表的重要讲话中，Hinton坐在摄像头前，当他说出这番话时，会场顿时一片寂静。
他表示：“他们想拥有的是一辆极速但没有方向盘的超级跑车。”
这位刚刚获得诺贝尔物理学奖、被称作AI教父多年的老者，在一次全球数字世界大会上再次向全世界发出警报。
Hinton用近乎恳求的语气警告道：“我们尚不清楚人类能否与未来的超级智能共存。”
“但我们仍在不断建设它。”他补充说。
1%在关注安全性，99%则专注于加速发展
在这次演讲中，Hinton详细地解释了当前的形势。
全球AI产业正在以前所未有的速度扩张。根据联合国贸易和发展会议的数据，2023年全球AI市场规模为1890亿美元，并预计到2033年将达到4.8万亿美元。
这意味着人类仅用了十年时间就创造了一个比日本国内生产总值还要庞大的经济体。
大部分资金被投入到了开发更大规模的模型和提升计算能力上。
至于安全性，Hinton给出的数据令人担忧：全球AI研发投入中，仅有大约1%用于确保技术的安全性。
Hinton对此评论道：“这简直疯狂。”
AI科技游说集团则试图通过类比说服大众——将AI比喻成油门，而监管则是刹车。他们认为不应该限制发展速度。
但Hinton强烈反对这一观点。
“虽然油门确实促进了进步，但是监管更像是方向盘。”他强调，“如果没有方向的控制，这辆车根本无法安全行驶。”
在场的一位专家Terry Sejnowski立即回应：“你试过驾驶没有刹车或方向盘的汽车吗？一旦下坡就会失控。而我们现在的情况甚至更糟糕——连方向盘都没有。”
这种毫无控制的发展现状正是全球AI竞赛的真实写照。
2026年世界数字大会的主题是“人工智能与社会发展”。
两位老人的颁奖典礼
怎么变成了一场审判
在该会议上，Hinton和Sejnowski因发明玻尔兹曼机而获得了一项特别荣誉奖。这项技术后来成为深度学习革命的催化剂。
颁奖仪式上，两位科学家回忆了他们共同工作的往事以及科学成就背后的感人故事。
他们在罗切斯特的一次会议中将Hopfield网络和模拟退火结合在一起，从而催生了一种全新的神经网络模型。
Sejnowski详细描述了当时的情形：“我们意识到可以通过加热Hopfield网络使其变为概率性。”
Hinton则补充道：当他与David Rumelhart一起在圣地亚哥编写反向传播算法时，他们采用的是logistic单元。
将温度引入到Hopfield网络后，所得模型恰好也是基于logistic单元。这表明两条不同技术路径最终汇聚到了同一个数学形式上。
在科学历史上，这种交汇点被称为“结晶瞬间”。
Hinton至今仍然认为玻尔兹曼机比反向传播算法更加优雅：“它是一个更优秀的理念，只是不够实用。”
而Sejnowski则表示：在生成式AI尚未流行之前几十年，玻尔兹曼机就已经是生成式的神经网络。
这种故事在科学史上反复出现——一个更为优美但不实用的想法和一个没有那么优雅却统治了时代的算法之间的对比。
“AGI是一个愚蠢的术语”
在颁奖典礼后半段，话题转向了更加严肃的问题。当主持人提及“通用人工智能（AGI）”和社会风险时，Hinton立刻切换到了更为严肃的讨论模式。
李登提出了一个关键问题：如何定义AGI？是否有一个基准测试可以证明它的存在？
Hinton毫不客气地表示：“AGI是一个愚蠢的术语。”
他的理由是，这个概念假设智能是一维的，并且可以通过数值来衡量。
“但是智能实际上是多维度的。不存在一个点，在那个点上AI就等同于人类智力水平。”他解释说，“它相对于人的能力在某些方面已经超越了我们，而在另一些领域则落后很多。”
例如，当询问关于斯洛文尼亚报税日期或者如何防水门廊这类问题时，现代大型语言模型可以给出非常详细的答案。但在复杂推理任务上可能还存在不足。
因此，“AGI”这个术语没有实际意义。
Hinton认为更有意义的概念是“超级智能”。它指的是在几乎所有人类能够从事的智力活动方面都超越了我们的AI系统，而这种可能性正在变得越来越现实。
接下来李登提出一个尖锐问题：LeCun认为大型语言模型通往超级智能的道路是一条死胡同，你们怎么看？
那什么词有意义？
Hinton对此进行了详细解析。首先，从哲学角度看，只预测下一个词的系统确实能够理解空间；其次，在实践中，多模态AI（如具备摄像头和物理操作能力）会比纯文本处理更有效率。
他认为大型语言模型虽然在某些方面可能足够强大，但从长远来看并非最佳路径。
随着4.8万亿美元的市场蛋糕逐渐形成，如何分配成为了一个紧迫的问题。
联合国贸易与发展会议代理秘书长Pedro Manuel Moreno直接指出了AI建造能力和塑造权集中在少数经济体和企业手中的问题。
国际电信联盟秘书长Doreen Bogdan-Martin则指出发达国家对于AI的采用速度远超发展中国家，达两倍之多。
如果不解决这个问题，“这将是一次新的大分流”。
造AI的大国和只能消费其成果的小国之间的差距正在迅速扩大。
大量资金、基础设施和技术人才都集中在北半球的几个国家，其他地区甚至没有机会参与规则制定。
烟草和石棉
这种情况引发了一定程度上的担忧。
Hinton过去三年中的多次警告现在看来愈发具有预见性。2023年从Google离职时他曾表示后悔；2024年获得诺贝尔奖后他在领奖台上呼吁重视AI安全问题；而到了2025年他仍然在不同场合反复强调监管的重要性。
到了2026年，Hinton的措辞更加明确具体。
与此同时，在技术讨论中他还展示了另一面：这个78岁的老人不仅能谈论AI末日风险，还能立刻切换回受限玻尔兹曼机为何是正确的贝叶斯推理、当前图像生成模型仅使用了醒-睡算法的一半等技术话题。
在他的大脑里，思考如何使AI更强大与确保人类不被它毁灭这两件事可以并行而不矛盾地进行着。
这大概就是为什么Hinton的警告具有特别的分量。作为亲历者，他知道AI能做什么以及该警惕什么。
那辆没有方向盘的车现在油门已经踩到底了，引擎轰鸣不止。而未来几年内是否能够为这辆车装上方向盘，则取决于政府、企业和科学家们是否会采取行动。
我们目前正处在一个极其特殊的时间节点：在AI变得比人类更聪明之前，这是最后的机会来制定规则。
Hinton三年前从谷歌辞职时所说的话曾被许多人视为过度担忧。但三年后，他依然坚持同样的观点，并且越来越多的人开始理解他的忧虑。
只是那辆没有方向盘的车还在加速前进。
「生产烟草和石棉的发达国家——比如加拿大——在本国引入了保护公民的法规。但它们继续把这些东西卖给第三世界国家。
所以我们真的要担心：即使我们在开发AI的国家制定了正确方向的法规，这些国家仍然可能把AI卖到其他国家，在那里产生恶劣后果——即使这些事情在他们自己国家是不被允许的。
太阳底下无新鲜事，烟草和石棉的剧本，很可能会再次上演。
关于LeCun，你怎么看？
LLM，究竟是不是死胡同？
接下来，李登还带来了一个尖锐问题：LeCun说大语言模型是通往超级智能的死胡同，你们怎么看？
Hinton把这个问题拆成了两半。
「首先，是一个哲学问题：一个只预测下一个词的系统，能不能理解空间？答案是能。这非常令人惊讶。」
「然后，有一个实际问题：这是理解空间的高效方式吗？答案是不能。如果你有摄像头，能操控物体，你理解空间和基本物理常识的效率会高得多。」
「所以在实际层面，一个多模态AI——有摄像头、能操控物体、还能说话——会比纯语言模型用更少的数据更快地理解很多东西。但在哲学层面，纯语言模型给它足够多的语言数据，可能也够了。」
4.8万亿美元的蛋糕，谁在切？
这次大会暴露的另一个裂缝，就是「分配」的危机。
UN贸发会议代理秘书长Pedro Manuel Moreno在同期举行的科技发展委员会上直接点破：AI的建造能力和塑造权，集中在极少数经济体和企业手里。
国际电联秘书长Doreen Bogdan-Martin给出了一个刺眼的对比：发达国家对于AI的采用速度，几乎是发展中国家的两倍。
「如果不解决这个问题，这将是第二次大分流。」
造AI的国家和只能消费AI的国家之间，鸿沟正在以肉眼可见的速度撕开。
4.8万亿美元的市场，基础设施、投资、人才全部集中在北半球那几个点上。剩下的世界，甚至没有资格参与规则制定。
显然，这个后果很可怕。
方向盘在谁手里？
把时间线拉长一点就会发现，Hinton的这场对话，其实是他过去三年吹哨行动的一次集大成。
2023年从Google离职时，他说的是「我为自己的毕生工作感到后悔」。2024年拿诺贝尔奖时，他在领奖台上呼吁重视AI安全。2025年他在多个场合反复强调监管的紧迫性。
到了2026年，他的措辞变得更具体了。
而他在技术讨论中展现的另一面同样值得注意。
这个78岁的老人，在聊完AI末日风险之后，能立刻切回去讲受限玻尔兹曼机为什么是正确的贝叶斯推理、为什么当前的图像生成模型只用了醒-睡算法的一半、怎么把生成模型和识别模型结合起来才是下一步正确方向。
他同时住在两个世界里——一个在思考AI怎样变得更强大，一个在思考人类怎样不被更强大的AI毁灭。这两件事在他的大脑里并行运转，互不矛盾。
这大概就是为什么他的警告格外有分量。这是亲手造出这个东西的人在说：我知道它能做什么，所以我知道该怕什么。
而Hinton提到的那辆车，现在油门已经踩到底了，4.8万亿美元的引擎在轰鸣。方向盘在不在，取决于接下来的几年里，坐在驾驶座上的人——不管是政府、企业还是科学家愿不愿意伸手。
如今，我们正站在一个极其特殊的时间节点上。在AI变得比我们聪明之前，是人类唯一还能决定游戏规则的窗口。
Hinton三年前从谷歌辞职时说的那番话，当时很多人觉得是杞人忧天。
三年过去了，他还在说同样的话。不过，现在已经有很多人，真实地理解了他的担忧。
只是，那辆没有方向盘的车，还在加速。
参考资料：
https://x.com/haider1/status/2048809405442039961