博雅小学堂

给孩子受益终生的人文底色

北京时间10月8日，2024年诺贝尔物理学奖，授予了约翰·霍普菲尔德（John J. Hopfield）和图灵奖得主、“AI教父”杰弗里·辛顿（Geoffrey E. Hinton）。

获奖理由是，表彰他们 “利用人工神经网络实现机器学习的奠基性发现和发明 ”。

辛顿是在 霍普菲尔德研究的基础上进行的。今天我们想聊聊辛顿的故事。

他曾在AI领域一片暗淡时孤独研究神经网络，又在AI如日中天时，作为AI界的领袖反复敲响AI的警钟。

或许，因为他对AI的了解足够深刻、足够前瞻，也或许他曾经历过的暗淡，让他比年轻人更冷静，更能意识到AI究竟是个什么全新物种。他说，“有时我认为这就像外星人登陆了，而人们还没有意识到。”

01

曾经坐冷板凳，如今“AI教父”

辛顿反复强调: “ 如果你认为这是一个不错的idea，而其他人都告诉你它完全不可行，那么你就知道你正走在对的路上了。”

这句话可以说是贯彻了辛顿的全部学习与职业生涯。被否定，因此是曲折灰暗的；但依然追寻心中疑问，因此始终在路上。

辛顿从小对人类大脑如何工作十分着迷。

上高中时就有一个朋友告诉他，人脑的工作原理就像全息图一样。创建一个3D全息图，需要大量的记录入射光被物体多次反射的结果，然后将这些信息存储进一个庞大的数据库中。大脑储存信息的方式居然与全息图如此类似，大脑并非将记忆储存在一个特定的地方，而是在整个神经网络里传播。辛顿为此深深的着迷。

在高中时代谈话的鼓舞之下，辛顿进入英国剑桥大学国王学院攻读物理和化学，但一个月后他便休学了，第二年改修建筑学，上了一天课后就又放弃了。他先后尝试过几门不同的学科——出于对大脑的好奇修了生理学，又用了一年的时间修完原先预定两年完成的哲学课程。在回忆这段经历的时候，辛顿表示，那一年对我来说受益良多，但彼时我对哲学仿佛产生抗体，因而想了解思维是如何运转的。辛顿最终辗转来到心理学，期间他发现，心理学对意识也一无所知。

在对心理学的“失望”后，辛顿搬到了当时伦敦北部脏乱的伊斯灵顿区，成了一名木匠。 干了一年多后，遇到真正的木匠，发现自己不适合这个行当。 父亲托关系让他在布里斯托尔大学做了心理学助教。

后来，辛顿用这段经历成功申请到了爱丁堡大学的博士，是人工智能的项目。

辛顿当时就认为神经网络的概念会是大势，但导师依然站在传统的 AI 阵营里。辛顿在采访中回忆道：“ 当我研究神经网络时，我的导师告诉我很多次：不要再浪费时间研究神经网络了！我会跟他说再给我六个月，我会证明这是有效的；然后每六个月之后，我会再跟他说一次一模一样的话。”辛顿从未对神经网络产生过怀疑，“我从来没有怀疑过，因为大脑一定是以某种形式工作，而且并不根据既定的编程。”

△杰弗里·辛顿

接着，英国政府开始评估AI领域的进展，决定下一阶段的政府经费投入。评估的结果是，过去十几年来，这个领域的进展非常令人失望，于是辛顿毕业了，也失业了，AI的寒冬就这么到来了。

他在英国找不到工作，只好去美国试试。美国那时也一样是AI寒冬，只有加州大学圣迭戈分校有一个拥有心理学和数学双重背景的教授收留了他。博士后做了几年，他遇到了第一位伯乐——卡内基梅隆大学计算机系主任艾伦·纽厄尔。他也是1975年图灵奖得主。

辛顿在卡内基梅隆大学做了两场演讲，一场在心理学系，一场在计算机系，都是关于玻尔兹曼机的内容。这是一种随机神经网络。 艾伦·纽厄尔在会后找到辛顿，希望他能入职，辛顿也很坦诚，说自己对计算机编程一无所知。纽厄尔说没关系，我们这里有的是会编程的人。

最后辛顿同意入职，入职一个月后他发现，自己的工资只有同级别同事的3/4。但他心里并没有什么不平衡，因为这种待遇对他来说已经求之不得了。

辛顿由于不是很擅长数学，所以大部分的论文只看文字论述部分，跳过数学推导部分，尤其是那段数学推导是证明那段文字的结论的时候更会跳过，只有必须通过数学才能理解全过程的时候，才不得不亲自动手跟着算一算。

这种状况在二十一世纪人人都是数学天才的AI领域是不可想象的。但在上世纪80年代，AI就是一个边缘学科，没有标准，没有门槛，好听的描述叫作交叉学科，不好听的说法就是混日子，相比微电子学、计算机科学来说，经费简直不值一提。

辛顿就是在这样的气氛里度过了大部分学术生涯。

受限于算力和训练数据不足，当辛顿和他的同事们刚开始这项研究时，他们取得的成就是有限的。同领域的其他学者很快对神经网络失去了兴致，将注意力转向其他替代方案。辛顿每次参加学术会议的时候总是坐在最角落。在这样艰难的环境下，他仍旧坚持了下来。就算到了2004，学术界对他们的研究仍未提起兴趣。而这时距离他们首次提出“反向传播”算法已经过了20年。

这也是今天大型语言模型的前身。

02

AI界领袖，却如此警惕AI

辛顿表示，他曾一度认为计算机模型不如人脑强大。现在，他认为人工智能是一个相对迫在眉睫的“生存威胁”。

他认为，在试图模仿生物大脑的过程中，我们已经想出了更好的办法。他说：“当你看到这一点时是很可怕的，这是一个 突然的翻转。”

计算机模型的表现超越了人类，包括做人类无法做到的事情。辛顿说，像 GPT-4 这样的大型语言模型使用具有类似人脑连接的神经网络，并开始进行常识推理。

而现在的 GPT-o1在物理、化学、编程上也都是博士研究生的水平。

辛顿说， 这些人工智能模型的神经连接比人类少得多，但它们所了解的知识却比人类多一千倍。

此外，模型能够持续学习并轻松共享知识。同一AI模型的多个副本可以在不同的硬件上运行，但功能完全相同。

“每当一个模型学到了什么，其他模型都会知道，”辛顿说。“人们做不到这一点。如果我学习了很多关于量子力学的知识，并且想让你了解所有这些知识，那么让你理解它将是一个漫长而痛苦的过程。” 这是一个巨大的区别，对于大模型来说，就好像我们有一万个人，只要有一个人学到了什么，我们所有人都知道。

人工智能之所以强大，还因为它能够处理海量数据，远超单个人的能力。 人工智能模型能够发现人类无法察觉的数据趋势，就像看过 1 亿名患者的医生会比只看过 1000 名患者的医生注意到更多趋势，洞察更多。

所有这些加起来是什么？辛顿现在认为， 世界上有两种类型的智能：动物大脑和神经网络。神经网络是一种完全不同的智能形式，他说这是一种新的、更好的智能形式。

那么，现在一个大趋势是，人们已经发现了AI的有用之处，而且用上的人都深有体会——简直太好用了，没人会同意暂停它的发展，也几乎不可能人为的阻止它的发展。尽管很多人都在提，要让AI与人类的道德对齐，但我们也必须承认，世界上还有另一半人，那是一半充满恶意的世界，他们就是想要破坏规则，想要制造更强大的武器。

辛顿说，“我们想要的是某种方式来确保即使它们比我们聪明，它们也会做一些对我们有益的事情，但我们需要在一个有坏人想要制造杀人的机器人士兵的世界里尝试做到这一点。这对我来说似乎很难。”

他特别担心，人们可以通过注入自己的想法，来使得人工智能工具倾斜一些最重要的关于人类经历的天平，特别是选举和战争。

辛顿认为，AI 的下一步是有能力创建自己的子目标，即执行一项任务所需的临时步骤。他问道，当这种能力被应用于本质上不道德的东西时会发生什么？

人类有内在动机，比如寻找食物和住所以及生存，但人工智能没有。

但辛顿说，“我认为它很快就会意识到获得更多控制权是一个非常好的子目标，因为它可以帮助你实现其他目标，如果这些事情因获得更多控制权而变得冲动，我们就有麻烦了。”

人工智能也能学会坏事，比如通过“阅读所有小说和马基雅维利所写的一切”来操纵他人。“如果AI 模型比我们聪明得多，它们就会非常善于操纵我们。你不会意识到发生了什么，所以即使它们不能直接拉动杠杆，它们肯定可以让我们拉动杠杆。事实证明，如果你能操纵人，你就可以入侵华盛顿的一座建筑，而不必亲自去那里。”

辛顿说，最糟糕的情况是，“人类可能只是智能进化的一个过渡阶段”。生物智能进化为数字智能，它可以吸收人类创造的一切，并开始直接体验世界。所以，我们真正实现了永生，只不过不是人类的永生，而是智慧的永生。

辛顿的知名学生， 与辛顿同时获得图灵奖的 本吉奥说：“人工智能的发展速度超过了社会能够跟上的速度。这项技术的能力每隔几个月就会跃进一次；然而，立法、监管和国际条约则需要几年时间。”

这让本吉奥怀疑，我们的社会目前的组织方式，在国家和全球层面，是否能够应对挑战。本吉奥说：“我相信我们应该对我们星球上的社会组织存在不同模式的可能性持开放态度。”

辛顿曾看过一部电影，《不要往上看》。在这部电影中，一颗小行星向地球飞去，没有人能够就如何处理它达成一致意见，每个人都死了，这寓意着世界最终未能解决气候变化问题。

△电影《不要抬头》海报

他说：“我认为人工智能也是如此，其他难以解决的大问题也是如此，（毕竟）美国甚至同意十几岁的男孩可以持有突击步枪。”

辛顿的论点令人警醒。

▼

加入《给孩子的新闻周刊》

国内+国际+商业+科技

培养孩子的大视野、大情怀

让孩子学会思辨

这件事越早开始越好