“想不到我们当年确定的算法，已经发展到了这一步……”</P>

“实际上，我们并不确定这套算法最终能不能生成意识，我们只是希望它会是更好的工具。”</P>

常乐听完三人的话，趁机说：</P>

“辛顿教授，苏茨克维先生，克利切夫斯基先生，我们可以接受你们的建议……”</P>

“但是，超级对齐部门该怎么运行？”</P>

“故障安全程序又该怎么制定？”</P>

“怎么发展？”</P>

“怎么限制？”</P>

“我们一无所知……”</P>

“所以，我们想邀请三位加盟平头哥研究院的AI项目组，主持这个超级对齐部门。”</P>

苏茨克维和克利切夫斯基互相对视，看向辛顿。</P>

辛顿思忖道：“常先生，我们可能需要时间考虑。”</P>

“没有问题，在最终做出决定之前，我们希望三位认真考虑我们的邀请，为了人类……”常乐的话很郑重、严肃、认真。</P>

辛顿三人点点头。</P>

为什么要邀请三人？</P>

平头哥研究AI项目组有共识。</P>

常乐、小马哥、任总、徐总、刘院士等人都有共识。</P>

这波AI浪潮的源头，就是三人当初的卷积神经网络算法。</P>

也许大多数公司认为，算法不稀奇，关键在于算力和数据。</P>

但必须正视一个事实。</P>

辛顿师生三人，尤其是苏茨克维，十多年来，一直立足于人工智能的前沿。</P>

其每个阶段的成果，都可能是大多数人一生都无法企及的高度。</P>

苏茨克维参与或主导的工作，一度改变了计算机视觉领域、机器翻译甚至自然语言处理领域的研究进程。</P>

其研究论文被引用超过42.7万次，成为引用量最多的计算机科学家之一。</P>

当事物的发展超出预计之后，如何去应对？</P>

还是需要回溯到事物的源头，来寻找答案。</P>

酒店。</P>

辛顿师生三人聚在一个房间，讨论这件事。</P>

“老师，现在该怎么办？我很疑惑，为什么仅有4000多亿的参数就能产生意识，更关键的是，这个意识似乎还在自我隐藏。”苏茨克维说。</P>

“这也是我不能理解的地方，谷歌的语言模型目前仍然像是一个复读机。”辛顿说。</P>

“会不会是他们隐藏了什么？”克利切夫斯基说。</P>

“不。”辛顿摇头：</P>

“他没有必要隐藏，产生意识大概率已经成为既定事实，我能感觉到他们很惊慌。”</P>

“现在最大的问题，就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。</P>

“今年，openAi公司一直处于停摆状态，奥特曼在到处与机构对接，寻找资金，而我在思考安全控制程序。”苏茨克维说：</P>

“但是wechatGpt完全打乱了我原先设定的预期，它比其他公司的语言模型都要突然……”</P>

“我原本以为意识应该是20年后的事情。”</P>

“你想加盟他们？”克利切夫斯基问。</P>

“有这个想法。虽然这是一场危机，但也可能是一场难得的机遇。”苏茨克维点头：</P>

“乐达投资不缺资金，他们对AGI既真诚，又审慎，在wechatGpt上，我仿佛看到了未来……”</P>

“而培育出可以为人类服务的AGI是我一生的梦想。”</P>

“Alex，你了？还想退休吗？”辛顿问。</P>

“我？我之所以去年选择退休，就是不想再接触人工智能，它很枯燥乏味，甚至痛苦。”克利切夫斯基说：</P>

“但是现在，它似乎变的有趣多了，我心里有一种情绪在告诉我，应该站出来。”</P>

“老师，你了？”苏茨克维和克利切夫斯基看向辛顿。</P>

“我一直很担心，担心AGI一旦成熟，会造成各种灾难性后果。”辛顿说：</P>

“而源头就在我们身上，所以我们必须在技术上去积极面对。”