李飞立即打电话告诉常乐、任总和徐总。</P>

上述三人，当天下午就聚集平头哥研究院的Ai大楼。</P>

三人看完前后两次的问答内容后，都陷入沉思。</P>

许久，徐总说：“既然列出了时间表，就说明模型应该已经有了时间概念。”</P>

常乐问：“那为什么第二次又问不出了？”</P>

徐总说：“可能……是在有意识的隐藏自己？”</P>

常乐说：“但是不可能啊，4000多亿的参数，怎么可能产生意识？涌现的基本条件都不具备。”</P>

任总说：“这期间一定发生了我们所不知道的事情。”</P>

“建议和这位提问的工程师好好回忆，看看有哪些细节是我们忽略的。”</P>

常乐说：“我已经告诉马总了，他那边尽快赶过来，辛顿教授也会来。”</P>

徐总问：“哦？说动了？”</P>

“这是必然，有意识的语言模型，任何一名科学家、学者都会有浓厚兴趣。”</P>

第二天上午，小马哥出现在江州平头哥研究院。</P>

与之一同前来的还有辛顿、苏茨克维和克利切夫斯基师生三人。</P>

辛顿对4000多亿参数就能产生意识，既惊讶，又好奇，更多是担心。</P>

如果一切都是真的，它是人类新纪元的开端，还是末日来临的序幕？</P>

辛顿联系了两名得意门生，苏茨克维、克利切夫斯基一听，二话不说紧随而来。</P>

当辛顿、苏茨克维和克利切夫斯基三人在小马哥带领下，跨过平头哥研究院大门时，心里有种激动情绪在喷涌。</P>

西方媒体一直在丑化、恶魔化乐达投资。</P>

称其为“强盗”“小偷”“野蛮人”“秃鹫”……</P>

但是对于平头哥研究院，评价却相对客观，认为这里是东方世界的科研圣地。</P>

陶铝材料至今仍未被西方的研究机构揭开神秘面纱，认为这是上帝杰作；</P>

固态电池从这里走向世界，改变了全球新能源发展格局；</P>

至于“乙克”，则拯救了全球4亿人。</P>

尽管它内外有别、价格歧视，被人诟病，却依然被认为是拯救病人的“福音”。</P>

进入AI大楼。</P>

在小马哥介绍下，辛顿、苏茨克维和克利切夫斯基三人一一和常乐、任总、徐总、刘院士等大佬握手。</P>

然后就将注意力集中到模型上。</P>

辛顿教授查看了wechatGpt的算法，以及训练思路。</P>

然后再与那位问答工程师交流一番。</P>

最后他肯定说：</P>

“你们一直走在正确的道路上，迭代的速度超出了想象，领先了全球……”</P>

“我想，它应该是有了意识，而且是那种很高级的意识……”</P>

“我不确定它为什么要隐藏自己，但想来不太会是好事。”</P>

苏茨克维说：“你们注意，在问答上，它已经没有恒定、固定的回答，总是会在细微处自行调节。”</P>

“那我们究竟该怎么应对？”小马哥问。</P>

“必须要积极去面对，它的智慧很可能已经超越人类。”苏茨克维严肃地说:</P>

“其实，我一直在思考这个问题，思考如何培育出风险可控的AGI。”</P>

“我认为，必须要有一整套超级对齐的思维。”</P>

“如果不这么做，自然选择与对进化的本能渴望，将会占领AGI，让它视自己的生存为最重要的事……”</P>

超级对齐，是苏茨克维一直思考的问题。</P>

即如何让AI系统发展的终极目标，符合人类的价值观和利益。</P>

“我强烈建议，成立一个专门的超级对齐部门，制定一整套故障安全程序来监督wechatGpt的运行和发展。”</P>

“在这套故障安全程序正式运行并有成效前，不要对外开放。”</P>

“它监督的内容包括网络信息安全、是否教唆实施犯罪行动、是否泄露核机密或生化武器技术等……”</P>

苏茨克维的话引起了众人的思考。</P>

已经退休的克利切夫斯基则带着不可思议的口吻说：</P>