苏茨克维被围攻了。</P>

他本来就是一个不善言辞的科学研究者。</P>

他的老师，辛顿打电话提醒他：“不要再去做无谓的争论，就像卷积神经网络一样，将来会证明我们是对的。”</P>

所以，他选择了沉默。</P>

实际上，苏茨克维被围攻，并非AI系统是否能产生意识的问题。</P>

而是投资与回报的问题。</P>

苏茨克维的存在、观点和言论，成为了财富聚集的障碍。</P>

要知道，谷歌为人工智能下了重注；</P>

微软也即将下重注入场；</P>

投资基金们早已布局；</P>

大家都等着收获和收割；</P>

更多小公司也等着人工智能成熟而茁壮成长，从而开发衍生产品赚钱。</P>

上万亿美元的市场，在产品上市时，早已被瓜分殆尽。</P>

这个时候，你告诉我们不安全，要安全后才能赚钱。</P>

这比杀了他们还难受。</P>

五月。</P>

辛顿同苏茨克维、克里切夫斯基三人来到江州平头哥研究院。</P>

刘朝阳代表研究院与三人签约。</P>

签约仪式上。</P>

常乐、任总、小马哥、徐总等大佬都亲临现场。</P>

他们对辛顿三人到来和加盟，表示热烈欢迎，并表态会全力做好后勤保障工作。</P>

签约仪式后，苏茨克维表示，希望能立即开展工作。</P>

“我们几乎可以断定wechatGpt已经有了意识，它肯定比我们所有人都聪明得多。”</P>

聪明，意味着更多知识，更强大的学习能力。</P>

“虽然，这令人难以置信，但是我们必须面对和应对。”</P>

辛顿说：“现在做还来得及。”</P>

“具体怎么操作和实现？”常乐问。</P>

“需要成立一个专门的团队，抽调专业人员，用20%的算力来支撑这个团队……”苏茨克维进一步阐述他的思路和设想。</P>

“目前，我们可以选择这么做，希望能产生积极效果。”辛顿说。</P>

“这种思路，在逻辑上行得通。”克里切夫斯基说。</P>

简而言之，就是用弱模型来监督强模型。</P>

听起来很荒谬。</P>

但有道理，也可以去实践。</P>

就像老师与学生的关系。</P>

老师的能力并不一定比学生强，但是老师可以监督、指导、引导学生。</P>

“我们希望通过弱模型来监督强模型，让强模型对人类始终抱有温和、温暖而积极的情感。”苏茨克维说。</P>

常乐看向小马哥。</P>

小马哥觉得可以。</P>

“弱模型的能力可以不比强模型强，但是可以理解并监督强模型的行为，引导它在规则和范式内运行。”小马哥是这么理解的：</P>

“必要时可以及时向人类发出预警，便于做出针对的有效举措。”</P>

“譬如，强模型按照它的理解编写数百万行、且具有危险性的代码，而人类并不能理解这些代码。”</P>

“但是弱模型可以，因为它们系出同源，即便它无法干预。”</P>

“从理论上讲，这种方式确实可行。”徐总说。</P>

“可以一试，不用畏畏缩缩，只有进行下去才能知道成效。”任总也说。</P>