5年实现AGI,未来10年算力提高100万倍,对手芯片免费也比不过英伟达!黄仁勋斯坦福分享第二弹
本次访问信息量巨大,黄仁勋就加速计算的本质、模型训练的未来、推理芯片的竞争等话题发表了自己的看法,另外,他还对通用AGI何时实现,AI增长需要多少额外芯片产能进行了预测。
来源:硬AI 作者:卜淑情
当地时间3月4日,英伟达CEO黄仁勋赴斯坦福商学院,以斯坦福校友的身份分享了他的艰难创业历程,以及他对人工智能革命的看法,在业界引发了不小的轰动。
不到一周,黄仁勋再度亮相斯坦福,在斯坦福经济政策研究所(SIEPR)经济峰会上接受了访问。本次访问信息量巨大,黄仁勋就加速计算的本质、模型训练的未来、推理芯片的竞争等话题发表了自己的看法,另外,他还对通用人工智能(AGI)何时实现,AI增长需要多少额外芯片产能进行了预测。
黄仁勋认为,AI会在五年内通过人类测试,AGI将很快到来。不过,答案很大程度上取决于我们如何定义这个目标。他表示,如果我们对“像人类一样思考的计算机”的定义,是通过人类测试能力,那么AGI很快就会到来。
他还表示,未来10年,英伟达计划使深度学习的计算能力再提高100万倍。到那时,英伟达将实现持续学习,不再是现在这样先学习后应用的模式。
黄仁勋核心观点:
如果你对AGI的定义是通过人类的测试,那么我会告诉你,5年就可以实现。但如果你稍微改变一下问题的提问方式,即AGI是要具备人类的智能,那么我还不太确定如何明确定义你们所有的智能。事实上,没有人真正确定。未来10年,我们计划使深度学习的计算能力再提高100万倍。到那时,我们将实现持续学习,不再是现在这样先学习后应用的模式。在过去的10年里,我们将计算成本降低了100万倍。很多人说,但如果你能将计算成本降低100万倍,人们花的钱自然会更少,但事实恰恰相反……需求显著增长......因此,我们会做更多的计算,我们会将计算的边际成本降低到接近零。一块(H100)就可以取代一个由传统CPU组成的数据中心。虽然它售价高达2.5万美元一块,但与之对应的旧系统,光是电缆的成本就超过了芯片价格。我们重新定义了计算方式,将整个数据中心都浓缩在这一款芯片之中。推理芯片非常难。你以为,推理的响应时间必须非常快,但这还算简单的,因为这是计算机科学中算是容易的部分。难得部分是,部署推理的人的目标,是吸引更多的用户,将该软件应用于庞大的安装用户基础。推理是一个关于安装基础的问题。这与为iPhone编写应用程序的人是一样的,他们这么做是因为iPhone有如此庞大的装机量,几乎人手一部。因此,如果为iPhone编写应用程序,就会获得巨大收益,能惠及所有用户。购买和销售芯片的人仅仅考虑的是芯片的价格,而运营数据中心的人考虑的是整个运营成本、部署时间、性能、利用率以及在所有这些不同应用中的灵活性。总的来说,我们的总运营成本(TCO)非常低,即使竞争对手的芯片是免费的,最终算下来它也不够便宜!我们正在训练的这些模型是多模态的,这意味着我们将从声音中学习,就像我们所有人一样,看电视并从中学习。这很重要,因为我们希望AI不仅植根于人类价值观,当然这是ChatGPT真正创新的地方,也就是RLHF(基于人类反馈的强化学习)。我们每10年都将算力提高一百万倍,而需求却增长一万亿倍,这两者必须相互抵消。然后还有技术扩散等等,这只是时间问题,但这并不改变这样一个事实:总有一天,世界上所有的计算机都将100%地改变,每一个数据中心,价值数万亿美元的基础设施,将完全改变,然后在这之上还会建造新的基础设施。AI很可能是21世纪最重要的事物。至于晶体管,它是20世纪最伟大的发明。不过,两者都接近最伟大发明了,我们可以让历史来评判。未来的AI计算机会合成数据生成、在进行强化学习,并将持续以真实世界的经验数据为基础。它会想象一些情况,用真实世界的经验进行测试和修正。整个过程就是一个巨大的循环。我想我最大的优势之一就是我的期望值很低......期望值很高的人,耐力就很低。不幸的是,在成功的道路上,耐力是很重要的。我不知道如何教给你们,除非我希望你们遭受一些磨难。编码是一个推理过程,是件好事。但它能保证你找到工作吗?一点儿也不能。世界上的程序员肯定会继续大量存在,英伟达也需要程序员。但是,将来你与计算机交互的方式不会是C++。
红商网优质内容还将同步分发到公众号、视频号、头条号、西瓜抖音、网易号、搜狐号、企鹅号、百家号、好看视频、新浪微博等国内主力流量平台。
|