黄仁勋（Jensen Huang）做客了Bg2 Pod节目，与比尔·格利（Bill Gurley）、Altimeter合伙人克拉克·唐（Clark Tang）一起，讨论了人工智能推理和训练的未来、在人工智能的未来发明一个新市场、OpenAI的影响、xAI和孟菲斯超级集群、推理阶段的推理重要性等问题。

Bg2 Pod是一个开放源代码的播客节目，主要讨论科技、市场、投资和资本等话题，该节目每两周更新一次，内容涵盖了当前的市场趋势、技术发展、人工智能等多个领域。Altimeter是一家对冲基金，管理着约30亿美元的资产。

黄仁勋在讨论中描绘了人工智能推理和训练的未来蓝图，强调了这一领域正经历的迅猛发展和变革。他指出，推理在英伟达的收入中占据了重要比例，并且随着链式推理（CoT）需求的增加，推理的收入有望实现爆炸性增长。人工智能系统将不再仅仅提供快速响应，而是能够在决策前进行深入的思考和分析。同时，训练作为人工智能发展的基础，其重要性同样不容忽视，随着模型规模和复杂度的提升，训练的需求也将持续增长。

他继续讲到，未来的人工智能将融合多模态学习和合成数据生成，使模型能够处理和理解不同类型的数据，并基于这些数据生成新的数据用于训练和推理。此外，分布式训练和联合学习将成为支持模型规模增长的关键技术，使得在多个设备和位置之间有效训练模型成为可能。

黄仁勋预见到，模型将随着时间的推移变得更加复杂，它们将在回答问题前进行大量的内部推理和模拟。未来的人工智能系统将需要更多的计算资源和更先进的算法来处理这些复杂的任务。同时，人工智能的普及将遍及每一个行业和领域，从科学研究到产品设计，从金融服务到医疗保健，每个领域都将利用人工智能来提高生产力和创新能力。

黄仁勋在讨论中讲述了英伟达的历史和它在创造新市场中的作用。他提到，从早期开始，英伟达就不得不为自己创造市场，特别是在3D游戏PC市场的起步阶段，他们几乎是凭空创造了这个市场及其生态系统和所有相关的显卡生态系统。这种开拓新市场的能力对英伟达的成长和创新至关重要，它使得英伟达能够在没有现有市场的情况下为自己创造机会。

他还指出，为了服务于新市场，发明一个新市场是一种非常自然的事情。英伟达的关注点不在于从别人那里夺取市场份额，而在于创造下一个新事物，解决新问题，并推动技术的前进。他提到，创造新市场需要大量的想象力，并且市场制造者需要思考如何创造新的“鱼塘”，要想象未来的市场空间，并在其中找到自己的的位置。

黄仁勋在讨论中高度评价了OpenAI的影响力，他认为OpenAI通过ChatGPT触发了整个行业的觉醒，这种觉醒关乎人工智能的潜力及其在各个领域中的应用。OpenAI作为一个纯粹的AI公司，追求通用人工智能（AGI）的愿景，并在此过程中推动了人工智能技术的快速发展。OpenAI建立了一个强大的经济引擎，可以为自己的未来研究和开发提供资金支持，这一点在硅谷形成了共识，即OpenAI已经达到了自我融资的逃逸速度。

OpenAI的估值和收入增长显示了它在行业中的领导地位。在短短22个月前，OpenAI还没有任何收入和用户，但现在已经成为一家具有巨大影响力的公司。最近筹集的66亿美元资金和1570亿美元的估值进一步证明了它的地位和影响力，OpenAI在提高公众对AI潜力和应用的认识方面也发挥了重要作用。黄仁勋认为，OpenAI是我们这个时代最有影响力的公司之一，OpenAI的成功也表明了AI技术在各个行业中的革命性潜力。

黄仁勋在讨论中强调了埃隆·马斯克的xAl在19天内构建计算超级集群的壮举，通常情况下，建造一个超级计算机集群需要长达三年的规划和一年的设备安装与调试，但xAl打破了这一常规。这个超级集群包含了十万个GPU，轻松成为地球上最快的超级计算机之一。他特别提到了马斯克在这一项目中的领导作用，他认为马斯克是唯一一个能够完成如此庞大项目的人。

在短短19天内，不仅完成了硬件安装，还包括了所有的集成工作、软件配置和测试，以确保系统能够正常运行。黄仁勋还自夸了英伟达平台的成熟度和完整性，这使得整个过程得以高效率的完成。他提到，英伟达的平台是经过“硬化”的，它们经过了严苛测试并且可以立即使用，他还认为分布式训练和分布式计算将会快速发展，这将使xAl这样的超级集群能够更容易地扩展和维护。

在谈话中，黄仁勋讲到了推理阶段的推理（inference time reasoning）作为一种全新的扩展智能的维度，它与仅仅构建更大的模型是分开的。推理阶段的推理描述了模型在给出最终答案之前所进行的一系列内部思考和计算过程。这个过程可能非常复杂，涉及到对问题的多次推理、数据的查找、信息的考虑，以及可能的模拟和反思。

随着模型的规模和复杂性的增加，推理阶段的推理的需求也在增长，因为它涉及到模型在实际使用中的表现，而不仅仅是在训练阶段的性能。推理阶段的推理被视为一个重要的进步，将会成为后续AI发展的关键方向。