Nvidia首席执行官黄仁勋在CES主题演讲中还宣布了一些用于创建自主代理的新AI工具。
Nvidia已经向每家主要研发专有人工智能模型的公司销售了大量计算芯片。但在公众对开源和自制AI兴趣高涨的时刻，该公司宣布将在今年晚些时候推出一款“个人AI超级计算机”，起价3000美元，任何人都可以在家中或办公室使用。
Nvidia的新型桌面机器被称为Digits，将于5月上市，体积大约与一本小书相当。它配备了Nvidia的“超级芯片”GB10 Grace Blackwell，这款芯片专为加速训练和运行AI模型所需的计算而优化，搭载128GB统一内存以及高达4TB的NVMe存储，以便处理超大型AI程序。
Nvidia创始人兼CEO黄仁勋今天在CES（全球消费电子展）上发表主题演讲时宣布了这款新系统以及其他多项AI产品。（您可以在《连线》CES实时博客中查看所有重大公告。）
“将AI超级计算机放在每位数据科学家、AI研究员和学生的桌面上，让他们能够参与并塑造AI时代，”黄仁勋在演讲前发布的一份声明中说道。
Nvidia表示，Digits机器（其全称为“深度学习GPU智能训练系统”）能够运行一个拥有多达2000亿参数的大型语言模型，参数数量是衡量模型复杂度和规模的粗略标准。如今，要做到这一点，您需要向AWS或微软这样的云提供商租赁空间，或者使用多块专为AI运行设计的芯片组建一个定制系统。而如果将两台Digits机器通过专有高速互连技术连接起来，Nvidia表示，它们将能够运行Meta开源Llama模型的最强版本，该模型拥有4050亿参数。
Digits将使爱好者和研究人员更容易在办公室或家中实验接近OpenAI的GPT-4或谷歌Gemini基础能力的模型。不过，这些专有模型的最佳版本存放在微软和谷歌的大型数据中心内，其规模和性能可能都超出了Digits的能力范围。
Nvidia是AI热潮的最大受益者之一。在过去几年里，随着科技公司争相购买其生产的大量先进硬件芯片，Nvidia的股价飙升。这些芯片是开发尖端AI的关键组成部分。Nvidia在优化AI硬件和软件方面表现出色，其产品路线图已成为业界未来发展方向的重要信号。
Digits发布后将成为Nvidia提供的最强消费级计算硬件。目前，Nvidia已经销售一系列用于AI开发的芯片组，称为Jetson，起价约为250美元。这些芯片可以运行较小的AI模型，并可以作为迷你台式机使用，或安装在机器人上测试不同的AI程序。
除了新型桌面系统，Nvidia今天还表示将推出多款用于构建和连接所谓AI代理的软件工具。AI代理是指利用大型语言模型执行任务的自主程序。这些工具包括多个针对指令执行和任务规划进行微调和优化的定制版Llama模型，统称为Nemotron。代理已成为AI领域的最新热点趋势，许多公司将其视为提高运营效率和节省成本的一种途径。
“代理AI是AI开发的下一个前沿领域，要实现这一机会，需要对LLM（大型语言模型）系统进行全栈优化，以提供高效、准确的AI代理，”Meta生成式AI部门副总裁Ahmad Al-Dahle在声明中表示。
黄仁勋在CES主题演讲中提到，Nvidia预计公司将使用其技术开发和管理AI代理。“从某种意义上说，每家公司的IT部门将在未来成为AI代理的HR部门，”他说。“未来他们将负责维护、培养、入职和改进一批AI代理。”