Nvidia首席執行官黃仁勳在CES主題演講中還宣佈了一些用於創建自主代理的新AI工具。
Nvidia已經向每家主要研發專有人工智能模型的公司銷售了大量計算芯片。但在公眾對開源和自制AI興趣高漲的時刻，該公司宣佈將在今年晚些時候推出一款“個人AI超級計算機”，起價3000美元，任何人都可以在家中或辦公室使用。
Nvidia的新型桌面機器被稱為Digits，將於5月上市，體積大約與一本小書相當。它配備了Nvidia的“超級芯片”GB10 Grace Blackwell，這款芯片專為加速訓練和運行AI模型所需的計算而優化，搭載128GB統一內存以及高達4TB的NVMe存儲，以便處理超大型AI程序。
Nvidia創始人兼CEO黃仁勳今天在CES（全球消費電子展）上發表主題演講時宣佈了這款新系統以及其他多項AI產品。（您可以在《連線》CES實時博客中查看所有重大公告。）
“將AI超級計算機放在每位數據科學家、AI研究員和學生的桌面上，讓他們能夠參與並塑造AI時代，”黃仁勳在演講前發佈的一份聲明中說道。
Nvidia表示，Digits機器（其全稱為“深度學習GPU智能訓練系統”）能夠運行一個擁有多達2000億參數的大型語言模型，參數數量是衡量模型複雜度和規模的粗略標準。如今，要做到這一點，您需要向AWS或微軟這樣的雲提供商租賃空間，或者使用多塊專為AI運行設計的芯片組建一個定製系統。而如果將兩臺Digits機器通過專有高速互連技術連接起來，Nvidia表示，它們將能夠運行Meta開源Llama模型的最強版本，該模型擁有4050億參數。
Digits將使愛好者和研究人員更容易在辦公室或家中實驗接近OpenAI的GPT-4或谷歌Gemini基礎能力的模型。不過，這些專有模型的最佳版本存放在微軟和谷歌的大型數據中心內，其規模和性能可能都超出了Digits的能力範圍。
Nvidia是AI熱潮的最大受益者之一。在過去幾年裡，隨著科技公司爭相購買其生產的大量先進硬件芯片，Nvidia的股價飆升。這些芯片是開發尖端AI的關鍵組成部分。Nvidia在優化AI硬件和軟件方面表現出色，其產品路線圖已成為業界未來發展方向的重要信號。
Digits發佈後將成為Nvidia提供的最強消費級計算硬件。目前，Nvidia已經銷售一系列用於AI開發的芯片組，稱為Jetson，起價約為250美元。這些芯片可以運行較小的AI模型，並可以作為迷你臺式機使用，或安裝在機器人上測試不同的AI程序。
除了新型桌面系統，Nvidia今天還表示將推出多款用於構建和連接所謂AI代理的軟件工具。AI代理是指利用大型語言模型執行任務的自主程序。這些工具包括多個針對指令執行和任務規劃進行微調和優化的定製版Llama模型，統稱為Nemotron。代理已成為AI領域的最新熱點趨勢，許多公司將其視為提高運營效率和節省成本的一種途徑。
“代理AI是AI開發的下一個前沿領域，要實現這一機會，需要對LLM（大型語言模型）系統進行全棧優化，以提供高效、準確的AI代理，”Meta生成式AI部門副總裁Ahmad Al-Dahle在聲明中表示。
黃仁勳在CES主題演講中提到，Nvidia預計公司將使用其技術開發和管理AI代理。“從某種意義上說，每家公司的IT部門將在未來成為AI代理的HR部門，”他說。“未來他們將負責維護、培養、入職和改進一批AI代理。”