更多

    【CES 2025】NVIDIA Project DIGITS 1PFLOP FP4 算力微型 AI 電腦

    Wesley
    Wesley
    經遊戲進入腦界,見證 3D 渲染技術及遊戲引擎互相進步,深信 PC 平台或成最大贏家。

    NVIDIA CEO 黃仁勳於 CES 2025進行開幕主題演講,環繞 AI 技術的最新應用發展,除了遊戲娛樂外,工業科研級的 AI 平台亦有擴張,推出 GB10 核心的 ARM 架構微型 AI 電腦——NVIDIA Project DIGITS,FP4 AI 運算表現達 1PFLOP。

    【更多 CES 2025 報道】https://www.pcmarket.com.hk/tag/ces-2025/

    AI 開發愈來愈重要,使用桌面 GPU 有它的局限性,NVIDIA 基於 Blackwell 架構,推出Project DIGITS 超迷你 AI 電腦,搭載全新 SoC 級 GB10 Grace Blackwell 超級晶片,最高可提供達 1 PFLOPS AI 性能,用於 AI 大模型的原型設計、微調及運行。借助 Project DIGITS,使用者可以使用自己的桌面系統開發和運行模型推理,並在加速的雲端或資料中心基礎設施上無縫部署模型。

    它的 GB10 核心為 Blackwell GPU,通過 NVLink-C2C 片間互連與高性能 NVIDIA Grace CPU 互聯,CPU 採用 ARM 架構並具有 20 個高效節能核心,是 NVIDIA 與聯發科合作的成果。Project DIGITS 配有 128GB 統一記憶體架構和 4TB NVME 存儲。利用 Project DIGITS,開發者可以運行包含高達 200B 參數的大語言模型,加速 AI 創新。通過 NVIDIA ConnectX 網路,可以將兩台 Project DIGITS AI 超級電腦連接,運行包含高達 4,050 億參數的模型。它預載基於 Linux 的 NVIDIA DGX OS 作業系統,完整支援 NVIDIA 龐大的 AI 開發生態系統內各種框架及軟體發展套件。NVIDIA Project DIGITS 將於今年稍後推出,建議零售價 3,000 美元起。

    Cosmos 生成條件強化機械人 AI 訓練

    語言模型、生成式 AI 等被歸類為「agentic AI」,而可與現實物理環境互動的機械人行為 AI 屬「Physical AI」,包括自動化工業機械人、自動載具等,其 AI 學習需要海量參考狀況數據,以往有 NVIDIA Omniverse 製作虛擬世界連接不同套件,今次再發表 NVIDIA Cosmos,它是世界基礎模型開發平台,能結合生成式影像,可進一步補足 Omniverse 的世界情況模擬效果,隨時作出修改以便加速 AI 訓練,減少收集原始素材的時間和基數要求,讓訓練靈活。

    NVIDIA Cosmos 提供世界基礎模型可注入即時多變的生成式環境狀況,用於機械人 AI 訓練。
    NVIDIA Cosmos 提供世界基礎模型可注入即時多變的生成式環境狀況,用於機械人 AI 訓練。

    另外,廠商新增 Llama Nemotron 一系列開放授權的基礎模型,能夠在各類代理式任務中提供極高精度及提供不同規模。最小級數的 Llama Nemotron Nano 模型可在 RTX AI PC 和工作站的 NIM 微服務使用,在指令遵循、工具調用、聊天、代碼和數學等代理式 AI 任務方面表現出眾。以及針對不同用途預先設計好的代理 AI 藍圖,供開發人員快速取用,結合自己的數據即可進行訓練及使用。

    最新影片

    您會感興趣的內容

    相關文章