Apple 新 Mac mini、Mac Studio 開售 主打本地 AI:買機長跑或比逐 Token 租雲端更划算

Author:

Published:

- 廣告 -

Apple 新一代 Mac mini 及 Mac Studio 正式開售,今次除了傳統的效能升級,公司更罕有地把宣傳重點直接放在 本地 AI 成本上:企業與開發者可以買來在辦公室或工作室內長時間運行 AI 模型,毋須像使用 OpenAI、Anthropic 或雲端 GPU 一樣,按 Token 或 GPU 時數持續付費。

M5 Ultra Mac Studio 成本最高近 2 萬美元

新 Mac Studio 提供 M5 MaxM5 Ultra 兩款晶片,其中 M5 Ultra 最高可配備 512GB 統一記憶體,記憶體頻寬達 1.2TB/s。高配版本售價可接近 2 萬美元,但亦因為擁有極大的統一記憶體,可以直接在本機載入數百億甚至數千億參數級 AI 模型。

新一代 Mac Studio 提供 M5 Max 和 M5 Ultra 處理器,其中 M5 Ultra 可配備高達 512GB 統一記憶體,記憶體頻寬達 1.2TB/s,可以直接在本機載入數百億甚至數千億參數級 AI 模型。
新一代 Mac Studio 提供 M5 Max 和 M5 Ultra 處理器,其中 M5 Ultra 可配備高達 512GB 統一記憶體,記憶體頻寬達 1.2TB/s,可以直接在本機載入數百億甚至數千億參數級 AI 模型。

Apple 的論點很直接:雲端 AI 的成本會隨使用量增加,企業每執行一次推論 (inference)、每產生一批 Token,都可能要付費;本地 Mac 則主要是前期硬件投資,之後不會再有「每 Token 成本」。

- 廣告 -

對需要長時間運行企業內部 AI Agent、程式碼助手、文件分析或私有知識庫模型的公司來說,使用量愈高,本地部署就愈有機會攤薄成本。

四部 Mac Studio 可跑萬億參數模型

Apple 更向傳媒示範,把 4 部 Mac Studio 透過高速連接組成一個小型 AI 叢集,在單一牆身電源插座供電下運行約 1 萬億參數級模型

Mac Studio 今代亦支援 Thunderbolt 5 及 RDMA,讓多台主機可以組成小型叢集。Apple 表示,4 部 Mac Studio 配合使用時,AI 推論效能最高可達單機約 3 倍。

Apple 表示,4 部 Mac Studio 配合使用時,AI 推論效能最高可達單機約 3 倍。
Apple 表示,4 部 Mac Studio 配合使用時,AI 推論效能最高可達單機約 3 倍。

這種做法與 Nvidia DGX 或傳統 GPU 伺服器的定位並不完全相同,但對不需要訓練超大型模型、而主要做推論的中小企或研究團隊而言,可以提供另一種部署方式。

統一記憶體是 Apple 最大優勢

Apple Silicon 在本地 AI 上較特殊的地方,是 統一記憶體架構 (Unified Memory Architecture)

傳統 PC 或工作站一般把系統 RAM 與 GPU VRAM 分開,模型如果大過顯示卡 VRAM,就可能無法完整載入 GPU;Mac 則由 CPU、GPU 和 Neural Engine 共用同一個記憶體池,因此 256GB 或 512GB 統一記憶體可以直接被 AI workload 使用。

- 廣告 -

例如 9to5Mac 引述實測指出,256GB M5 Ultra Mac Studio 已可以在本地運行大型模型及 AI Agent,而不需要依賴雲端。

對企業而言,本地運行亦有另一個優勢:敏感資料可以留在公司自己的電腦內,毋須把文件、程式碼或客戶資料傳到第三方 AI 服務。

Mac Studio 今代支援 Thunderbolt 5 及 RDMA,讓多台主機可以組成小型叢集。
Mac Studio 今代支援 Thunderbolt 5 及 RDMA,讓多台主機可以組成小型叢集。

Mac mini 則瞄準較低成本部署

Apple 同時更新 Mac mini。M5 Pro 版本售價由 HK$7,299 起,最高提供 20 核 GPU 和 307GB/s 記憶體頻寬。雖然無法像 M5 Ultra Mac Studio 一樣運行超大型模型,但對較小型 LLM、Coding Agent、RAG 或企業內部 AI 工具,成本門檻明顯較低。

換言之,Apple 正把 Mac 產品線包裝成一套可以由單機一路擴展至小型叢集本地 AI 平台。

M5 Pro Mac Mini 雖然無法像 M5 Ultra Mac Studio 一樣運行超大型模型,但對較小型 LLM、Coding Agent、RAG 或企業內部 AI 工具,成本門檻明顯較低。
M5 Pro Mac Mini 雖然無法像 M5 Ultra Mac Studio 一樣運行超大型模型,但對較小型 LLM、Coding Agent、RAG 或企業內部 AI 工具,成本門檻明顯較低。

要挑戰 Nvidia、Microsoft 並不容易

不過,這不代表 Mac 已經可以取代大型 AI 雲端平台。

前沿模型訓練仍然需要 Nvidia GPU 叢集、HBM、高速網絡及大型數據中心。Microsoft Azure、AWS 及 Google Cloud 亦具備彈性擴展、集中管理和全球部署能力,這些都是單純購買 Mac 無法完全取代的。

Apple 面對另一個現實問題,是企業 PC 市場仍由 Windows 主導。IDC 數據顯示,Apple 在企業桌面市場佔有率只有約 4.6%,Windows 則達 91.3%

因此 Apple 今次真正想搶的,並不是整個雲端 AI 市場,而是其中一個愈來愈大的缺口:企業希望自行控制資料、AI workload 長時間運行,而且不想永遠按 Token 或 GPU 時數付費。

對這類工作來說,新 Mac Studio 的賣點已不只是「最快的 Mac」,而是變成一台一次買斷、放在桌面上便可以長期運行大型 AI 模型的小型 AI 工作站。

- 廣告 -
Buy Me a CPM: PCM 讀者會員資助計劃
- 廣告 -

Related Articles

- 廣告 -

Recent Articles

- 廣告 -

最新影片

- 廣告 -