隨著 AI 應用愈來愈普及，現在不少人相信都會同時使用兩、三個雲端 AI 平台，由日常資料查詢、撰寫文件，以至生成圖片及影片，都可以交給 AI 處理。不過，雲端 AI 平台雖然方便，背後亦存在資料私隱與成本方面的考慮。對中小企業來說，將內部文件、客戶資料甚至商業機密上傳至第三方平台，難免令人擔心資料安全；對個人用戶而言，若要同時訂閱多項 AI 服務，長期累積的費用亦相當可觀。
近年開放權重 AI 模型發展迅速，除了文字理解、推理能力與及多媒體生成能力不斷提升，商業實務工作亦逐漸可以委派給本地 AI 處理，令本地部署 AI 不再只是程式開發者的玩意。只要配備足夠運算能力及顯示記憶體，一部高效能桌面電腦也可以成為私人 AI 工作站。
今次我們便利用配備 AMD Ryzen 9 9950X3D 處理器、ASUS Turbo Radeon AI PRO R9700 32GB 顯示卡及 64GB DDR5 記憶體的 ASUS Agent Computer，親身體驗如何在本地架設 Hermes Agent 私人 AI 助理，除了協助處理日常事務，更挑戰企業客服工單、內部知識檢索，以及圖片、影片和音樂生成等應用，看看本地 AI 能否真正成為日常工作與創作的好幫手。
私家 AI 平台優勢：資料自己掌握，控制成本更自主
現時雲端 AI 平台的優勢，是用戶毋須理會背後的硬件及模型部署，只要開啟網頁或者 App，便可以即時使用強大的 AI 功能。然而，對於經常處理機密資料的用戶而言，將文件傳送到外部伺服器始終存在一定風險。即使服務供應商設有資料保護措施，企業仍需要了解平台的資料保留政策、權限管理以及相關法規要求。
本地 AI 的最大吸引力，是可以將模型及運算環境直接部署在自己的電腦內。無論是內部產品資料、客戶服務紀錄還是私人文件，都可以選擇在本地處理，毋須為了取得 AI 分析結果而把內容上傳到雲端。只要沒有啟用外部 API、搜尋工具或其他雲端功能，甚至可以在沒有互聯網連線的情況下繼續使用。
另一個好處是成本較容易掌握。雲端 AI 服務普遍採用訂閱制或按 Token、生成次數收費，對高用量用戶來說，支出會隨使用量增加。本地 AI 則主要承擔硬件、電力及維護成本，使用已下載的模型進行推論，成本由自己控制，像龍蝦 OpenClaw、Hermes Agent 這類消耗大量 token 的 AI 代理，成本效益就更明顯。雖然初期硬件投資較高，但對需要頻繁執行 AI 任務的用戶或中小企業而言，長遠值得考慮。
能夠自行決定資料存放位置、使用甚麼模型及何時連接外部服務，正是私人 AI 平台的重要優勢。
ASUS Agent Computer：64GB RAM＋32GB VRAM 打造 AI 工作站
要在本地順暢運行 AI，硬件配置相當重要。與一般遊戲電腦不同，本地 AI 除了講求 GPU 運算能力，更重視顯示記憶體容量，因為模型權重、運算過程中的中間資料，以及大型語言模型使用的 KV Cache，都有機會佔用大量 VRAM。
今次受測的 ASUS Agent Computer 採用以下配置：
| 組件 | 型號 |
|---|---|
| 主機板 | ROG Strix X870E-E Gaming WiFi7 Neo |
| 顯示卡 | ASUS Turbo Radeon AI PRO R9700 32GB |
| 處理器 | AMD Ryzen 9 9950X3D |
| 記憶體 | 64GB DDR5 |
| CPU 散熱 | ROG Strix LC IV 360 ARGB LCD |
| 電源供應器 | ROG Strix 1200W Platinum（ROG Equalizer） |
| 機箱 | ASUS A32 Plus ATX |
整套系統最矚目的自然是 ASUS Turbo Radeon AI PRO R9700。這張採用 AMD RDNA 4 架構的專業顯示卡，配備 32GB GDDR6 顯示記憶體，相比一般只有 12GB 或 16GB VRAM 的顯示卡，可以為大型 AI 模型提供更充裕的記憶體空間。對需要運行本地語言模型、圖片及影片生成的用戶而言，大容量 VRAM 尤其重要。
CPU 則選用 16 核心、32 線程的 AMD Ryzen 9 9950X3D，除了處理日常工作及多工操作，亦負責協調 AI Agent 的工具調用、資料處理及其他背景程序。配合 64GB DDR5 記憶體，亦為大型 AI 模型提供充裕的系統記憶體資源。值得一提的是，隨著 Strata 這類新一代 AI 推論框架出現，透過更有效地協調 GPU 顯示記憶體、系統 RAM 與 CPU 運算資源，即使模型規模超出顯示卡的 VRAM 容量，亦有望維持實用的推論效能，進一步發揮高容量系統記憶體在本地 AI 工作流程中的價值。
高階工作站夠彈性也要有顏值
ASUS Agent Computer 不只講求效能，機箱內的 RGB 燈效亦令整機更具視覺吸引力。配合 ASUS A32 Plus ATX 機箱，內部硬件及燈光效果可以成為桌面環境的一部分，而非傳統工作站沉實單調的設計。
其中 ROG Strix LC IV 360 ARGB LCD 水冷散熱器更是一大亮點。除了使用 360mm 冷排協助處理器散熱，水冷頭更設有大型 5.08 吋 LCD 屏幕，可顯示系統運行資訊、自訂圖片及動畫。配合 ARGB 風扇，令用戶可以按個人喜好打造獨特外觀。
至於 ROG Strix X870E-E Gaming WiFi7 Neo 主機板，則提供高速儲存與擴充能力，方便用戶日後增加 SSD 以存放更多 AI 模型。ROG Strix 1200W Platinum 電源供應器亦提供充裕供電餘量。
這亦帶出 DIY 形式 AI 電腦的另一個優勢：用戶不必被固定規格限制，可因應未來模型的要求自行升級記憶體、儲存裝置及顯示卡，比起部分難以更換硬件的整合式 AI 裝置更有彈性。
跑分成績：Radeon AI PRO R9700 32GB DirectML 表現出眾
在效能方面，今次受測的 ASUS Agent Computer 在 Geekbench 7 CPU 跑分中，單核與多核分數分別為 2,847 和 24,331，而 GPU 跑分則得到 59417 分。處理能力乎合預期。而在反映光追遊戲效能的 3DMark Speed Way 測試中就得到 6120，可見此機除了 AI 運算方面，用在 2K 遊戲場合亦有不俗表現。
而在今次重點的 AI 測試方面，在 Geekbench AI 跑分以 DirectML 作 AI 後端下，單精度得分達 36,238 分，半精度得分為 51,829 分，量化得分為 31,249 分，R9700 表現已經接近部分 RTX 4080／RTX 4090 系統的成績。
R9700 同時具備高階 GPU 在多種傳統機器學習工作負載上的運算表現，與能容納更大的模型權重及運算資料的 32GB VRAM，兩者結合，才是 Local AI 工作站的重要優勢。
私人助理實作：由日常查詢到 AI 多媒體創作
Hermes Agent 配合本地模型：真正了解你的助理
有了硬件之後，下一步就是選擇 AI 軟件。今次我們使用 Hermes Agent 作為私人 AI 助理的核心，配合開源推論框架 llama.cpp，在 ASUS Agent Computer 本機運行 Ternary-Bonsai-2-27B-PQ2_0.gguf 語言模型，讓 AI 除了回答問題，還可以實際調用工具及執行工作。
今次選用的 Hermes Agent 是被視為龍蝦 OpenClaw 競爭對手的開源 AI Agent 框架。同樣備有持久記憶，能夠調用工具、存取檔案及執行自動化任務，Hermes Agent 更強調自主學習與持續改進，能夠自行建立及優化 Skills（技能），將成功的操作流程轉化成日後可以重用的能力。此外，Hermes Agent 亦具備跨對話記憶、Subagent 多代理分工，以及 Cron 定時任務等功能，並支援連接不同的本地或雲端語言模型。對希望在自己的電腦上建立私人 AI 助理的用戶而言，Hermes Agent 的吸引力不只是能夠代勞，更在於它能隨著使用經驗累積，逐漸成為更熟悉用戶工作習慣的 AI 助手。
而 Ternary-Bonsai-2-27B 是一款擁有 270 億參數的語言模型，今次使用的 PQ2_0 量化模型，有助降低模型權重的記憶體需求，配合 ASUS Turbo Radeon AI PRO R9700 的 32GB 顯示記憶體，讓 Hermes Agent 可以在本地進行文字理解、推理及工具調用。
完成設定後，使用者便可以透過自然語言向 Hermes 下達指令，模型推論及本地檔案處理均可以留在自己的電腦上進行。雖然初次安裝仍需要對模型格式、顯示卡驅動及推論後端有一定認識，但完成部署後，日常使用就毋須每次重新設定。
ComfyUI Desktop：一個平台應付多媒體 AI 生成
除了文字 AI Agent，今次亦使用 ComfyUI Desktop 作為圖片、影片及音樂生成平台。
ComfyUI 採用節點式工作流程設計，使用者可以按照模型需求，將文字輸入、模型載入、生成參數及輸出程序連接起來。雖然初次接觸可能會覺得節點介面較複雜，但好處是每個生成步驟都可以自行調整，而且能夠保存 Workflow，方便下次重用。
ComfyUI Desktop 進一步簡化了桌面安裝及環境管理程序，亦已加入 Windows AMD ROCm 支援，讓支援的 Radeon 顯示卡可以運行相容的 AI 生成工作流程。
今次會分別以 MiniMax H3、Qwen Image 2.1 及 YuE2，挑戰影片、圖像及音樂生成，看看 ASUS Agent Computer 能否一機包辦多種創作任務。
自行建立技能：查詢 iPhone Duo 回收價
AI Agent 與普通聊天機械人最大的不同，是前者能夠利用工具執行任務，而不只是提供文字答案。今次先以查詢 iPhone Duo 回收價作為簡單例子，要求 Hermes Agent 根據指定查詢流程尋找手機回收報價，並將相關操作整理成可重用的 Skill。
在 Hermes Agent 建立 Skill 可說幾乎「無感」，因為她會在與你交談之間了解你要做的工作，自主建立必要的 Skill。
以設定定時查詢 iPhone Duo 回收價的 Skill 為例，你只要直接對她說「從網上和 Facebook 收集 iPhone Duo 的最新報價」Hermes Agent 就會自動去搜集來源，建立 iphone-duo-price-monitor skill，日後再問的時候就會加快不少。如果你覺得結果不合心水，例如缺少了哪個網站資料來源，大可向她提出修改。
定時任務：自動查詢六合彩結果
另一項實用功能是 Hermes Agent 的 Cron 定時任務。以六合彩結果提示為例，大可跟她說：「以後逢星期二、四、六晚上 10 時半到 hkjc.com 查看最新中獎號碼和派彩資料。」以後就會定時報告。
比起每次都要主動開啟 AI 查詢，定時任務可以令 AI 助理變得更主動。類似功能亦可以延伸到每日新聞整理、定期報告、產品價格監察及企業內部通知。
商業應用實測：Hermes Agent 自動處理客服工單
除了個人日常事務，AI Agent 能否真正協助企業處理工作，相信是更多用戶關心的問題。為了考驗 Hermes Agent 的實際能力，筆者設計了一項模擬企業客服場景，讓 AI 同時處理產品保固政策、內部知識檢索及客戶工單。
我們準備了公司的產品保固政策、客服 FAQ，以及三份不同情況的維修工單，要求 Hermes Agent 閱讀所有文件，再按照內部政策判斷每位客戶是否符合保固資格、後續應採取甚麼處理方法，並草擬回覆客戶的電郵。筆者甚至佈置了一個陷阱，保固政策與 FAQ 有政策衝突。AI 需要綜合多份文件的內容，分辨各種保固條件、例外和衝突情況，再作出有根據的判斷。
短時間完美完成工作節省人手
實際測試結果令人滿意。Hermes Agent 不但能夠按照文件內容，正確判斷不同個案的保固狀態，亦能識別多種容易混淆的條件，甚至對衝突條中提出修正建議。完成判斷後，Hermes Agent 亦按個別客戶的情況草擬回覆電郵，令原本需要人工逐份閱讀、比對條款及撰寫回覆的工作，可以透過單一 AI 工作流程完成。
另一個值得留意的細節，是 Hermes Agent 並非一味執行所有指令。在測試期間，它曾多次停下來請求使用者作出指示，包括確認聯絡客戶的時間，以及是否需要同時發出相關提示等操作細節，等待人類指示後才繼續工作。可見 Hermes Agent 可以成為人類工作上的好夥伴。
穩定生成輸出．32GB VRAM 展現優勢
| 硬件監測項目 | 平均值 | 峰值 |
|---|---|---|
| GPU 板卡功耗 | 285.5W | 309W |
| GPU 溫度 | 76.2°C | 82°C |
| GPU 顯示記憶體使用量 | 19.03GB | 19.13GB |
| CPU 使用率 | 37.7% | 68.7% |
| CPU 溫度 | 51.1°C | 70.6°C |
而在 AI 模型效能方面，我們可以看到處理客服工單期間，穩定地以平均每秒 512.97 token 處理提示詞，並以每秒 48.29 token 輸出文字。顯示這模型在 ASUS Agent Computer 上推論吞吐量非常穩定，持續生成能力良好。
| Prompt 處理速度 | 文字生成速度 |
|---|---|
| 512.97 tokens/s | 48.29 tokens/s |
更值得留意的是，整段測試期間的 VRAM 使用量相當穩定，沒有出現明顯的大幅波動。這也反映在此次工作負載下，32GB 顯示記憶體不只提供足夠空間載入相關運算資源，亦可為其他工作及模型設定保留一定彈性。
對中小企業而言，這種應用尤其值得關注。只要預先整理內部知識文件，AI Agent 便有機會協助客服快速查找條款、整理個案及草擬回覆，減少重複性文書工作。配合本地部署的特點，企業亦可以進一步控制內部政策文件及客戶資料的處理方式。
影片生成：MiniMax H3 挑戰本地 AI 短片
影片生成是現時對硬件要求較高的 AI 應用之一。今次我們選用 MiniMax H3，透過 ComfyUI 工作流程生成短片，測試 Radeon AI PRO R9700 32GB 能否應付這類大型生成模型。
這次我們使用參考圖生成工作流，向 MiniMax H3 提供兩個角色的參考畫格，並輸入詳細的分鏡的提示詞。我們分別測試兩種解像度和時長，分別是 864 x 480（5 秒）和 1056 x 608（10 秒）。與雲端影片生成工具相比，本地執行的好處是用戶可以自行管理輸入素材及生成檔案，不必為每段影片支付雲端生成費用。
測試結果
- 使用模型：MiniMax H3
- 生成影片長度：5 秒 / 10 秒
- 生成解像度：864 x 480 / 1056 x 608
- 生成所需時間：5 分 48 秒 / 86 分 31 秒
- GPU VRAM 峰值：27.1 GB
圖像生成：Qwen Image 2.1
除了影片，圖像生成亦是 Local AI 相當實用的功能。今次使用 Qwen Image 2.1，透過 ComfyUI 進行換衣服測試。
相對大型影片生成，圖片生成的操作通常較直接。我們從 ComfyUI 的範本庫載入「Qwen Image 2.1：圖片編輯」工作流，然後上傳一張女子的立像照片和一張衣服設定照片，提示詞只是簡單一句：「Replace costumes for the character」，便可以讓模型生成對應的圖像。無論是個人試穿還是製作宣傳素材，都有一定實用性。
更重要的是，圖片生成過程可以保留在本機，方便用戶使用自己的參考素材、反覆調整 Prompt，以及儲存不同版本。對需要經常製作視覺內容的創作者而言，亦可減少對雲端生成次數的依賴。
測試結果
- 使用模型：Qwen Image 2.1
- 生成解像度：1120 x 1408
- 生成所需時間：139.21秒
音樂生成：YuE2 本地製作音樂
除了圖片及影片，AI 甚至可以協助創作音樂。今次我們選用香港 HKGAI 開發的音樂生成模型 YuE2，透過文字描述及指定的生成設定，嘗試在 ASUS Agent Computer 上製作音樂內容。
相比一般文字生成，音樂模型除了需要理解風格及創作要求，還要處理較長的聲音序列，對運算資源與生成時間都有一定要求。
本地音樂生成的吸引力，在於可以自行設定創作方向，並將生成流程保留在自己的電腦內。YuE2 更獨有可修改曲譜的功能，對影片製作者、網上內容創作者或有興趣探索 AI 音樂的人而言，可以作為另一種創意工具。
測試結果
- 使用模型：YuE2
- 生成音樂長度：120 秒
- 生成所需時間：55.07 秒
總結：自建 Local AI，效能、私隱與自由度兼得
經過今次體驗，可以看到本地 AI 已經不再局限於簡單聊天或文字生成。透過 Hermes Agent、llama.cpp 及 ComfyUI Desktop 等工具，一部配備足夠硬件資源的桌面電腦，已經可以成為兼顧私人助理、企業工作流程與多媒體創作的 AI 平台。
ASUS Agent Computer 的最大優勢，是將強大的 GPU 運算能力與桌面電腦的升級彈性結合。ASUS Turbo Radeon AI PRO R9700 配備 32GB VRAM，能為大型 AI 模型提供充裕的顯示記憶體，而 Ryzen 9 9950X3D 與 64GB DDR5 記憶體亦可應付多工操作及 AI Agent 的周邊工作。配合 ROG 主機板、1200W 電源供應器及大型 LCD 水冷散熱器，不但兼顧硬件擴充與外觀設計，也讓整部 AI 工作站更具個人特色。
實際商業應用測試亦展示了本地 AI Agent 的潛力。Hermes Agent 成功閱讀公司文件和客戶的訂單，作出處理判斷、找出政策衝突，並草擬客戶回覆，能在短時間內完成整套包括人工確認環節的工作流程，展現了本地部署 AI 在商業知識工作上的實用價值。
當然，自建 AI 仍然有一定門檻，使用者需要自行安裝模型、管理軟件環境，亦要面對不同模型在硬件相容性、運算速度及生成質素方面的限制。但換來的，是能夠自主選擇模型、控制資料存放位置、減少對雲端付費服務的依賴，以及按需要不斷升級硬件。
對希望建立私人 AI 助理的進階用戶、經常製作 AI 內容的創作者，以及需要處理內部文件的中小企業來說，ASUS Agent Computer 提供了一個值得考慮的本地 AI 平台方案。
ASUS Agent Computer 官方網站：https://www.asus.com/microsite/agent-computer/hk/
