「評測」ASUS NUC 14 Pro AI - 迷你電腦也能跑大語言模型？！
Lunar Lake 是個 Intel 近期難得的驚豔之作，把 ARM 陣營的特色通通借過來，證明了 x86 寶刀未老。而 ASUS 這款 NUC 便是搭載了 Lunar Lake 的產品之一，挺意外的，在一款桌上型的 NUC 小電腦看到 Lunar Lake 的存在。不過，只有 Lunar Lake 這賣點肯定是不夠的，而在這個 AI 世代，不管什麼產品那鐵定都是要來跟 AI 蹭個邊的。既然 ASUS 把這款 NUC 加了個 AI 名字上去，那我就要來看看它是否對得起其 AI 之名。
開箱 - ASUS NUC 14 Pro AI
首先看到外盒，只有大大的產品樣貌和型號印在上面，十分純樸。
正面相當低調，I/O 由左至右分別是電源按鍵、3.5mm 耳麥接口、兩個 USB 3.2 Gen1 Type-A 5Gbps、Thunderbolt 4 和 Microsoft Copilot+ 按鈕。
背面同樣由左至右是電源接口、2.5GbE RJ-45 網路孔、Thunderbolt 4、HDMI 2.1 TMDS（非完整版 HDMI 2.1）和兩個 10Gbps 的 USB 3.2 Gen2 Type-A。
整機三圍僅 130×130×34mm，佔地面積比放在旁邊的 Nintendo Switch 還小。
拆機 - ASUS NUC 14 Pro AI
拆機部分是非常愉快的，華碩在背蓋設計了免工具快拆，背蓋由一個滑動卡扣固定，不用準備螺絲起子就能拆裝。
可供更換的僅有這條 M.2 SSD，同樣也是免工具設計，由藍色的 Q-Latch 固定，RAM 則是與 CPU 一同封裝，無法更換或是加裝。
AI - Does it run Ollama？
那麼回過頭來，這款 NUC 以 AI 為名，有何 AI 功能呢？首先是 Microsoft 為 Copilot+ PC 準備的 AI 小畫家、即時字幕和影像編輯等。透過 ASUS NUC 14 Pro AI 本地的 GPU 和 NPU 提供算力，在電腦本地進行運算，達到即時翻譯字幕和影像生成等功能。
當然這些功能在 Android 手機中早已不是什麼新東西了，而 ASUS NUC Pro 14 AI 的 Lunar Lake 處理器不僅搭載了 Arc 140V GPU，可使用 16GB 的系統記憶體，還有一顆 48TOPS 的 NPU。總共 120TOPS 的 int8 算力，卻只能跑這些基本功能有些浪費吧？至少得跑個語言模型，才對得起這 AI 之名，那就來試試看跑大語言模型（LLM）吧！不過，如各位所知，目前 AI 生態系大量仰賴 CUDA，因此想在 Intel GPU 上面跑 AI 服務都要一些特殊的技巧。在本地大語言模型部署中，這個技巧就是 IPEX-LLM，一個 Intel 自行維護的 LLM library。自行維護意味著它的更新速度會比較慢，以目前最新的 Qwen3 和 Gemma3 模型而言，就需要切到 beta release 並手動安裝 dependency 才能使用。
由於安裝 IPEX-LLM 的 Ollama 需要對 Python 還有程式一點的了解，這邊跳過複雜的設定直奔主題，來試試看在這台小巧的 NUC 上運行語言模型。首先以目前最強的 8B 模型 DeepSeek-R1-0528-Qwen3-8B 作為測試，可以看到 ASUS NUC 14 Pro AI 成功且順暢地運行起了 8B int4 精度的語言模型，GPU 記憶體佔用大約 7.8GB，整機系統記憶體也只有 61% 的使用率，十分充足。查看 Open WebUI 的紀錄，於長文件的問答中，Response 的 token/s 可以達到 8.59/s，以 NUC 這種小電腦來說十分足夠了。
但如果是 12B 參數的 Gemma3 12B QAT，運行起來就比較吃力了，會佔用較多的記憶體。
當然，Ollama 不只可以透過 command line 運行，也可搭配一些前端，如：Open WebUI，就可以打造出私有的 ChatGPT，全部運算都在本機，不用擔心數據洩漏出去。只不過本地部署 LLM 的問題在於這些小模型的幻覺問題比較嚴重，處理文件和數據沒問題，但要查東西就需要多驗證了。
由於華碩並沒有針對處理器的 GPU 和 NPU 自行準備一些 AI 應用，多數依靠微軟為 Copilot+ PC 提供的 AI 功能。考慮到 Ollama 和 Open WebUI 的部署比較複雜，想要在不碰 python 的情況下，一鍵運行 AI 工具的話，可以參考 Intel 提供的 AI Playground，該軟體有提供簡單的 Chat 和圖片生成功能。
性能測試 - ASUS NUC 14 Pro AI
最後，來點例行性的跑分。首先看到 CPU 的部分，ASUS NUC 14 Pro AI 搭載的是 Intel Ultra 9 288V Lunar Lake 處理器，有 4 顆 P-core 和 4 顆 E-core，再搭配有著 8 顆 Xe 核心的 Arc 140V GPU，以台積電 N3B 製程打造。搭配 32GB LPDDR5x-8533 雙通道記憶體，於 Cinebench R23 單核得分 1,726，多核 9,184 。
Cinebench 2024，單核 124，多核 649。
代表日常使用性能的 PCMark 得分 7,897。
以 Microsoft Office 為測試主體的 PCMark Application 得分 14,190。
同樣是以 Microsoft Office 來測試生產力的 Procyon，得分 233,000。
3DMark SpeedWay 600 分。
3DMark SteelNomad 853 分，由於沒有獨立顯示卡，跑 3A 大作會比較吃力，但 CS2 等較為輕量的遊戲還是玩得了。如果有 3A 大作或是重度遊戲需求，建議往 ROG 系列的 NUC 去選購。
最後看到 AI 的表現，首先是 Procyon AI Text Generation，可以看到相比獨立 GPU，NUC 14 Pro AI 的內顯 Arc 140V 速度還是比較有限的，但是得益於可以直接存取 16GB 的系統記憶體，相比只有 10GB 的 Arc B570，運行 AI 時，就比較不會遇到記憶體不足的問題。
至於圖片生成的部分，有著 16GB 記憶體可供 GPU 調用的好處就是 U-Net 的模型幾乎都跑得動，但以產圖速度而言，內顯與獨顯還是有一定的差距。
最後是電腦視覺的部分，同樣也可見速度上與獨立顯示卡具有一些差距，但意外的是差距不大。
心得 - ASUS NUC 14 Pro AI
ASUS NUC 14 Pro AI 是一款十分優秀的迷你小主機，處理器搭載頗受歡迎的 Intel Lunar Lake，在維持小體積的同時還能有不錯的性能表現。尤其 GPU 和 NPU 都有著不錯的 AI 算力，不僅支援微軟的 Copilot+ PC，也能跑的動 int4 量化的 8B 參數量模型。對於有機密資料不能上傳雲端的用戶來說，小體積且跑得動本地語言模型的辦公電腦是個很特別的存在。只可惜，內建的記憶體除了此次開箱的 Core Ultra 9 288V 款式有內建 32GB 外，其他 Core U5 和 U7 的款式就只有 16GB 了，如果真的打算拿來跑 LLM，還請務必加價直上 Core U9。使用體驗上，ASUS NUC 14 Pro AI 有著豐富的 I/O 和指紋辨識，不管是家用還是辦公用都不成問題，且得益於 Lunar Lake 的低溫和省電，多數時候這台 NUC 都可以發揮它安靜低調的技能，不像普通筆電一樣，開個瀏覽器風扇就直線起飛。ASUS NUC 14 Pro AI 對於辦公和家用的需求非常合適，小體積不佔空間，搭配能耗優秀的 Lunar Lake 也不用擔心過熱和性能問題。放在自家上網、追劇、打小遊戲、查資料，或是在公司工作使用都是很適合的選項。目前 Core Ultra 9 288V + 32GB 版本的 NUC 14 Pro AI 市價約 5 萬元，U5 和 U7 搭配 16GB 記憶體的版本則大約 3 萬 ~ 4 萬之間，對於迷你電腦有需求的用戶可參考。廣告
網友評論 0 回覆本文