工作管理員說 llama-server 吃了 17GB RAM 我把整個過程錄下來了
本地 AI 推論 · 記憶體診斷 工程筆記 · 實測紀錄 Mr. τ／風雲網通系統 · 2026-06-09 我有一台 64GB RAM 的地端 AI 主機，平常系統總用量很少超過 16GB。那天睡眠喚醒後，瞄到用量靠近 32GB，直覺就覺得不對。打開工作管理員，最顯眼的那行是 llama-server.exe，排在所有程式最上面，佔了 17GB。 第一個念頭：GPU offload 掛了，Qwen3.6 27B 整個跑回 CPU 了？ 但 nvidia-smi 一查，GPU1 8153MB、GPU2 8701MB，紋絲不動。推論速度 18.6 tok/s，也沒事。 GPU 好好的，模型在跑，但 RAM 突然多了將近一倍的用量。 那個 17GB 到底是什麼？ 我沒有重開機。我寫了一個監控程式，把整個過程錄下來。 實測數據：163 筆，每 2 秒一筆 程式從喚醒前就跑著，Sleep/Resume 全程自動記錄。以下是這次事件的完整時間軸。 19:31:52 ── 基準線 llama-server Working... » read more