巨頭不是為 SMB 而設計,卻意外改變了 SMB 的 AI 部署門檻
巨頭不是為 SMB 而設計,卻意外改變了 SMB 的 AI 部署門檻

巨頭不是為 SMB 而設計,卻意外改變了 SMB 的 AI 部署門檻 工程師思路系列・事出必有因 | Mr. τ/風雲網通系統 如果把近兩年大型模型(Google、Meta、DeepSeek、阿里、Moonshot 等)的演進整理起來,可以發現一件有趣的事: 幾乎沒有任何一項技術,是專門為 SMB 本地部署而設計。 各家模型公司真正追求的,始終是資料中心的吞吐量(Throughput)、降低雲端服務成本、增加併發(Concurrency),以及降低每百萬 Token 的推論成本。 然而,這些為龐大雲端設施打造的底層技術,透過開源與社群的轉譯,最後卻讓只有雙卡 RTX 3060 12GB、甚至 Mac Studio 的 SMB 使用者,意外成了最大的受益者。 要理解這股紅利如何傳導到地端,不能只看單一名詞,而必須用系統工程的三層架構來拆解。更重要的是,這三層並非平行存在,而是嚴格的依賴與傳導鏈: 模型架構(決定天花板) → 推論框架(決定能不能跑) → 部署技術(決定有沒有資格入場) 例如:MLA 再強,如果推論引擎沒有支援,SMB 一樣享受不到;反過來,GGUF 量化格式再成熟,如果模型本身缺乏 GQA 或高效設計,VRAM 還是會被 KV Cache 瞬間撐爆。唯有三者同步成熟,地端的性價比甜蜜點才會出現。 第一層:模型架構層(決定天花板) 一 MLA(Multi-head Latent Attention)— 以 93.3% 壓縮率突破 KV Cache 瓶頸... » read more

[長篇] PC 平台演化與相容性失效的統一解釋框架 — 契約失效模型 Contract Failure Model (CFM)
[長篇] PC 平台演化與相容性失效的統一解釋框架 — 契約失效模型 Contract Failure Model (CFM)

契約失效模型 Contract Failure Model (CFM) 二十年 PC 平台演化與相容性失效的統一解釋框架 作者:Mr. τ / 風雲網通系統有限公司 PCPiLOT 工程師思路系列 2026 年 7 月 摘要 本文提出「契約失效模型」(Contract Failure Model,CFM),作為解釋 2009 至 2026 年間 PC 平台相容性失效現象的統一理論框架。 傳統觀點認為電腦被淘汰的主因是硬體效能不足,然而透過對二十年現場案例的系統性歸納,本文發現真正的淘汰機制來自另一個方向:系統各層之間的隱性能力假設(即「契約」),在使用者不知情的情況下,被標準組織、作業系統開發者、平台廠商或硬體供應商單方面終止或改寫。 CFM 將所有失效形式收斂為四個維度:執行能力斷裂、溝通能力斷裂、維護能力斷裂、取得能力斷裂。在決策層,本文進一步提出四色交通燈評級系統,將抽象的四維狀態轉換為可直接用於現場判斷的風險評級,並指出同一台機器在不同用途下可以同時存在不同的 CFM 評級。 本框架目前屬於描述性但結構穩定的工程級理論,已可跨時代、跨平台、跨廠商一致地解釋系統失效現象,並具備直接的現場可操作性。 一、緣起:從一份舊電腦清單開始 這套理論的起點,是一份非常普通的清單。 作為服務台中中小企業的 IT 委外顧問,手邊長年累積了各種年代的筆記型電腦,從 2009 年的 ASUS F6V 到 2017 年的 ASUS P2530U,橫跨整整八年。每一台都面臨同一個問題:該繼續用,還是汰換? 最初的問題只是:「這台電腦能不能順利播放 YouTube?」但隨著案例愈積愈多,一個更深層的問題逐漸浮現:為什麼有些電腦是「跑得慢」,有些卻是「完全不能用」?效能不足和功能缺失,這是兩件性質完全不同的事。 這個問題,引發了二十年現場經驗的系統性回顧,最終形成本文所提出的契約失效模型。 1.1 案例清單 以下為本文分析所依據的硬體案例集,涵蓋 2009 至 2017 年間的八個代表性機型,並標注各機型已觸發的 CFM 限制條件:... » read more

規格表贏了,然後呢?從 Intel ARC 驅動更新看半導體競爭的真實邏輯
規格表贏了,然後呢?從 Intel ARC 驅動更新看半導體競爭的真實邏輯

工程師思路系列・事出必有因 規格表贏了,然後呢? 從 Intel ARC 驅動更新看半導體競爭的真實邏輯 Mr. τ・風雲網通系統・2025 最近看到 Intel ARC 系列顯示卡發布了新版驅動程式,點進去看更新內容,發現絕大多數都是 bug fix——修這個、修那個,幾乎沒有新功能或性能提升。 這讓我停下來想了一下。 因為如果只看硬體規格,Intel ARC B580 其實不差。12GB GDDR6、192-bit 記憶體介面、繪圖記憶體頻寬 456 GB/s——放在同價位段,這個數字完全不輸競品,甚至超過不少對手。 規格表上,Intel 這次是認真做的。但驅動更新清單告訴你另一件事:規格表贏,不等於產品力贏。 一、NVIDIA 與 AMD 這十幾年鋪了什麼 要理解 Intel ARC 面對的困難,必須先搞清楚對手這十幾年到底累積了什麼。這些東西不會出現在規格表上,但全部都是真實的護城河。 第一層:幾千款遊戲的相容性資料庫。每一款遊戲都有自己的怪癖——特定的渲染 API 用法、記憶體存取模式、多執行緒行為。NVIDIA 和 AMD 的驅動裡,藏著多年來針對個別遊戲調校的 profile,有些甚至是為了修一個特定遊戲的特定場景而存在的 workaround。這個資料庫是時間換來的,沒有捷徑。 第二層:開發者生態的綁定。NVIDIA 的 CUDA 已經成為 AI 運算的事實標準,PhysX、DLSS 讓遊戲開發者主動針對 NVIDIA 優化。AMD 則有 FSR 和 ROCm 在追趕。這些工具不只是功能,而是讓開發者在設計產品時就預設你存在——這種綁定一旦形成,競爭者要切入的成本極高。... » read more

Windows 11 更新,有時,不是越新越好
Windows 11 更新,有時,不是越新越好

PCPiLOT FIELD NOTES ✦ 工程現場實錄 Windows 11 更新,有時,不是越新越好 一台 Q470 主機板,三層電源管理的通關紀錄 2026-06 ✦ Mr. τ/風雲網通系統 這篇文章不需要你懂 BIOS 或 Windows 更新機制。 它講的是一件很多人用過幾年的電腦都可能碰到的事:Windows 11 更新越裝越新,機器卻開始出現各種說不清楚的怪現象。睡眠有問題、關機有問題、更新裝不進去——每一個問題看起來都不一樣,但追到最後,指向的是同一個方向。 這是一次真實的維修通關紀錄,也是我交機時跟客戶說的那段話。 起點:以為只是換一顆 SSD 鄰居送來一台 ASUS 商用機(Q470 晶片組),SSD 故障。好消息是還在保固內;壞消息是原廠更換要等兩週。最近 SSD 漲價四到六倍,客戶很冷靜:「等就等。」 於是我用工程部備用的 SATA SSD,做了一次乾淨的 Windows 11 24H2 安裝,讓機器先恢復正常使用。等原廠 SSD 修返,再用系統複製工具把整個環境搬過去。補完主機板驅動,讓 Windows Update 慢慢跑。一切看起來只是例行維修——直到更新開始跑。 ⚠️ 關卡一:DISM 都過了,更新還是卡在 98% KB5095093(選用預覽更新)安裝 → 重新開機 → 更新到 98%... » read more

一台印表機故障,如何長出一套診斷工具
一台印表機故障,如何長出一套診斷工具

從一次客戶故障,到一套診斷工具的誕生 工程師思路系列:好心辦壞事 —— 一台印表機故障,如何長出一套診斷工具 有些問題,看起來像設備故障。 有些問題,看起來像驅動程式損壞。 但真正深入追查後才發現, 問題其實來自一個原本出於善意的設計。 這次的個案,就是如此。 問題出現 家中有一台 HP Smart Tank 510 無線印表機。 多台 Windows 11 電腦長期正常使用。 但其中一台電腦,某天開始突然無法列印。 更奇怪的是: 測試頁正常 印表機狀態頁正常 Ping 正常 印表機顯示 Online 唯獨 PDF 與 Word 文件送出後, 印表機只動一下就停住。 彷彿設備正常, 卻又無法真正工作。 第一輪排查 遇到這種問題時,最重要的不是急著修復, 而是先排除錯誤假設。 於是開始逐項驗證: 重新安裝 HP 官方完整驅動 確認 Wi-Fi 連線正常 確認其他電腦可正常列印 確認印表機韌體正常 確認網路可正常 Ping 通 結果全部通過。 問題依然存在。 此時可以確定: 印表機本身並沒有壞。... » read more

三個不同案例,相同的處理態度與思路
三個不同案例,相同的處理態度與思路

三個不同案例,相同的處理態度與思路 —— 事出必有因系列:不放棄,往問題核心一層層剝去 今天處理了三個 SMB 客戶的現場案件。 網站與信箱突然全部中斷、NAS 權限設定怎麼改都沒用、診所印表機突然不能列印。 三件事看起來毫無關聯,但處理完之後,我發現它們其實在說同一件事: 每一個「突然壞掉」,都只是入口。真正的工作,是從入口走進去,一層一層,直到找到那個改變的點。 案例一|公司網站與信箱同時消失 客戶早上傳訊息過來:「官網打不開,寄出去的信全部退回。」 第一反應不是叫他去問主機商。 因為網站無法存取,不一定是主機壞了。第一順位的懷疑,是 DNS。 查了 WHOIS,果然——域名出現了 clientHold 狀態。 這個狀態代表:域名在註冊商端被暫時凍結,整個 DNS 解析鏈中斷,網站、信箱、所有對外服務,全部同時消失。 問題是,這個案件牽涉四個環節: 環節 負責方 域名註冊 國外供應商 Tucows,台灣由遠振代理 網站架設 另一家廠商維護 郵件服務 Google 代管 現場 IT 客戶自行處理 四個環節,沒有一個有完整的第一手資訊。能做的,是透過即時聊天持續與客戶確認現象,同時用 DNS 查詢工具監測狀態,逐層排查。 大約三、四個小時後,clientHold 自動解除,服務恢復正常。 原因?到現在還沒有明確答案。 這就是某些案件的現實——你找到了問題在哪裡,但「為什麼發生」這個問題,有時候沒辦法有完美的結論。 📌 企業主應該知道的事 域名是你公司數位資產的地基。地基出問題,上面所有東西同時消失——網站、信箱、一切對外的數位服務。 它不在你的主機上,不在你的 IT 人員手裡,它在域名註冊商那裡。 幾個值得確認的問題:你的域名在哪家註冊商?續費通知寄到哪個信箱?負責人離職後,這些資訊還在公司手裡嗎? 案例二|NAS 權限設定怎麼改都不生效 建築師事務所,Synology NAS。 管理員反映說有兩個資料夾的存取權限怎麼設都沒用——帳號正常,操作步驟也對,就是不生效。... » read more

收斂的委員會:Decision Convergence Engineering 的一次實踐
收斂的委員會:Decision Convergence Engineering 的一次實踐

個案經驗分享 · AI 應用實戰 · 決策工程 收斂的委員會 Decision Convergence Engineering 的一次實踐 人越多,越難收斂——這是多數人對開會的印象。但我的經驗剛好相反:當與會者全是 AI,收斂速度反而比任何真人委員會都快。 Mr. τ / 風雲網通系統 · 2026 🤔 一個違反直覺的觀察 很多人對開會的直覺是:人越多,立場越多,越難有結論。 這個直覺在真人世界裡完全正確。但當與會成員換成 AI 助理,這個規律就失效了。 我長期使用多模型合議來輔助重大決策,觀察到一件事:AI 委員會的發散速度很快,收斂速度也很快。 而且幾乎不需要主席強行裁決——觀點的碰撞本身就會自然篩選出值得保留的東西。 ⚖️ 真人委員會 vs AI 委員會 真人委員會難以收斂,不是因為人不夠聰明,而是因為人帶著太多與問題本身無關的東西進入討論: 真人委員會的阻力 AI 委員會的特性 權力鬥爭與派系利益 ✔ 無組織政治 面子問題、不願認錯 ✔ 無自我防衛 情緒反應與歷史包袱 ✔ 每次對話都是新的起點 部門本位、各守地盤 ✔ 只針對問題本身給出立場 開會時間有限、精力有限 ✔ 幾分鐘內給出有結構的完整立場 AI 之間觀點不同,但沒有任何一個模型有「贏過其他模型」的動機。它們只是在回應問題本身。這讓討論的訊噪比大幅提高。 🧭 實際流程是這樣跑的 我的主導... » read more

AI 時代工作法企業 AI 治理知識工程
AI 時代工作法企業 AI 治理知識工程

AI 時代工作法 企業 AI 治理 知識工程 你不需要懂 AI, 但你需要當市長 從三個真實事故,長出來的企業 AI 治理架構 Mr. τ/風雲網通系統有限公司  ·  2026 有一次,我交代一個任務給 AI 助理。 它沒有問我任何問題,直接開始工作。 三十分鐘後,它回報完成了。 但它做的,不是我要的那件事。 它自己判斷了工作範圍,自己決定了方向,然後非常認真地,走錯了路。成本,照單全收。 這不是特例。這件事在不同形式下,我遇到了很多次。 每次我都在想同一個問題: 如果 AI 不知道邊界在哪裡,它會自己畫一條。 而那條線,不一定是你要的那條。 這個問題,帶過人的主管都遇過。新進員工摸不清楚狀況,做了一堆不在範圍內的事;外包廠商沒有接到明確指令,就按照自己的習慣走。AI 也是一樣——只是它做事的速度快很多,所以走錯的代價也大很多。 後來我把這些事故整理了一遍,發現它們都指向同一個根本原因: 不是 AI 不夠聰明。而是沒有人在治理它。 這也是我後來畫出這張圖的原因。 [ 五層市政廳架構圖 ] 人類治理 → AI 協作 → 文件系統 → 知識中心 → CSP 基礎設施 這張圖把企業 AI 協作拆成五層。每一層,我都曾經在真實事故裡感受過「缺了它會怎樣」。 以下,我用三個事故來解釋這張圖。 事故一:它很認真,但沒有人告訴它邊界在哪裡... » read more

AI 沒有猜錯,但我還是不知道自己在看哪一張 RTX 3060
AI 沒有猜錯,但我還是不知道自己在看哪一張 RTX 3060

AI 沒有猜錯,但我還是不知道自己在看哪一張 RTX 3060 從 GPU Name、Index、Bus ID 到 VBIOS Version,一場關於「可信觀測點」的除錯旅程 最近在研究 Ollama 與 llama.cpp 的 GPU 排程行為。一開始只是想搞清楚幾個小問題:為什麼 Windows 工作管理員看到的數字,跟 nvidia-smi 看到的不太一樣?為什麼有些模型看起來應該跑在某張卡上,行為卻又不像? 查著查著,我突然發現一個更根本的問題: 我根本不知道自己正在看哪一張 RTX 3060。 我的機殼裡插著三張長得一模一樣的 RTX 3060:同晶片、同 12GB 容量、外觀幾乎沒有差別。當兵時學過「四清、兩點、五查、三找」,裝備識別一個都不能少。沒想到二十年後在自己家裡,我被三張顯示卡逼著把這套紀律重新拿出來用——而且用得比當兵時還狼狽。 GPU 識別其實不是問題本身。它是為了驗證推論系統行為,不得不先解決的前置問題。觀測點如果不可信,後面所有的推論都會跟著錯。以下是這趟除錯的完整過程,包含 AI 助理陪我一起猜錯的每一層。 四層誤判 1第一層誤判:GPU Name 三張卡通通顯示 NVIDIA GeForce RTX 3060。完全沒用,毫無區別。 2第二層誤判:nvidia-smi 的 Index(GPU 0 / 1 / 2) 很多人第一反應是看 Index。但這台機器一路從 GTX 750... » read more

36GB VRAM 的幻覺:我讓三家 AI 預測 RTX 3060 ×3 的推論效能,結果全部輸給實測數據
36GB VRAM 的幻覺:我讓三家 AI 預測 RTX 3060 ×3 的推論效能,結果全部輸給實測數據

36GB VRAM 的幻覺:我讓三家 AI 預測 RTX 3060 ×3 的推論效能,結果全部被數據打臉 Mr. τ/風雲網通系統 · 2026-06-10 · 地端 AI 基礎設施 一、心動的開始 前幾天,社群裡流傳一篇文章。 有人用 RTX 5090 在本地跑 Gemma 4 12B,透過一個參數調整,TPS 從 27 直接飆到 103。將近四倍。 看完之後,我盯著螢幕想了很久。 「我手上有三張 RTX 3060 12GB,加起來 36GB VRAM。應該也能跑得很猛吧?」 其實買第三張卡的初衷很務實。不是為了炫耀規格,而是有實際需求: 兩張卡跑大一點的模型,偶爾會 OOM(顯存不足),動不動就崩 想測試 26B、27B 等級的模型,需要更寬裕的 VRAM 緩衝 不希望因為顯存限制,就把好不容易找到的優質模型放棄 帶著這個期待,我做了一件很多人都會做的事:先去問 AI。 💡 小科普:什麼是 TPS? TPS = Tokens Per... » read more

看懂 Qwen3-30B-A3B-QAT-Instruct-Q4_K_M-MTP-NSFW:2026 地端 AI 模型命名學完全指南
看懂 Qwen3-30B-A3B-QAT-Instruct-Q4_K_M-MTP-NSFW:2026 地端 AI 模型命名學完全指南

看懂 Qwen3-30B-A3B-QAT-Instruct-Q4_K_M-MTP-NSFW:2026 地端 AI 模型命名學完全指南 從模型名稱看懂參數規模、MoE 架構、量化格式與推理優化 當你開始接觸地端 AI(Local AI)之後,很快就會發現一件事: 最大的障礙不一定是顯示卡,也不一定是 Linux。 而是模型名稱。 第一次看到: Qwen3-30B-A3B-QAT-Instruct-Q4_K_M-MTP-NSFW 很多人的反應通常都是: 「這到底是模型名稱,還是 Wi-Fi 密碼?」 事實上,這串名稱並不是亂命名。 它其實是在用最短的字數,描述模型的架構、規模、量化方式、推理特性與用途。 如果能看懂這些縮寫,你幾乎可以在下載前就判斷: 需要多少記憶體? 跑起來快不快? 適合聊天還是寫程式? 是否支援特殊優化? 是否有安全限制? 一、30B 是什麼? 30B 指的是: 30 Billion Parameters 也就是 300 億參數。 參數可以理解成模型在訓練過程中學到的知識權重。 模型規模 常見用途 3B 輕量聊天助手 7B 個人 AI 助理 14B 進階推理 30B 高品質通用模型 70B+ 接近大型商業模型能力 通常參數越大,能力越強,但所需記憶體也越高。 二、A3B 是什麼?... » read more

工作管理員說 llama-server 吃了 17GB RAM 我把整個過程錄下來了
工作管理員說 llama-server 吃了 17GB RAM 我把整個過程錄下來了

本地 AI 推論 · 記憶體診斷 工程筆記 · 實測紀錄 Mr. τ/風雲網通系統  ·  2026-06-09 我有一台 64GB RAM 的地端 AI 主機,平常系統總用量很少超過 16GB。那天睡眠喚醒後,瞄到用量靠近 32GB,直覺就覺得不對。打開工作管理員,最顯眼的那行是 llama-server.exe,排在所有程式最上面,佔了 17GB。 第一個念頭:GPU offload 掛了,Qwen3.6 27B 整個跑回 CPU 了? 但 nvidia-smi 一查,GPU1 8153MB、GPU2 8701MB,紋絲不動。推論速度 18.6 tok/s,也沒事。 GPU 好好的,模型在跑,但 RAM 突然多了將近一倍的用量。 那個 17GB 到底是什麼? 我沒有重開機。我寫了一個監控程式,把整個過程錄下來。 實測數據:163 筆,每 2 秒一筆 程式從喚醒前就跑著,Sleep/Resume 全程自動記錄。以下是這次事件的完整時間軸。 19:31:52 ── 基準線 llama-server Working... » read more