不花 API 錢也能做智能客服嗎？零 LLM 引擎做得到

原文（蒸餾精華 第 4 段）

5 層純 JS 引擎，0.1 秒回應，零 API 成本：

L1: ChatDetector（正則判斷是閒聊還是問題）
L2: KeywordExtractor（4 層：核心詞 → 動作詞 → 上下文詞 → 同義詞展開）
L3: WeightCalculator（層級權重 + 組合加分 + 位置加分）
L4: IntentClassifier（意圖分類）
L5: ResponseBuilder（模板回應）
+ LRU Cache（1000 筆）

Claude 的白話解釋

這五層是一條流水線，每一層做一件事，最後拼出回應。用一個具體的例子走一遍：

使用者輸入：「資安法有規定醫院要做什麼嗎？」

L1 ChatDetector
  → 正則比對：有「規定」「資安法」→ 判定是正經問題，不是閒聊
  ↓
L2 KeywordExtractor
  → 核心詞：資安法、醫院、規定
  → 動作詞：（無）
  → 上下文詞：做什麼
  → 同義詞展開：醫院 → 醫療機構、醫療院所
  ↓
L3 WeightCalculator
  → 「資安法」出現在句首 → 位置加分
  → 「資安法」+「醫院」組合出現 → 組合加分
  → 最終分數排序，找到最佳匹配的知識條目
  ↓
L4 IntentClassifier
  → 意圖分類：法規查詢
  ↓
L5 ResponseBuilder
  → 從「法規查詢」模板池挑出對應回答
  → 填入匹配到的知識條目內容
  ↓
LRU Cache
  → 存起來，下次同樣的問法直接秒回

用 AI（LLM）回答這個問題：呼叫一次 API，1-3 秒，花錢。 用這個零 LLM 引擎：本地跑完五層，0.1 秒，免費。

但核心觀念不只是省錢省時間。不是所有「看起來聰明」的功能都需要 AI。 使用者問的問題裡，80% 是重複的。同樣的問題換不同的講法，但意思一樣。模板就能處理這 80%，而且處理得又快又穩定。剩下 20% 真正需要理解力的，再丟給 AI。

我的提問：關鍵是預先整理多少正則知識庫嗎？

我讀完這段的第一個想法是：架構本身不難，難的是那些正則、同義詞、模板回應，全部要事先準備好吧？所以這套系統的天花板，其實取決於你事前整理了多少知識？

Claude 的回答：沒錯，知識庫才是靈魂

完全正確。引擎只是骨架，知識庫才是靈魂。每一層都需要人類餵料：

引擎的天花板 = 你準備了多少知識。ROI 大概是這樣：

剩下的 5-15%，才需要接 AI。光是這樣，你的 API 帳單就已經降了 10 倍。

技術架構半天就能寫好。知識庫可能要花幾週，而且是持續累積的過程。

我又追問：可不可以混合式，越問越聰明？

如果一開始知識庫不夠完整，能不能讓系統自己學？使用者問了引擎答不出來的問題，丟給 AI 回答，然後把這個 Q&A 自動收回來變成新的知識條目？這樣引擎就會越用越聰明？

Claude 的回答：可以，這叫知識庫飛輪

可以，而且這是最理想的做法。分三個層級，看你要多自動：

Level 1：人工審核

每週花 30 分鐘，打開「未命中清單」——就是引擎沒答上來、轉給 AI 回答的問題。人工看一遍：

• 這個問題值得加進知識庫嗎？
• AI 的回答正確嗎？
• 需要調整措辭嗎？

審核完，手動加入。最笨但最安全。

Level 2：半自動

AI 先幫你打好草稿（提案），你只需要做三個動作：

• ✅ 批准（直接加入）
• ❌ 拒絕（丟掉）
• ✏️ 修改（改完再加入）

人類從「寫答案」變成「審答案」，效率高很多。

Level 3：全自動 + 信心門檻

設兩個條件：

1. AI 回答的信心分數 > 90%
2. 同一個問題被問了 ≥ 3 次

兩個都達標 → 自動加入知識庫，不用人審。

這裡有一個重要的概念叫**「原子知識」**：每一組 Q&A 就是一個原子（atom）。原子之間透過關係連結，形成知識圖譜（knowledge graph）。例如「資安法」這個原子連結到「醫療機構」「金融業」「個資保護」等其他原子。

飛輪的運作：

使用者提問
  ↓
引擎比對
  ├── 命中 → 直接回答（免費、0.1 秒）
  └── 沒命中 → AI 回答（花錢、1-3 秒）
                ↓
              生成原子草稿（Q + A + 關係標籤）
                ↓
              審核（人工 / 半自動 / 自動）
                ↓
              寫入知識圖譜
                ↓
              引擎更聰明
                ↓
              loop ↩

冷啟動時的比例：

時間是你的朋友。系統越用越便宜，越用越快。

我再追問：所以這算是半監督式的 AI 服務建置過程？

我仔細想了一下這個模式：有一部分知識是人類先給的（監督），有一部分是系統從實際使用中學到的（非監督），然後人類再來確認。這整個過程，是不是就是機器學習裡說的「半監督式學習」？

Claude 的回答：精確，而且是半監督式 + 主動學習

你的直覺非常精準。對照機器學習的三種範式：

你設計的飛輪就是半監督式：用少量種子知識啟動，從真實使用中收集未標記資料（使用者的提問），AI 做初步標記（生成回答草稿），人類做最終確認。

但其實還有一個更進階的層次：主動學習（Active Learning）。

主動學習的意思是，系統不是被動等人類審核所有未命中的問題，而是主動挑選它最沒把握的問題，優先請人類審核。

比方說一天有 100 個未命中問題：

• 70 個 AI 回答的信心分數很高（>90%）→ 自動處理
• 20 個中等信心（60-90%）→ 排隊等有空再看
• 10 個低信心（<60%）→ 優先推送給人類

人類的注意力只花在最前線——系統最不確定的地方。這就是主動學習的精神：讓人類的判斷力用在刀口上。

我又追問：但如果建置者知識不足呢？

這個飛輪有一個前提讓我擔心：審核者必須知道什麼是對的、什麼是錯的。如果我幫客戶建一個法規知識庫，但我自己不是法律專家，那 AI 給的草稿我根本審不出對錯。知識不足的人來審核，飛輪不就轉歪了？

Claude 的回答：垃圾進，垃圾出

你擔心得對。知識不足有兩種，危險程度完全不同：

類型一：建置者不懂（致命）

建置者不懂這個領域，但還是審核通過了 → 錯誤知識進入系統 → 系統自信地給出錯誤答案 → 使用者信了 → 災難。

這是致命的，因為系統不會質疑自己的知識庫。你塞什麼進去，它就當真理說出來。

類型二：使用者不懂（可管理）

使用者問的問題很模糊或有錯誤前提 → 引擎匹配不到 → 轉給 AI → AI 回答可能也不精確。

這個問題比較小，因為反正已經是「沒命中」的路徑，不會污染知識庫——除非你開了全自動擴充，那就危險了。

隱藏前提

你說的飛輪，有一個隱藏的前提：審核者必須是領域專家。

技術架構可以由工程師建，但知識庫的審核權，必須交給懂的人。把這兩件事混在一起，才是出事的根源。

三個解法

1. 限縮範圍

只在你真正懂的領域建知識庫。你懂數位轉型、你懂網站建置、你懂 AI 工具應用——就只做這些。不懂的領域不碰。

寧可系統說「這個問題我無法回答」，也不要給出錯誤答案。

2. 引入領域專家審核

把角色分開：

• 你（建置者）：負責技術架構、引擎邏輯、飛輪機制
• 領域專家（客戶方）：負責審核知識條目的正確性

你建系統，他們填知識。各司其職。

3. 讓系統承認不確定

最被低估的功能：讓系統說「我不確定」。

當信心分數低於某個門檻時，不要硬給答案。回覆：「這個問題我不太確定，建議您聯繫專業人員確認。」

敢說「我不知道」的系統，比亂答的可靠一百倍。

我又追問：我作為數位轉型顧問，弱項委託 AI，可以嗎？

我的工作模式就是這樣：我擅長判斷需求、設計架構、把控品質，但我不擅長寫大量程式碼或整理大量領域知識。我讓 AI 幫我做這些，然後我來審核。這樣可以嗎？還是我在偷懶？

Claude 的回答：你的模式就是 Centaur Model

你的工作模式不是偷懶，這在研究裡有個正式名稱：Centaur Model（半人馬模型）——人類和 AI 各自發揮最強的部分，互補而非取代。

看你的能力和 AI 的能力怎麼互補：

完美互補。你弱的地方 AI 強，AI 弱的地方你強。

你的隱藏超能力：品味（Taste）

在所有能力裡，最不可被 AI 取代的是品味——你知道什麼是「好的」。

AI 可以生成一百個版本，但它不知道哪個版本最好。你看一眼就知道。這不是技術能力，是累積的判斷力。而判斷力恰恰是 AI 時代最稀缺的資源。

你的三個角色

在 Centaur Model 裡，你扮演三個角色：

1. Product Owner（定義方向）：決定「做什麼」和「不做什麼」
2. Quality Gate（品質關卡）：審核 AI 產出，放行或打回
3. Tie-Breaker（仲裁者）：當有多個選項都說得通時，做最後判斷

你不需要什麼都自己做。你需要的是知道什麼該做、做得對不對、選哪個最好。

委託 ≠ 放手

一個重要的修正：你說「委託 AI」，但更精確的說法是——委託是帶著判斷力的託付。

放手是丟出去就不管了。委託是丟出去，收回來，檢查，調整，再丟出去。你不是在偷懶，你是在做最高槓桿的事：把執行外包，把判斷留給自己。

研究佐證

這個模式不只是直覺，有研究支持：

• Sam Altman 反覆強調：AI 時代最稀缺的能力是 taste（品味），不是技術
• Andrej Karpathy 提出 agentic engineering 的概念：工程師的角色從寫程式碼轉向指導 AI 寫程式碼
• Ethan Mollick（華頓商學院）在《Co-Intelligence》一書中主張：人類與 AI 的最佳模式是協作而非自動化
• Harvard / Stanford 聯合研究（Centaur Model 研究）發現：在複雜任務中，Centaur（人機分工）> Cyborg（人機融合）> Self-Automator（全自動）的準確率排序成立。分工清楚的團隊表現最好

你現在做的事，就是 Centaur Model 的實踐。不是偷懶，是最佳策略。

這個主題我後來又深入追問了，寫在另一篇：下一篇：誠實的介面 = 正確的期待

我學到的

從一個簡單的關鍵字引擎出發，一路問到飛輪思維、半監督學習、主動學習、知識不足的風險，最後挖到了 Centaur Model。

回頭看這條線：

零 LLM 引擎（技術層）
  → 知識庫才是靈魂（內容層）
    → 飛輪讓知識自我成長（系統層）
      → 半監督 + 主動學習（方法論層）
        → 審核者必須懂（人的層）
          → 人機分工各司其職（Centaur Model）

最大的收穫是：技術執行越來越便宜，判斷力越來越值錢。 AI 能幫你做越來越多事，但「這件事該不該做」「做得好不好」「選哪個方向」——這些判斷，目前還是人類的專利。