如何自架 AI 客服?用 Chatwoot、Dify 與 AI Router 建立可轉真人的客服系統
很多人想到 AI 客服,第一個反應是自己做一個聊天視窗,再把大語言模型 API 接上去。這樣確實可以快速做出展示版,但離真正能接待顧客的客服系統還很遠。
正式客服還要處理對話紀錄、客服人員登入、訪客資料、訊息分派、真人接手、權限、知識庫更新與錯誤追蹤。對小公司來說,比較實際的方法不是從零重做全部功能,而是把成熟的開源工具組合起來,再把真正重要的控制邏輯留在自己手上。
一套務實的自架架構可以分成三層:
1. **Chatwoot:客服工作台**
2. **Dify:AI 工作流與知識庫**
3. **自家 AI Router:判斷、權限與系統控制**
Chatwoot 負責什麼?
Chatwoot 是客服系統的外殼。網站上的聊天視窗、收件匣、對話紀錄、聯絡人資料與真人客服操作,都交給它處理。
這樣做的好處是,你不用自己重做一套客服後台。當顧客在網站留言時,Chatwoot 可以建立對話,再透過 webhook 把訊息送到你的 AI Router。若 AI 無法回答,客服人員仍能直接在同一個工作台接手。
Dify 負責什麼?
Dify 適合處理 AI 回答流程,例如:
• 從 FAQ、產品文件與服務規則中找答案
• 判斷問題類型
• 組合提示詞
• 呼叫語言模型
• 產生回答
• 回傳引用到的知識內容
它可以幫你快速建立 RAG 知識庫,但不應該直接暴露給顧客,也不應該成為整個商業產品唯一的核心。正式系統應由自己的後端呼叫 Dify API,金鑰只能放在伺服器端。
為什麼還需要 AI Router?
AI Router 是整套系統最重要的控制層。它接收 Chatwoot 傳來的訊息,先判斷這則訊息能不能交給 AI,再決定要呼叫哪一套知識庫或工作流。
它至少要負責:
• 忽略客服人員自己送出的訊息,避免 AI 自問自答
• 忽略空訊息或目前無法處理的附件
• 根據網站、客戶或語言選擇正確知識庫
• 過濾個人資料與危險要求
• 設定回答逾時與錯誤處理
• 判斷何時轉真人
• 保存必要的處理紀錄
把這一層留在自己手上,未來即使更換 Dify、語言模型或客服平台,也不必把整套產品推倒重來。
自架 AI 客服的實際流程
第一步:先準備環境
你需要一台能長期運作的 Linux 主機、網域名稱、HTTPS、Docker 與 Docker Compose。資料庫、快取、檔案與備份位置也要先規劃。
不要一開始就把所有服務暴露到公網。資料庫和內部服務只讓必要容器存取,對外通常只開 HTTPS 入口。
第二步:建立 Chatwoot
先讓 Chatwoot 能正常完成以下流程:
• 建立網站收件匣
• 把聊天元件放到測試網站
• 顧客可以送出訊息
• 客服人員可以在後台看到並回覆
這一步先不要接 AI。客服基本流程穩定後,再加入 webhook,會比較容易找到問題。
第三步:建立 Dify 知識庫
把 FAQ、產品說明、退款規則、服務範圍與聯絡方式整理成乾淨文件,再放入 Dify 知識庫。
文件不要只是把整個網站全部丟進去。導覽列、頁尾、重複廣告與過期資訊都會干擾檢索。完成索引後,要用顧客真的會問的問題測試,例如:
• 方案怎麼計費?
• 可以取消嗎?
• 你們支援哪些語言?
• 帳號無法登入怎麼辦?
如果找回來的內容不對,先修文件與切段方式,不要只靠提示詞硬救。
第四步:建立 AI Router
Router 可以用 FastAPI 或其他熟悉的後端框架實作。最基本需要兩個入口:
• 健康檢查:確認服務是否正常
• Chatwoot webhook:接收新訊息事件
收到訊息後,依序檢查事件種類、訊息方向、內容是否為空、是否已轉真人,再呼叫 Dify。取得 AI 回答後,透過 Chatwoot API 把訊息送回原本對話。
第五步:設計轉真人規則
真正好用的 AI 客服,不是每一題都硬答,而是知道什麼時候停下來。
以下情況建議直接轉真人:
• 顧客明確要求真人
• 涉及退款、帳務爭議或客訴
• 連續兩次找不到可靠答案
• 顧客情緒明顯升高
• 問題涉及敏感個資或權限變更
• AI 回答信心不足
轉真人時要保留對話摘要,讓客服不必要求顧客全部重講一次。
第六步:上線前測試
至少準備四組測試:
1. 正常 FAQ
2. 知識庫沒有答案的問題
3. 要求退款或真人的問題
4. 惡意提示、敏感資料與超長訊息
同時確認:AI 不會重複回覆、不會回答內部機密、不會在客服接手後繼續插話,服務故障時也不會讓訊息消失。
自架不等於免費
開源軟體可以降低授權門檻,但仍有主機、模型 API、備份、監控、更新與維護成本。若每天只有少量詢問,先做一個網站、一個收件匣與一套知識庫就好。
先把「常見問題自動回答+必要時轉真人」做穩,再加入訂單查詢、Lead 蒐集、多租戶或進階自動化,風險會小很多。
結論
自架 AI 客服最實際的方式,是讓 Chatwoot 管理客服工作台,Dify 處理知識庫與 AI 工作流,再由自家 AI Router 控制訊息、權限與真人接手。
重點不是讓 AI 回答所有問題,而是讓它在有可靠資料時快速回答,沒有把握時安全地交給真人。這才是一套能長期維護的 AI 客服系統。