隨着人工智能(AI)迅速普及,越來越多人開始接觸到一些技術名詞,例如 LLM(大型語言模型)、RAG(檢索增強生成) 以及 MCP(模型上下文協議)。
這三項技術正在成為現代 AI 系統的核心基礎,無論是 ChatGPT、Claude、Gemini,還是企業內部的 AI 助手,其背後大多都離不開這些技術架構。
本文將深入淺出介紹 LLM、RAG 和 MCP 的運作原理,以及它們如何互相配合,構建出新一代智能 AI 應用。
甚麼是 LLM?
AI 理解與生成語言的核心引擎
LLM(Large Language Model,大型語言模型)是一種利用海量文字資料訓練而成的深度學習模型。
這些資料可能來自:
- 網頁內容
- 書籍
- 維基百科
- 學術論文
- 新聞文章
- 公開論壇
透過分析數以千億計的字詞關係,模型學習語言模式、語法結構及知識概念,從而能夠理解和生成自然語言。
LLM 如何運作?
目前主流 LLM 大多基於 Transformer 架構,例如:
- GPT 系列
- Claude 系列
- Gemini
- PaLM
其核心技術是 Self-Attention(自注意力機制)。
模型會根據上下文推測最有可能出現的下一個詞語。
例子
輸入:
我今天去了東京,然後……
模型可能預測:
- 吃了拉麵
- 參觀了神社
- 遇到朋友
並從中選擇最符合上下文的結果。
這種能力讓 AI 可以:
- 回答問題
- 撰寫文章
- 翻譯語言
- 撰寫程式碼
- 進行對話
LLM 的限制
雖然 LLM 非常強大,但仍有兩個主要問題:
知識會過時
模型完成訓練後,無法自動知道最新發生的事情。
例如:
- 今天的新聞
- 最新產品價格
- 公司最新政策
容易產生幻覺(Hallucination)
當模型找不到答案時,可能會根據機率生成看似合理但實際錯誤的內容。
這也是為甚麼企業級 AI 系統通常不會單獨依賴 LLM,而會配合 RAG 使用。
甚麼是 RAG?
讓 AI 即時獲取最新知識
RAG(Retrieval-Augmented Generation,檢索增強生成)是一種讓 AI 能夠即時查閱外部資料的架構。
它的出現正是為了解決 LLM 知識過時及幻覺問題。
簡單來說:
LLM 負責思考,RAG 負責找資料。
RAG 如何運作?
整個流程主要分為兩個階段。
第一階段:檢索(Retrieval)
當使用者提出問題時,系統會先到指定知識庫搜尋相關資料。
資料來源可能包括:
- Notion
- PDF 文件
- Google Drive
- 網站內容
- 公司內部文件
- CRM 系統
例如:
使用者提問:
公司 2025 年的年假政策是甚麼?
系統會先搜尋相關文件。
第二階段:生成(Generation)
搜尋結果會與原始問題一起送給 LLM。
LLM 再根據這些資料生成答案。
因此回答不再只依靠模型記憶,而是基於真實文件內容。
RAG 的優勢
提高回答準確度
AI 可以引用真實資料,而非單靠推測。
知識即時更新
文件更新後即可使用。
無需重新訓練模型。
減少幻覺
回答有實際資料作為依據。
支援引用來源
許多系統會顯示答案出處,方便核實資訊。
甚麼是 MCP?
讓 AI 從聊天走向執行
MCP(Model Context Protocol)由 Anthropic 於 2024 年提出。
它的目標是解決另一個問題:
AI 能理解你的意思,但不能真正幫你完成工作。
例如:
- 建立 Google Calendar 活動
- 發送 Email
- 更新 Notion
- 查詢資料庫
- 提交 GitHub PR
過去這些功能需要額外撰寫 API 整合。
而 MCP 提供了一套標準化協議,讓 AI 可以直接與工具及系統互動。
MCP 如何運作?
開發者可以向 AI 提供一系列工具(Tools)。
例如:
- Email 工具
- Calendar 工具
- 資料庫工具
- CRM 工具
- GitHub 工具
當 AI 判斷使用者需要執行某項操作時,便會自動呼叫相關工具。
這讓 AI 從「回答問題」進一步變成「完成工作」。
MCP 的常見應用
開發者助手
- 讀取程式碼
- 建立 Pull Request
- 查閱 GitHub Issue
- 執行測試
商業助理
- 撰寫會議記錄
- 發送 Email
- 建立行程
- 查詢客戶資料
企業代理人(Enterprise Agent)
- 連接 ERP
- 操作 CRM
- 管理 Slack
- 更新內部系統
LLM + RAG + MCP:現代 AI 系統的黃金組合
如果將三者結合,可以建立真正具備「理解、知識與執行能力」的 AI Agent。
各自負責甚麼?
技術
角色
LLM
理解語言與推理
RAG
取得最新知識
MCP
執行操作與調用工具
企業助理範例
使用者輸入:
找出 2023 年員工年假政策,並發送給 HR 更新員工手冊。
系統執行流程:
第一步:LLM
理解使用者意圖:
- 查找年假政策
- 發送給 HR
第二步:RAG
搜尋:
- Notion
- Google Drive
找到相關政策文件。
第三步:MCP
呼叫 Email 工具:
- 撰寫摘要
- 附上文件
- 發送給 HR
整個流程只需一句自然語言指令即可完成。
內容行銷應用案例
AI 內容團隊亦開始大量使用 LLM、RAG 與 MCP。
例如:
使用者輸入:
根據產品手冊及最新 SEO 指南撰寫一篇 800 字教學文章,並於下星期一發佈到網站。
系統流程
LLM
理解需求:
- 撰寫教學文章
- SEO 優化
- 安排發佈時間
RAG
搜尋:
- 產品手冊
- 品牌內容庫
- SEO 指引
- 過往文章
取得相關資料。
MCP
連接 CMS 系統:
- 建立文章草稿
- 加入標題及分類
- 設定 SEO Meta Data
- 排程發佈
整個內容製作流程可完全自動化完成。
為甚麼企業需要了解這三項技術?
AI 正在由聊天工具進化為工作代理人(Agent)。
未來企業競爭力不再只是:
有沒有 AI?
而是:
能否讓 AI 真正理解、取得知識並完成工作。
LLM 提供語言理解能力。
RAG 提供即時知識來源。
MCP 則讓 AI 能夠操作工具並執行任務。
三者結合後,AI 不再只是回答問題,而是能夠協助企業完成跨部門、跨系統的工作流程。
總結:下一代 AI 系統的基礎架構
LLM、RAG 與 MCP 並非互相競爭的技術,而是構成現代 AI Agent 的三大核心支柱。
- LLM 負責理解與推理
- RAG 負責取得最新資訊
- MCP 負責執行實際操作
當三者整合後,AI 將不再只是聊天機器人,而是能夠主動協助工作、存取知識及執行任務的智能代理人。
對企業而言,掌握這三項技術不只是提升效率,更是未來數位轉型與 AI 應用發展的重要基礎。


