Expandus
返回 Futurism
LLM

AI 時代必懂的三大技術:LLM、RAG 與 MCP 是甚麼?

Curious about how next-gen AI tools work behind the scenes? This guide breaks down the three core technologies shaping intelligent AI systems today: LLM (Large Language Model), RAG (Retrieval-Augmented Generation), and MCP (Model Context Protocol). Learn how they combine to deliver smarter, real-time, and action-ready AI—from chatbots to enterprise agents.

Exp
作者 ExpMay 22, 2025
分享文章

重點摘要

  • 透過掌握 RAG、MCP 和 LLM 這三項關鍵技術,我們可以清楚地了解生成式人工智慧的運作方式:LLM 提供語言理解和生成功能,RAG 補充即時更新的知識,而 MCP 則賦予人工智慧執行實際任務的能力。它們共同作用,使人工智慧能夠更好地理解用戶意圖,並在現實場景中採取有意義的行動。

隨着人工智能(AI)迅速普及,越來越多人開始接觸到一些技術名詞,例如 LLM(大型語言模型)RAG(檢索增強生成) 以及 MCP(模型上下文協議)

這三項技術正在成為現代 AI 系統的核心基礎,無論是 ChatGPT、Claude、Gemini,還是企業內部的 AI 助手,其背後大多都離不開這些技術架構。

本文將深入淺出介紹 LLM、RAG 和 MCP 的運作原理,以及它們如何互相配合,構建出新一代智能 AI 應用。

甚麼是 LLM?

AI 理解與生成語言的核心引擎

LLM(Large Language Model,大型語言模型)是一種利用海量文字資料訓練而成的深度學習模型。

這些資料可能來自:

  • 網頁內容
  • 書籍
  • 維基百科
  • 學術論文
  • 新聞文章
  • 公開論壇

透過分析數以千億計的字詞關係,模型學習語言模式、語法結構及知識概念,從而能夠理解和生成自然語言。

LLM 如何運作?

目前主流 LLM 大多基於 Transformer 架構,例如:

  • GPT 系列
  • Claude 系列
  • Gemini
  • PaLM

其核心技術是 Self-Attention(自注意力機制)

模型會根據上下文推測最有可能出現的下一個詞語。

例子

輸入:

我今天去了東京,然後……

模型可能預測:

  • 吃了拉麵
  • 參觀了神社
  • 遇到朋友

並從中選擇最符合上下文的結果。

這種能力讓 AI 可以:

  • 回答問題
  • 撰寫文章
  • 翻譯語言
  • 撰寫程式碼
  • 進行對話

LLM 的限制

雖然 LLM 非常強大,但仍有兩個主要問題:

知識會過時

模型完成訓練後,無法自動知道最新發生的事情。

例如:

  • 今天的新聞
  • 最新產品價格
  • 公司最新政策

容易產生幻覺(Hallucination)

當模型找不到答案時,可能會根據機率生成看似合理但實際錯誤的內容。

這也是為甚麼企業級 AI 系統通常不會單獨依賴 LLM,而會配合 RAG 使用。

甚麼是 RAG?

讓 AI 即時獲取最新知識

RAG(Retrieval-Augmented Generation,檢索增強生成)是一種讓 AI 能夠即時查閱外部資料的架構。

它的出現正是為了解決 LLM 知識過時及幻覺問題。

簡單來說:

LLM 負責思考,RAG 負責找資料。

RAG 如何運作?

整個流程主要分為兩個階段。

第一階段:檢索(Retrieval)

當使用者提出問題時,系統會先到指定知識庫搜尋相關資料。

資料來源可能包括:

  • Notion
  • PDF 文件
  • Google Drive
  • 網站內容
  • 公司內部文件
  • CRM 系統

例如:

使用者提問:

公司 2025 年的年假政策是甚麼?

系統會先搜尋相關文件。

第二階段:生成(Generation)

搜尋結果會與原始問題一起送給 LLM。

LLM 再根據這些資料生成答案。

因此回答不再只依靠模型記憶,而是基於真實文件內容。

RAG 的優勢

提高回答準確度

AI 可以引用真實資料,而非單靠推測。

知識即時更新

文件更新後即可使用。

無需重新訓練模型。

減少幻覺

回答有實際資料作為依據。

支援引用來源

許多系統會顯示答案出處,方便核實資訊。

甚麼是 MCP?

讓 AI 從聊天走向執行

MCP(Model Context Protocol)由 Anthropic 於 2024 年提出。

它的目標是解決另一個問題:

AI 能理解你的意思,但不能真正幫你完成工作。

例如:

  • 建立 Google Calendar 活動
  • 發送 Email
  • 更新 Notion
  • 查詢資料庫
  • 提交 GitHub PR

過去這些功能需要額外撰寫 API 整合。

而 MCP 提供了一套標準化協議,讓 AI 可以直接與工具及系統互動。

MCP 如何運作?

開發者可以向 AI 提供一系列工具(Tools)。

例如:

  • Email 工具
  • Calendar 工具
  • 資料庫工具
  • CRM 工具
  • GitHub 工具

當 AI 判斷使用者需要執行某項操作時,便會自動呼叫相關工具。

這讓 AI 從「回答問題」進一步變成「完成工作」。

MCP 的常見應用

開發者助手

  • 讀取程式碼
  • 建立 Pull Request
  • 查閱 GitHub Issue
  • 執行測試

商業助理

  • 撰寫會議記錄
  • 發送 Email
  • 建立行程
  • 查詢客戶資料

企業代理人(Enterprise Agent)

  • 連接 ERP
  • 操作 CRM
  • 管理 Slack
  • 更新內部系統

LLM + RAG + MCP:現代 AI 系統的黃金組合

如果將三者結合,可以建立真正具備「理解、知識與執行能力」的 AI Agent。

各自負責甚麼?

技術

角色

LLM

理解語言與推理

RAG

取得最新知識

MCP

執行操作與調用工具

企業助理範例

使用者輸入:

找出 2023 年員工年假政策,並發送給 HR 更新員工手冊。

系統執行流程:

第一步:LLM

理解使用者意圖:

  • 查找年假政策
  • 發送給 HR

第二步:RAG

搜尋:

  • Notion
  • PDF
  • Google Drive

找到相關政策文件。

第三步:MCP

呼叫 Email 工具:

  • 撰寫摘要
  • 附上文件
  • 發送給 HR

整個流程只需一句自然語言指令即可完成。

內容行銷應用案例

AI 內容團隊亦開始大量使用 LLM、RAG 與 MCP。

例如:

使用者輸入:

根據產品手冊及最新 SEO 指南撰寫一篇 800 字教學文章,並於下星期一發佈到網站。

系統流程

LLM

理解需求:

  • 撰寫教學文章
  • SEO 優化
  • 安排發佈時間

RAG

搜尋:

  • 產品手冊
  • 品牌內容庫
  • SEO 指引
  • 過往文章

取得相關資料。

MCP

連接 CMS 系統:

  • 建立文章草稿
  • 加入標題及分類
  • 設定 SEO Meta Data
  • 排程發佈

整個內容製作流程可完全自動化完成。

為甚麼企業需要了解這三項技術?

AI 正在由聊天工具進化為工作代理人(Agent)。

未來企業競爭力不再只是:

有沒有 AI?

而是:

能否讓 AI 真正理解、取得知識並完成工作。

LLM 提供語言理解能力。

RAG 提供即時知識來源。

MCP 則讓 AI 能夠操作工具並執行任務。

三者結合後,AI 不再只是回答問題,而是能夠協助企業完成跨部門、跨系統的工作流程。

總結:下一代 AI 系統的基礎架構

LLM、RAG 與 MCP 並非互相競爭的技術,而是構成現代 AI Agent 的三大核心支柱。

  • LLM 負責理解與推理
  • RAG 負責取得最新資訊
  • MCP 負責執行實際操作

當三者整合後,AI 將不再只是聊天機器人,而是能夠主動協助工作、存取知識及執行任務的智能代理人。

對企業而言,掌握這三項技術不只是提升效率,更是未來數位轉型與 AI 應用發展的重要基礎。

常見問題

Is RAG a model?
{"type":"root","children":[{"type":"paragraph","children":[{"type":"text","value":"No. RAG is a framework, not a model. It works with LLMs by fetching real-time data from external sources like files, websites, and databases to enhance the model’s response accuracy."}]}]}
What is MCP, and can I implement it myself?
{"type":"root","children":[{"type":"paragraph","children":[{"type":"text","value":"MCP (Model Context Protocol) is a standard for enabling tool use by AI models. You can build your own MCP server or use tools like Claude Desktop or Cursor, which offer built-in MCP integration."}]}]}
What are the limitations of LLMs?
{"type":"root","children":[{"type":"paragraph","children":[{"type":"text","value":"LLMs generate fluent language, but their knowledge is static and they cannot access new information or perform real-time actions. This is why they’re often paired with RAG (for updated info) and MCP (for external tool execution)."}]}]}