LLM 是什麼？

定義

LLM 是 Large Language Model 的縮寫。研究者開始用這個詞，是為了稱呼規模特別大的預訓練語言模型（Zhao et al.）。常見用途包括回答問題、寫摘要和產生像人寫的文字（Anthropic 詞彙表）。

「大」是跟誰比

「大」是相對早期的小型語言模型而言，指參數更多、能利用更長的前文（Google 機器學習速成課程）。Zhao et al. 的綜述提到，模型放大到一定規模後，不只表現變好，還會出現小模型沒有的能力。

業界沒有「超過多少參數才算 LLM」的公認門檻。舉個時間點明確的例子，2020 年發表的 GPT-3 有 1750 億個參數（Brown et al.），這是它當時的規模，不代表現在的模型都在這個量級。

LLM 和 token 的關係

LLM 讀寫文字的單位是 Token。文字會先被切成一串 token 再交給模型處理（Anthropic 詞彙表）。一個 token 可能是一個詞、詞的一部分，或單一個字元（Google 機器學習速成課程）。

生成回答時，LLM 做的事是預測下一個 token 或下一串 token，再把預測結果接回前文，繼續往下預測。所以同一段話會切成幾個 token，要看用的是哪個模型、寫的是哪種語言。中文一個 token 大約等於幾個字，目前各家沒有統一的官方數字，可以先記得它依模型和語言而不同。

預測出來的不等於查證過的

LLM 學到的是資料中的模式與關聯，所以不能把每次輸出都當成已核對的事實。看起來合理的敘述仍可能出現 AI 幻覺。

模型、聊天產品與搜尋不是同一層

LLM 是模型本身。聊天介面可以另外接上搜尋、計算或檔案工具，所以一個回答有沒有查過網路，要看當次產品開了哪些功能、有沒有用到工具（Microsoft Copilot 說明），光看有沒有用 LLM 判斷不出來。AI 搜尋則是把資訊檢索和生成回答結合起來。