Context Window 科普：AI 的桌面有多大，為什麼它會忘記你說過的話

你和 AI 談了一個小時，把一份計劃書的來龍去脈交代得清清楚楚。談到最後一步，你說「照我們一開始定的三個原則寫」，它寫出來的東西，一條原則都沒對上。

你再提醒一次，它道歉，然後又寫錯另一條。

它不是敷衍你。那三個原則，此刻已經不在它眼前了。

一張放不下所有東西的桌子

大模型沒有記憶。它不像人腦那樣把事情存起來、需要時再取出。它每一次回答，都是把「當下能看見的全部文字」讀一遍，然後預測下一個字。

這個「當下能看見的全部文字」，就是 context window。

用一張辦公桌來想像：你和 AI 的每一句對話、你貼給它的每一份文件、它自己寫出來的每一段回應，全部攤開在這張桌面上。它回答之前，會把整張桌子從左到右掃一遍。桌上有的，它看得見；桌上沒有的，對它而言等於不存在。

桌子有邊界。新的東西不斷放上來，舊的東西就會被推下桌。你一小時前定的三個原則，已經掉在地上——它不是忘記，是看不見。

茶餐廳的比喻更貼切一點：context window 是那張卡座的桌面，能同時放多少碟菜是有限的。侍應收走前菜，才騰得出位置上主菜。AI 也一樣，只是它收走舊菜的時候不會問你。

Token：桌面的量度單位

桌面大小不用字數計算，用 token 計算。

Token 是模型切割文字的最小單位。英文一個 token 大約等於四個字母，或四分之三個英文字；中文則普遍是一個字佔一個 token 或以上。同樣一段內容，中文換算成 token 通常比英文多——這也是為什麼同一個問題用中文問，成本往往比英文高。

重點是，桌面上的每一樣東西都佔位置，包括：

所以對話越長，桌面越擠，越接近邊界。這解釋了三個常見現象：談久了它開始重複問已答過的問題；回應速度變慢；按用量計費的話，帳單越走越快——因為它每答一句，都要把整張桌子重讀一遍。

窗口越大，就記得越牢嗎

不是。這是 2026 年最需要澄清的一個誤解。

各家旗艦模型的窗口這兩年大幅擴張，百萬 token 級別已經不稀奇。廠商樂於宣傳這個數字，因為它好懂又好比。但「放得下」與「看得清」是兩件事。

研究界很早就記錄了一個現象，叫 lost in the middle：把關鍵資訊放在一段超長內容的正中間，模型抓取它的準確度，明顯低於放在開頭或結尾。表現曲線呈 U 形——兩端好，中間塌。近年的模型在簡單的「大海撈針」測試上已有明顯改善，但一旦任務需要跨多段內容綜合推理，中段資訊被忽略的傾向依然存在。

換成桌面的說法：桌子加長了三倍，但人的視線始終偏向自己面前與最遠處那一疊。放在中間那幾張紙，最容易被略過。

實務上的結論很直接：不要把窗口大小當成可以無限堆料的許可證。一份塞了八十頁雜項的 context，效果往往不如一份整理過的三頁摘要。

五個立刻用得上的做法

一、重要的指示，放在開頭或結尾

既然中段最容易被略過，就不要把關鍵要求埋在長文中間。標準做法是：貼原文之前先講清楚任務，貼完之後再重申一次要求。

【任務】以下是會議錄音的逐字稿，請按四個欄位整理成紀錄：決定、負責人、限期、待跟進事項。

（貼上逐字稿全文）

【重申】只輸出四欄表格，不要加入逐字稿以外的推測。

一頭一尾各說一次，看似囉嗦，實測差別明顯。

二、一件事一個對話

不要在同一個對話裡先談報價、再談請假安排、然後回頭談報價。中間那段無關內容會一直佔著桌面，並且成為干擾——模型分不清哪些是這一刻的重點。

判準很簡單：換了題目，就換一個對話。

三、長文件先摘要，再深挖

要處理一份長報告，與其整份貼上去反覆追問，不如分兩步：第一步請它輸出結構化摘要（章節、關鍵數字、結論），第二步只針對你關心的章節貼原文細問。

第一步的產出很小，第二步的桌面很乾淨，兩步的總成本通常低於一步到底，準確度反而更高。

四、摘要接力：長任務的續命方法

任務做到一半，桌面快滿了，但事情還沒完。這時不要硬撐，也不要直接開新對話從頭講一次。做法是請它先自我結算：

請把目前為止的進度整理成交接摘要，包含：已確定的決定、尚未解決的問題、下一步該做什麼。用條列式，不要加入新內容。

拿到這段摘要，開一個新對話，把摘要貼進去作為起點。等於把整桌散亂的紙張，收成一頁備忘錄再重新開工。

用 Claude Code 一類 CLI 工具的讀者會發現，這正是 /compact 指令在做的事——把過程摺疊成結論，騰出桌面繼續。原理相同，只是它幫你自動做了。

五、定期看一眼桌面還剩多少

若你用的工具能顯示 context 用量（Claude Code 的 /context、部分網頁介面的進度條），養成習慣看一眼。用量過半就該考慮收拾，而不是等它開始失憶才處理。

沒有這類顯示的工具，用一個粗略的體感判斷也可以：對話超過二三十來回、或者貼過超過一份長文件，就當作已經過半。

三個常見誤解

1. 以為它記得上一次對話。 除非產品明確提供跨對話記憶功能，否則每開一個新對話，桌面都是空的。上星期告訴過它的事，這星期它一無所知。

2. 以為說「請記住」它就會記住。 這句話本身也只是桌上的一張紙，同樣會被推下去。真正可靠的做法是把長期偏好寫進系統層設定（system prompt、專案指示、CLAUDE.md 一類的規則檔），而不是在對話中口頭叮囑。

3. 以為清空對話是浪費。 恰恰相反。一張乾淨的桌子，通常比一張堆到滿溢的桌子做出更好的成果，而且更便宜。

桌面大小是能力，收拾桌面是技巧

context window 是這一代 AI 的硬邊界，也是最少人真正理解、卻最影響日常體驗的一個概念。明白它之後，很多「AI 好像變笨了」的時刻都有了解釋，而且都有對策。

模型會越出越強，桌子會越造越大。但只要它還是「看得見才算數」，收拾桌面就永遠是一項划算的技巧。

順帶一提，若你在香港或中國，想穩定使用 Claude、GPT 這類長窗口模型，門檻往往不在技術而在接入——官方不接受本地註冊、外幣卡付不了款。Essevin 做的正是這一段：一個帳戶直連多個官方模型，本地支付方式即可增值，用量按實際使用計算。

延伸閱讀：《Claude Code 越用越貴？三個指令看住你的 context》 https://essevin.com/blog/claude-code-context-compact-clear?inv=zd9km4gn&lang=zh-Hant 講的是同一套原理在 CLI 工具上的具體操作，/context、/compact、/clear 三個指令對應本文的第五、第四、第二點。

＊本文資料截至發稿日（2026 年 7 月 24 日），僅供一般參考，不構成任何建議；第三方產品之功能、價格與政策，以其官方最新公布為準；Essevin 服務詳情以官網與 console 實際顯示為準。