目錄
- 一個每天報到的新人
- 為什麼不能把所有東西都塞給它
- 記憶的三個層次
- Anthropic 的官方解法
- 兩本筆記：人寫的規則與 AI 記的經驗
- 為什麼是檔案，而不是黑盒子
- 邊界條件：記憶需要維運
- 對企業的意義
- 結語
一個每天報到的新人
想像公司來了一位能力極強的新人：反應快、文筆好、什麼領域都懂一點。只有一個問題——他每天早上進辦公室，都忘記昨天發生的所有事。你昨天教他的報價規則、上週踩過的坑、客戶不喜歡的措辭，今天都要重講一遍。
這就是沒有記憶機制的 AI Agent。大型語言模型天生是無狀態（stateless）的：每一次對話都是孤立事件，結束即歸零。它不會自動變得「越來越懂你們公司」，除非有人替它把記憶建起來。
專門研究這個問題的 Letta 團隊（前身是柏克萊的 MemGPT 研究計畫）給過一個直指本質的定義：AI 的「記憶」，說到底就是此刻它的 context window 裡有什麼。所以設計記憶系統，本質上是在回答一個問題——在對的時刻，把對的資訊放進那扇有限的窗口。
為什麼不能把所有東西都塞給它
直覺的解法是暴力的：把公司所有文件全部塞進去不就好了？Context window 不是一直在變大嗎？
行不通，有兩個原因。第一個是物理極限。Anthropic 有一句很直白的話：context window 有上限，但真實的工作沒有。 一個跨越數天的專案、一次上百份文件的盤點，token 量必然超過任何窗口的容量。
第二個原因更隱蔽，叫 context rot（脈絡腐蝕）。Anthropic 在〈Effective context engineering for AI agents〉中引用研究指出：塞進 context 的 token 越多，模型從中準確找回資訊的能力反而越差。他們的解釋是，模型跟人一樣有「注意力預算」——塞進去的每一個 token 都在消耗這筆預算。這源自 transformer 架構本身，是所有模型共有的性質，不會因為下一代模型變強就消失。
所以塞好塞滿不是記憶策略，是記憶災難。真正的問題從「怎麼裝下所有東西」變成「怎麼在對的時刻只裝對的東西」——這就需要分層。
記憶的三個層次
業界目前收斂出的架構，和人類自己管理記憶的方式驚人地相似，可以用三個層次理解：
- 工作記憶：context window 本身——AI「當下腦中」的東西，容量有限、寸土寸金，好比電腦的記憶體（RAM）。
- 隨手筆記：任務進行中寫下的待辦清單、進度摘要——像貼在螢幕邊的便條紙，做完就可以丟。
- 長期記憶：持久保存的檔案與資料庫——規則、經驗、專案脈絡，像櫃子裡的筆記本，需要時翻出來。
這個分層最早的嚴謹版本來自 2023 年的 MemGPT 論文：把 context window 當成作業系統裡的稀缺記憶體來管理，讓 AI 自己決定什麼資料該從「硬碟」調進「記憶體」、什麼該換出去。當時是前沿研究，如今已是主流工程實務。
Anthropic 的官方解法
2025 年 9 月，Anthropic 在平台上正式推出兩個能力，把上面的分層變成了現成的基礎設施。
一個是 memory tool：讓 AI 在一個專屬目錄裡建立、讀取、更新、刪除記憶檔案，跨對話持久保存。有個設計細節對企業特別重要：記憶的儲存後端完全由導入方自己管理，資料存在自己的基礎設施裡，而不是模型供應商那邊。
另一個是 context editing：當對話逼近 token 上限時，自動清掉已經過時的工具呼叫紀錄，讓 AI 專注在還有用的脈絡上。
效果有數據。根據 Anthropic 的內部評測，兩者搭配讓 agent 搜尋任務的表現提升 39%；在一個上百回合的長任務測試中，context editing 讓原本會因 context 耗盡而失敗的流程得以跑完，token 消耗減少 84%。對照我們在系列首篇談過的觀點——記憶管理不只是能力問題，也是成本問題。
搭配這兩個工具，Anthropic 給長任務歸納了三招心法：compaction（對話快滿時，摘要壓縮再重新上路）、structured note-taking（讓 AI 隨手把重要進度寫到窗口外的筆記裡）、sub-agents（讓子代理各自消化大量資訊，只把濃縮結論帶回主線）。第三招我們在上一篇談多代理協作時已經見過——你會發現這個系列的每個切面，其實是同一套工程的不同角度。
其中 note-taking 有個好記的例子：Anthropic 讓 Claude 玩 Pokémon 遊戲，AI 在數千步的過程中自己維護地圖、目標和戰鬥策略筆記，context 歸零之後，靠讀自己的筆記無縫接續好幾個小時的長程任務。每天失憶的新人，學會了寫工作日誌。
兩本筆記：人寫的規則與 AI 記的經驗
Anthropic 自家的 Claude Code 把這套思路做成了值得參考的範本：它同時維護兩種記憶，來源不同、用途互補。
第一種是人寫給 AI 的。一份約定俗成叫 CLAUDE.md 的檔案，記載這個專案的規則、慣例、注意事項，每次開工自動載入。它有分層設計：組織層級的規範由管理端統一部署、所有人生效、個人不能繞過；往下才是團隊與個人的補充。這其實就是 AI 時代的 SOP——而且是強制執行的那種。
第二種是 AI 自己記的。工作過程中學到的教訓——這個系統的怪癖、那個流程的地雷——由 AI 自己寫進一份索引筆記加上分主題的細節檔案，下次開工自動想起來。
一本是公司的規章制度，一本是員工自己的工作筆記。兩本都是純文字檔案，人類隨時可以打開來看、可以改、可以刪。這個「隨時可以打開來看」，正是下一節的重點。
為什麼是檔案，而不是黑盒子
如果你追蹤這個領域，會注意到一個趨勢：從 Anthropic 的 memory tool、Claude Code 的雙軌筆記，到各家基礎設施商陸續推出的同類產品，長期記憶的主流載體正在收斂成同一個東西——人類可讀的純文字檔案，而不是只有機器懂的向量資料庫。
對企業來說，這個技術選擇的治理意義比技術意義更大。檔案式的記憶：看得到（主管可以打開 AI 的記憶逐條檢視）、改得了（發現記錯了直接編輯）、可版控（每一次變更都有紀錄、可以回溯）、可刪除（法遵要求清除時，刪檔案就是刪記憶）。黑盒子式的記憶，這四件事每一件都難。
Anthropic 對這個方向有一段有意思的辯護：這其實呼應了人類自己的做法——我們不會把整座圖書館背下來，而是建立索引、書籤、資料夾這些外部系統，需要時再去取。讓 AI 用檔案系統記憶，不是妥協，是模仿一個已經被驗證了幾百年的架構。
邊界條件：記憶需要維運
照慣例，說完好處要說代價：記憶不是設定一次就一勞永逸的功能，它是需要維運的活資產。
AI 自己寫的筆記會累積、會膨脹、會過時。上一季的專案脈絡這一季已無關緊要，卻還在每次開工時佔用注意力預算；兩條先後寫入的經驗可能互相矛盾，AI 不會自己發現。放著不管的記憶庫，跟放著不管的共用資料夾是同一個下場——東西越堆越多，能用的越來越少。
所以成熟的做法會把「記憶的整理」排進日常：定期清理過時條目、合併重複、檢查矛盾。這聽起來像額外負擔，其實換個角度看，它跟「每季盤點一次倉庫」是同一種紀律。我們在系列首篇說過 harness 需要折舊管理，記憶正是折舊最快的那個部件。
對企業的意義
四個可以立刻自問的問題：
- 你的 AI 有長期記憶嗎？ 還是每次使用都從零開始，同樣的背景資訊被不同同仁重複輸入了幾十次？
- 有「人寫給 AI 的規則」嗎？ 公司的規範、術語、禁忌，是寫成了 AI 每次開工必讀的文件，還是散在每個人各自的提示詞裡？
- 記憶放在哪裡？ 存在自己管理的地方、能開能改能刪，還是存在一個沒人說得清楚內容的黑盒子裡？
- 誰負責記憶的保鮮？ 有人定期整理 AI 的記憶嗎？還是等它慢慢腐化？
如果第一題的答案是「沒有」，先別急著沮喪——這其實是好消息。它表示你的 AI 表現不好，很可能不是模型不行，而是它每天都在失憶狀態下工作。記憶建起來之後的改善，是肉眼可見的。
結語
回到那位每天失憶的聰明新人。解法從頭到尾都不神秘：給他一本公司的規章（人寫的規則）、一本自己的工作日誌（AI 記的經驗）、一套定期整理筆記的習慣（記憶的維運）。做到這三件事，他就從「每天報到的新人」變成「越用越懂公司的同事」——而這正是 AI 從工具變成戰力的分水嶺。
不過，記憶解決的是「AI 記得自己學過什麼」。還有一個更大的問題：公司裡那些散落在會議記錄、訊息串、老師傅腦中的組織知識，要怎麼變成 AI 讀得懂、查得到、信得過的形式？那是另一個工程，最近有一個很出名的答案——我們下一篇談「為 AI 重新編譯的企業知識庫」。
參考資料
- Anthropic, Effective context engineering for AI agents（2025-09）
- Anthropic, Managing context on the Claude Developer Platform（2025-09）
- Claude Code Docs, How Claude remembers your project
- Letta, Agent Memory: How to Build Agents that Learn and Remember（2025-07）
- MemGPT（UC Berkeley, 2023）, research.memgpt.ai