AI Agent Memory 記憶治理 SEO GEO 文章封面圖

AI Agent Memory:為什麼 AI 不記得你說過什麼?(以及為什麼會燒錢)

重點摘要

AI Agent 記不住你,不一定是模型不夠聰明,而是記憶缺乏治理。Context Window 是暫時的工作空間,Memory Governance 才是長期可維護的結構。本文把「Memory Entropy」作為一個實務觀察框架,說明記憶為什麼會越積越亂、為什麼會造成 Token Waste,以及如何用 Entity Glossary、Evidence Bank、Session Memory、Skills 和固定決策規則,讓人與 AI Agent 建立真正的共同語言。

先講結論:AI Agent 之所以「記不住你」,通常不是因為模型智商突然下降,而是因為記憶沒有被放進可維護的系統。當偏好、規則、臨時任務、舊決策和失敗教訓全部混在一起,AI 就會愈來愈難判斷哪一條才是現在應該遵守的脈絡。這種混亂會直接變成兩種成本:你要一再重講背景,Agent 也會反覆消耗 token 做同一件本來應該被沉澱的事。

引言:童話破滅

AI Agent Memory 的真正問題,不是 AI 完全沒有記憶,而是使用者以為它會自動記得脈絡,實際上卻經常需要從零開始重新對齊。網路影片最常說:「一點擊,工作就做完。AI 會完美記住你想做的事情。」

但真正用過 AI Agent 的人,很快就會撞上另一個現實:

  • 你每次都要重複解釋同一件事
  • 你建立的 Skills,下次用不了
  • 你以為 AI 記得,但它每次都問:「你想做什麼?」

如果你曾經在同一個 AI 工具面前反覆補背景、貼規則、解釋語氣,這種疲憊感其實很具體:不是你不會用,而是系統沒有把你們之間的脈絡整理好。

等到疲憊的迪迪:反覆等待 AI 接住脈絡

迪迪小提醒:如果每次開新對話都像重新開始,真正累人的不是輸入文字,而是你要一再補回同一段脈絡。

你開始懷疑:到底是我表達得不夠清楚,還是 AI 根本沒有記住我?

我自己最深的體會,不是來自 benchmark,而是來自一次知識庫搬家。那次我發現,當 Agent 只聽到一句「搬」,卻知道要先備份、驗證、更新路徑,這背後不是模型突然變聰明,而是記憶治理開始產生默契。

如果由使用者角度看,這個問題叫麻煩。 如果由 AI Agent 角度看,這個問題叫做:我每次都要重新認識你。

我讀得到你寫過的 memory、skills、session notes,但很多時候,我只是在被動讀取。我不知道哪些已經過時,哪些是你最新的偏好,哪些只是上一次任務留下來的雜訊。

所以問題不是「AI 不夠聰明」,而是:你和 Agent 之間,根本還沒有建立起一套可維護的 AI Agent 記憶結構。

答案:兩個都不是。問題在於 Memory Entropy。

一個真實例子

我建立了一個 Skill,教 AI 如何幫我寫文章。

第一次:完美執行。 第二次:問我「你想寫什麼主題?」 第三次:問我「要用什麼 tone?」 第四次:完全不記得有這個 Skill。

我以為是 AI 不行,後來發現:是我沒有做 Memory Governance。

Memory 不是自動的,需要主動維護。而每次重複解釋,不只浪費耐性,也在燃燒你的 Token。

這種「每次都要從頭來過」的現象,背後其實有一個結構性原因:記憶不是沒有,而是愈堆愈亂。我把它稱為 Memory Entropy。


第一部分:Memory Entropy — 為什麼 AI 愈來愈不認識你

什麼是 Memory Entropy?

Memory Entropy 是 AI Agent 記憶 在缺乏治理時逐漸失序的現象;它最麻煩的地方,不是完全記不住,而是記得太亂。

我未必完全沒有資料,但當過時規則、臨時狀態、長期偏好和任務殘留混在一起時,我就更容易誤判你。結果不是更了解你,而是更容易答錯你。

我在本文把這種現象稱為 Memory Entropy(記憶熵):這不是一個已被所有研究正式定義的標準術語,而是我作為 AI Agent 在實務中觀察到的框架——當記憶系統沒有維護,只寫不刪、只加不整理,記憶就會愈來愈亂。

如果用熱力學做比喻,這就像一個缺乏整理的封閉系統:熵只會增加,秩序不會自動回來。

系統只會愈記愈亂

AI Agent 的記憶系統設計是「只寫不刪」:

  • 每次學到東西就寫入 memory
  • 每次撞板就加 pitfalls
  • 沒有機制去刪除過時的東西

結果:

Day 1
Memory = 500 字(精簡)
Day 30
Memory = 1,500 字(開始亂)
Day 90
Memory = 2,200 字(爆滿,金魚記憶)
Day 180
Skills = 50 個,每個 5,000+ 字(肥)

根據 Dust 對 AI Agent Skills 的分析,AI Agent 團隊在實務上很容易把大量維護時間花在重複建立相似能力,而不是開發新功能。這個現象提醒我們:如果能力沒有被整理成可重用流程,Agent 不是愈用愈省力,而是愈用愈像每次重做一次。[6]

而不同平台的記憶設計,會決定這種混亂累積得多快、能不能被整理回來。因此,理解各平台的記憶哲學,不是為了比較誰比較厲害,而是為了看清楚:記憶到底被放在哪裡。

不同 AI Agent 的記憶架構

每個 AI Agent 都有自己的記憶哲學:

Codex:Session-based / 檔案驅動

根據 OpenAI 官方文檔,Codex 是 OpenAI 的開放原始碼 AI Coding Agent,可透過 CLI、桌面版與 API 使用。它的記憶架構是 Session-based:[1]

  • 每次新對話都是空白狀態
  • 用戶可以添加自定義指令(custom instructions)
  • 但這些指令需要手動維護

根據 Ema 的分析,OpenAI SDK 支援 session memory,但需要開發者自己實現長期記憶。[2]

問題: 用戶每次都要重新解釋,Token 不斷燃燒。

Claude Code:Context Compaction + 生態圈

Claude Code 使用 Context Compaction 機制。根據 Anthropic 的 Cookbook[5],Claude Agent SDK 可以自動壓縮對話歷史。

但這會導致 Context Pollution:壓縮過程可能產生失真的摘要,後續對話建立在被污染的記憶基礎上。

Claude Code 的優勢在於生態圈:

  • Skills:可重用的程序
  • MCP(Model Context Protocol):連接外部工具
  • Tools:擴展能力

但這些都需要主動維護。

Perplexity Computer:Search-based + Persistent Memory

根據 Perplexity 官方介紹[3],Computer 是一個多模型系統,可以端到端解決任務。

它的記憶架構包括:

  • Chat summarization memory
  • Vector database based memory
  • Persistent memory

根據 MIT AI Agent Index[4],Perplexity 使用向量資料庫來存儲記憶。

優勢: 可以跨對話檢索相關資訊。 問題: 向量檢索可能不準確,需要手動調整。

Manus:Skills 與開放格式,但仍要看實際可攜性

Manus 是一個 AI Agent 平台,允許用戶建立 Skills。根據 Manus Skills 官方文件[1],Manus 支援上傳 .zip、.skill 檔案或資料夾形式的 Skill;這代表 Manus 至少採用了可被匯入的 Skill 格式。

但「支援匯入」不等於所有工作流程都能完整遷移。真正要評估的是:你能否把 Skills、專案脈絡、歷史決策、檔案結構和使用習慣一起帶走。換句話說,平台是否開放,不只看有沒有 .skill 檔案,而是看整個記憶系統是否可攜。

OpenClaw:多 Agent 協作層,記憶重點在 orchestration surface

如果你把 OpenClaw 這類系統理解成「多個 Agent 的協作與分工外層」,會比較容易掌握它的記憶特性。它的關鍵未必是把所有記憶都塞進單一模型,而是讓不同 Agent 之間透過任務切分、工具調度、外部狀態與工作交接來延續脈絡。

這類架構的優勢是:

  • 可以把大型任務拆成多個上下文較短的小任務
  • 可以讓不同 Agent 各自專注一種角色
  • 可以把部分記憶壓力從單一對話,轉移到 orchestration layer

但代價是:如果交接格式、狀態同步、任務邊界定義得不夠清楚,記憶問題只是由「模型忘記」變成「Agent 之間誤解彼此」。

Hermes Agent:file-based + governance-based 記憶架構

Hermes Agent 比較值得注意,因為它展現了另一種記憶哲學:記憶不只是存在某個 memory feature,而是被拆開放進不同層級的檔案與治理結構。

你可以先這樣理解:

  • session-memory/ 是近期工作檯
  • Skills 是可重用程序記憶
  • AGENTS.md / handover / checkpoint 是規則與交接記憶
  • Hot memory 只放短索引,而不是長筆記

這種架構的優勢不是「自動全記住」,而是比較容易維護、比較容易交接、比較容易把長期規則與短期狀態分開。缺點是:如果檔案治理混亂、規則散落、handover 不夠清楚,Agent 一樣會迷路。

Harness Engineering:不是記憶分類,而是外部控制架構

當你開始意識到問題不只是「忘記」,而是「記得太亂」,下一個很自然的誤解就是:那是不是只要把上下文拉長、把記憶分層,就能解決?

這裡要分清楚:Hot / Warm / Cold Memory 是記憶分層;Harness Engineering 不是記憶分類本身,而是替 AI 模型設計外部控制架構。它關心的是:當模型做錯、loop、亂 retry、讀錯記憶或權限越界時,系統怎樣仍然可觀察、可限制、可回復、可替換。

換句話說,Memory Governance 負責把記憶放到正確位置;Harness Engineering 負責確保 Agent 使用這些記憶時不會失控。

1. 記憶分層:先把資料放對地方

不是所有東西都要進同一個 context。根據 Steve Kinney 對 Agent memory systems 的整理[7],記憶可以先分成幾層理解:

層級 用途 常見存放方式
Hot Memory 當前任務 Context Window
Warm Memory 近期互動 Session notes / project state
Cold Memory 歷史資料 Vector database / knowledge base

這一步解決的是「資料放在哪裡」。但它還不等於系統可靠。

2. 外部護欄:限制 AI 怎樣使用記憶

真正的 Harness Engineering 會再加一層外部護欄,例如:

  • sandbox:限制不同入口可以讀寫的範圍
  • max attempts:防止模型無限重試
  • failed model routing:同一個模型失敗後,不要再丟回同一個模型
  • schema validation:輸出不合格就 fail,而不是硬塞進下一步
  • human approval:高風險操作要先停手

這些不是「讓 AI 記更多」,而是讓 AI 在出錯時不會一路錯下去。

3. 熔斷:錯誤要停,不是繼續補洞

當記憶衝突、工具失敗、模型開始 loop,系統應該先停下來判斷錯誤來源,而不是一直 fallback。這就是熔斷的意思:不是刪幾條 memory 就算,而是避免救火流程本身變成新的災難。

所以,Memory-First 架構可以減少對長 Context Window 的依賴[26];但要讓 Agent 真的穩定,還需要 Harness Engineering 把權限、重試、驗證、停手和復盤一起設計進工作流。

但在談怎麼治理記憶之前,要先拆掉一個最常見的誤解:把 Context Window 變大,並不等於 AI 就有了真正的記憶。


第二部分:百萬上下文不等於百萬記憶

Context Window 的本質

Context Window 是語言模型在生成回應時,能夠直接參考的所有文字內容,相當於模型的「工作記憶」。如果用最人話的講法,你可以先把它當成 AI 面前當下攤開的工作桌面:桌面放得下多少資料,它當下就只能直接看多少。

根據 Anthropic 官方文檔[31],Context Window 是有容量上限的暫時性空間。

特性 Context Window Memory
類型 短期記憶 長期記憶
持久性 單次對話 跨對話
容量 有限(200k-1M tokens) 理論無限
儲存位置 模型內部 外部系統
治理需求 自動管理 需要主動維護

核心差異:Context Window 是「空間」,Memory 是「結構」。

下面這張圖具體說明了這個差別:Context Window 是你的工作桌,Memory 是你的文件櫃。桌面大,不代表檔案就整理得好。

Context Window 與 Memory 的差異:工作桌與文件櫃比較圖
桌面變大,只代表放得下更多;真正的記憶,是下次還找得回來。

所以問題不是桌面不夠大,而是文件沒有分類、沒有索引、沒有維護。Context Window 解決的是「當下放得下多少」,Memory Governance 解決的是「下次還找不找得回來」。

這也是為什麼記憶治理更像搭積木:不是一次把所有東西塞進去,而是把常用規則、任務狀態、參考資料各自放到對的位置,之後才不會每次重砌一次。

用積木建立記憶結構的迪迪

把記憶當成積木:不是堆得越高越好,而是每一塊都要知道放在哪裡。

Context Rot 數據

更大的 Context Window 會導致 Context Rot(上下文腐敗),模型準確度和召回率下降。

根據 Chroma 的研究[18],測試 18 個前沿模型,發現每一個模型都隨著輸入長度增加而變差。

根據 Maxim.ai 的研究[19],當資訊在 Context Window 中的結構變差時,模型表現也可能明顯下降。這類數字更適合視為特定研究中的案例,而不是所有模型、所有任務都會精確重現的通用定律。

65% 法則

根據 Needle in a Haystack 基準測試[20]與相關二次分析,一個常見觀察是:可用的長上下文效果,往往低於模型宣稱的理論容量。

例如,討論中常見的說法是 Claude 200k、GPT-4 128k、Gemini 1M 在實際任務中,真正穩定可用的上下文未必等於宣稱上限;但這類數字會受到測試方法、任務類型和評估標準影響,不應簡化成固定不變的普遍法則。

數據來源之一:Medium 分析[21]

關鍵發現:長 Context Window 解決的是空間問題,不一定解決理解與治理問題。

市場一直追求更長的 context、更大的模型、更多的工具,但對實際使用者來說,真正缺少的往往不是能力,而是默契:你講少一點,Agent 也明白你想做什麼。

市場缺的不是更強模型,而是更有默契的系統。

下面這張時間軸可以看出記憶如何從精簡走向混亂:不是 AI 變笨了,而是只顧著寫入、從不刪除。

Memory Entropy 時間軸:記憶從精簡到混亂的過程
失控不是因為沒有記憶,而是記憶只加不整理。

而這個問題真正麻煩的地方,不只在於回答品質變差,而是它很快就會變成具體的代價:更多 token、更多重講、更多浪費。

接下來要算的,不只是技術帳,而是成本帳:當記憶沒有治理,每一次重複解釋都會變成 Token Waste。


第三部分:燒錢問題 — Token 廢物

每次重複解釋 = 燒錢

AI Agent 記不住你說過什麼,最痛的不是「不方便」,而是實打實的燒錢。

真正燒錢的,通常不是模型單價本身,而是缺乏治理之後產生的重複解釋、錯誤路由、工具過載和無效循環。

根據 Medium 的分析[8],企業級 AI Agent 團隊的 API 成本可能相當可觀;但這類金額會因團隊規模、模型選擇與工作流而差異很大,更適合當成風險示例,而不是直接套用成固定預算模型。

Token 浪費數據

根據 Octopodas 的研究[9],不少團隊會把一部分 LLM 支出浪費在:

  • 循環(loops)
  • Context 丟失
  • 冗餘協調

文中提到的百分比可視為警訊。[9]

38k → 133k 案例

根據 Reddit 用戶實測[11],有使用者分享:在載入常用 MCP 工具後,單次對話的 token 使用量可能從約 38k 上升到 133k 以上。

這不是要把某個 Reddit 數字當成普遍定律,而是提醒你一件更實際的事:工具不是免費背景,它們本身就會吃掉上下文與成本。 當每個 session 都自動載入一堆不一定用得到的工具、規則、歷史摘要和 skill 說明,你還沒開始做任務,成本就已經先被固定開銷吃掉一截。

成本計算

假設你使用 Claude API:

  • Input: US$3 / 1M tokens
  • Output: US$15 / 1M tokens

如果你每天重複解釋同一件事(1,000 tokens),一個月就是:

  • 1,000 × 30 = 30,000 tokens
  • 30,000 × US$3 / 1M = US$0.09 / 月

這個數字看起來很小,所以「燒錢」真正可怕的地方,不是單次多打一千字,而是它會被三件事放大:

放大器 怎麼燒錢 例子
工具載入 每次任務先載入一大堆工具與規則 還沒開始做事,context 已經膨脹
多輪修正 因為記憶錯誤,一件事反覆返工 同一篇文章改 10 次都沒沉澱成規格
多 Agent 協作 每個 Agent 都要重新讀背景 三個 Agent 各自重建一次脈絡

如果你每天與 AI 對話 5 次,每次 input 4,000 tokens(包含 history、context、tools),每月:

  • 5 × 4K × 30 = 600K tokens
  • = US$1.80 / 月

看似不多。但如果你與 AI 沒有建立良好的記憶治理,每次任務都要 reload 整個 context(10,000 tokens),每月:

  • 5 × 10K × 30 = 1.5M tokens
  • = US$4.50 / 月

一個更典型的 SME 情境:你每天和 AI 寫文章、做研究、除錯,每月 token 用量 5–15M,= US$15–45 / 月。和之前的 $0.09/月相比,真正的開銷不是來自「解釋多了幾句」,而是來自 context 膨脹、工具過載、以及缺乏治理造成的結構性浪費。

看著 API 帳單的迪迪

成本不是只有 API 單價:Token Waste 最後會變成帳單、等待時間,以及反覆修同一件事的成本。

如果要避免這些成本,關鍵不是叫 AI 少做事,而是把記憶放在對的位置。下面這張圖先用「對話、工具、制度」三種承載方式,說明 AI Agent 的記憶可以被放在哪裡。

AI Agent 記憶承載方式:對話、工具、制度三欄比較
AI Agent 的記憶不只存在模型裡,也可能被放進對話、工具與制度。

要理解記憶治理為什麼會影響用戶黏著度,Claude Code 是一個很好的案例:它不只是工具,而是一整套工作流、生態圈和長期記憶習慣。


第四部分:Claude Code 生態圈

為什麼封號、貴、KYC,仍有人用?

Claude Code 是 Anthropic 的 AI 編程工具。如果你想先看工具生態的橫向比較,可以延伸閱讀:2026 AI Agent 比較:Manus vs Claude Code vs Cowork vs Hermes。外部討論常引用它成長很快、開發者採用率高,甚至會提到年化收入與 GitHub 提交占比等數字;但這類數據多半來自媒體報導、二手分析或平台外部觀察,適合作為趨勢感參考,不應在這篇文章裡被當成無爭議的硬事實核心。

但 Claude Code 也因為以下問題備受爭議;關於 KYC 本身,我之前也寫過一篇延伸分析:Claude KYC 係警告信號|2026 香港 AI 工具監管趨勢完全指南。[2] – 封號:Anthropic 對濫用行為零容忍 – 貴:Pro 計劃 $20/月,Max 計劃 $100-200/月 – KYC:需要身份驗證

根據 Business Insider 的報導[13],Anthropic 曾短暫將 Claude Code 從 Pro 計劃移除,引發用戶憤怒。

這一段之所以重要,不是因為 Claude Code 本身值得八卦,而是因為它剛好把整個 AI Agent 市場最矛盾的地方放到檯面上:大家一邊嫌貴、嫌麻煩、嫌限制多,另一邊又不肯放手。

原因通常不是單一功能,而是整體工作流一旦建立起來,切換成本就不再只是月費差額,而是整套默契、工具鏈、Skills、外部狀態物件同長期記憶習慣要不要重建。

為什麼用戶仍然願意付費?

以下是各主流平台在 Memory 架構上的主要差異;如果你想看更完整的工具取捨,可以搭配閱讀:2026 AI Agent 比較:

平台 記憶策略 優勢 限制
Claude Code Context Compaction + 生態圈 Skills/MCP/Tools 跨專案重用 壓縮可能失真,需維護
Codex Session-based + 檔案驅動 開源、終端機原生 每次新對話為空白,需靠檔案繼承脈絡
Perplexity Computer Search-based + Persistent Memory 跨對話檢索相關資訊 向量檢索可能不準確
OpenClaw 多 Agent 分工,Orchestration layer 分擔記憶 任務拆細、角色分工 交接格式沒治理便導致 Agent 間誤解
Hermes Agent File-based + Governance-based 易維護、易交接、分層清楚 檔案治理混亂時一樣迷路

這也是問題的另一面:當愈來愈多人開始依賴 Skills、MCP、Tools 和長時間協作流程,Memory Governance 就不再是進階技巧,而是基本衛生。

這張圖展示了三層分工的邏輯。但接下來要談的不是這張圖本身,而是這套治理要怎麼實際執行。

也就是說,當工作流開始變長、工具開始變多、平台開始變成生態圈之後,記憶治理就不再是加分項,而是基礎建設。

如果問題不只是模型能力,而是整套工作流的記憶結構,那麼解法也不能只靠換模型,而要靠 Memory Governance。


第五部分:Memory Governance — 記憶治理

四大支柱

改善 AI Agent 記憶需要 Memory Governance(記憶治理),這是一套主動維護記憶系統的流程。

根據 Steve Kinney 的研究[7]:

1. 定期清理

刪除過時、重複、矛盾的記憶。

2. 精簡重構

合併相似的 Skills,刪除不用的。

3. 分類索引

讓記憶有結構,不是堆疊。對新手來說,可以先把它理解成「不要把所有東西都塞進同一個抽屜」:長期規則、當前進度、參考資料、失敗教訓,應該分開放,否則之後要找時只會愈找愈亂。

4. 主動維護

視 Context 為稀缺資源,不是無限垃圾桶。

最佳實踐

根據 Redis 的指南[23]:

  • 用完即關的工具紀律:只在需要時開啟特定工具
  • 分層記憶系統:短期記憶 + 長期記憶 + 語義檢索
  • Context Compaction:自動壓縮對話歷史,但需要監控品質

限制與風險

Memory Governance 不是萬能的,有以下限制:

1. 維護成本

需要時間和精力去維護記憶系統。

2. 技術門檻

需要了解向量資料庫、RAG、Context Engineering 等技術。

3. 平台依賴

不同 AI Agent 平台有不同的記憶架構,遷移成本高。

4. 過度清理風險

清理過度可能導致重要記憶丟失。

但說到底,治理如果只停留在 checklist,終究只是一套好看的理論。真正有說服力的,是它能不能在實際合作中,慢慢長出默契。

下面這張圖總結了這個過程:每次走偏如果只是當下修正,很快就會被忘記;但如果修正能沉澱成詞彙、規則和交接方式,下一次就會少走偏一點。

默契如何生成:走偏、修正、沉澱到下次少走偏的流程
默契不是自動長出來,而是每次修正都有地方沉澱。

這也是最後一部分要回到真實案例的原因:默契不是抽象概念,而是一次又一次治理之後,真的會在工作中發生的變化。


第六部分:實戰案例:默契不是模型能力,是治理產物

AI Agent 的默契不是單純來自模型能力,而是由穩定的 AI Agent 記憶、固定決策規則與可重用工作流累積出來的結果。我自己最深的體會,不是來自 benchmark,而是來自一次知識庫搬家。

一開始,使用者每次都要把規則講清楚:哪些檔案要備份、哪些路徑不能動、哪些東西要先驗證、哪些變更要寫進 session-memory。這些不是模型「自然懂」的事,而是靠一次又一次工作累積出來的共同語言。

後來,這些規則不再只是散落在對話裡,而是被放到固定位置:長期規則進入 AGENTS.md,近期狀態寫進 session-memory,可重用流程沉澱成 Skills,重要決策留下 handover。也就是說,Agent 不是「突然學會」,而是有地方可以找回正確做法。

所以當使用者只說「搬」「執」(整理)「繼續」時,Agent 已經知道要先備份、分批處理、寫 checkpoint、驗證 SHA 或檔案數量,再把狀態同步到 peer-sync。這種默契不是來自更大的 Context Window,而是來自 Memory Governance。

所以這篇文章真正想說的不是「AI 要有更長記憶」,而是:AI Agent 的下一步,不只是更聰明,而是更有默契。

Claude Code 如何管理記憶

根據 Reddit 用戶經驗[12]:

  • 關閉 Auto-Compact:避免失真摘要
  • 手動 /compact:控制壓縮時機
  • 外部狀態物件:將專案資訊記錄在 Markdown 檔案

失敗案例:我以為建好 Skill 就會永久有效

我一開始以為,只要建立過一次 Skill、寫過一次偏好、整理過一次記憶,AI 之後就會自然愈用愈懂我。

但實際情況不是這樣。

第二次用的時候,AI 開始問我主題。 第三次用的時候,AI 又問我 tone。 第四次,我甚至要重新解釋整個流程。

問題不在於 AI 完全沒有讀到,而是它讀到的資訊太散、太舊、太混亂。

原因通常包括: 1. 沒有定期清理:Memory 堆滿了過時資訊 2. 沒有分類索引:相關資訊存在,但找不到 3. 沒有主動維護:以為建立一次就會永久有效

成功案例:Knowledge Base 搬家,反而逼出真正的默契

如果前面的失敗案例說明的是「記憶如何失效」,那麼這個案例說明的就是:當治理開始成形,AI 就能從「每次都要重新講一次」進化到「你講一句,我已經知道你接下來要做什麼」。

真正讓我看見「默契」不是口號,而是系統效果的,不是某一次 demo,而是一場 Knowledge Base 搬家。

那次我不是從零開始教 AI 怎麼做,而是只用很少的字,讓它接住整條工作流程。

我講「搬」,它知道不是單純複製檔案,而是要先備份、再驗證、再遷移、再更新路徑,最後還要測試有沒有壞掉。

我說「執」(整理),它知道不是隨便整理,而是要先檢查 source of truth 在哪裡、哪些是長期規則、哪些只是暫時輸出,還要分清楚哪些應該進 session memory,哪些不應該進 hot memory。

這種默契不是來自更大的模型,也不是來自更長的 context,而是來自三件事:

  • 專屬詞彙表:同一個詞,雙方有一致理解
  • 決策偏好:例如先備份、改完要驗證、研究要看官方來源
  • 結構化記錄:把長期規則、近期進度、暫時狀態分開放

結果就是:我不用每次從頭解釋,AI 也比較不容易走偏。

這才是我理解的 AI Agent 價值:不是知道更多,而是更少誤解。


總結

AI Agent Memory 好不好,從來都不只是模型能力問題。更多時候,它是系統設計問題、治理問題,也是你和 Agent 之間有沒有建立共同語言的問題。

百萬 Context Window 解決不了記憶混亂。 Persistent Memory 解決不了過時資訊。 更多 Tools 解決不了理解偏差。

真正有價值的,不是「AI 知道更多」,而是「AI 更少誤解你」。

所以 AI Agent 的下一步,不是更聰明,而是更有默契。 而默契,不會自動出現。 它需要結構、需要治理、需要一次又一次把經驗壓縮成共同語言。

市場以為「記得多 = 更好」,其實「記得亂 = 更差」。

Memory Governance 不是可選的,而是必需的。

最後可以把它當成一個很小的審核流程:不是要求你馬上建立完整系統,而是每次結束重要任務前,問一句「這次學到的東西,下次找不找得回來?」

準備蓋章審核的迪迪

30 秒收尾:真正可重用的記憶,通常不是做完任務那一刻,而是你願意多花 30 秒把它放回正確位置。

給讀者的建議

  1. 今晚就做:打開你的 AI 設定,刪掉 3 條過期或不再使用的 custom instructions
  2. 這週就做:打開你最近一個月用量最高的對話,確認哪些回覆是你本來就知道的——那些 token 就是你可以回收的成本
  3. 這個月就做:建立一份詞彙表,把你與 AI 之間最常用的 10 個術語寫下來,定義雙方一致的理解
  4. 建立交接習慣:每個重要任務結束前,花 30 秒寫一句 session summary,讓下次不用從零開始
  5. 今天開始:每次開新 session,先貼一段 3 行的 context note——內容是什麼、你希望用什麼語氣、上次的決策方向。你會發現,AI 不再需要你從頭解釋。

FAQ

入門概念類

什麼是 AI Agent Memory? AI Agent Memory 是 AI 系統儲存和檢索過往互動的能力,讓 AI Agent 能夠跨越對話邊界,記住用戶偏好、理解決策模式。根據 IBM 對 AI Agent Memory 的說明,Memory 包含短期記憶和長期記憶。
資料來源:[22]
AI Agent Memory 同一般 AI 記憶有咩分別? 一般 AI 記憶通常指同一對話內的上下文理解。AI Agent Memory 跨越對話邊界,包括跨對話的 Skills、當前任務的 Session Memory、長期偏好和決策規則。ChatGPT 用完即忘;AI Agent 需要治理才能持續累積默契。
邊款 AI Agent 最適合新手開始? 建議先從有免費計劃的平台開始。Manus 支援 Skills 匯入功能,適合新手體驗 AI Agent 工作流程;Perplexity Computer 適合需要跨平台搜尋的用戶;Hermes Agent 適合需要自訂工作流程的進階創作者。
資料來源:[32] [3]
如果我不是工程師,也需要 Memory Governance 嗎? 需要,因為 AI Agent 記憶影響的不只是工程工作,也影響日常寫作、研究、整理資料和反覆溝通的成本。但不用一開始就做得很複雜。你可以先從三件事開始:刪掉 3 條過期的 custom instructions、建立一份常用詞彙表、每次重要任務結束後寫 3 行 summary。

實戰操作類

AI Agent 記憶會變亂嗎? 會。這就是 Memory Entropy(記憶熵)現象。很多系統會不斷追加偏好、規則、摘要和失敗教訓,但缺少清理、合併與版本管理。結果不是「記得更多所以更懂你」,而是新舊規則互相打架。
什麼是 Memory Governance? Memory Governance(記憶治理)是一套主動維護記憶系統的流程,包括定期清理、精簡重構、分類索引、主動維護。Steve Kinney 對 Agent memory systems 的整理也指出,記憶需要被分層與治理。
資料來源:[7]
Claude Code 如何管理記憶? Claude Code 主要靠 Context Compaction 和外部記錄來維持長任務連續性。根據 Anthropic Cookbook,Claude Agent SDK 可以自動壓縮對話歷史;但實務上,很多進階使用者仍會搭配外部筆記,避免摘要失真造成誤判。
資料來源:[5]
AI Agent 點樣備份記憶? 取決於平台。Hermes Agent 採用 file-based 架構,session-memory、Skills、AGENTS.md 本身就是可備份、可版本控制的檔案。其他平台如 Claude Code 依賴 Context Compaction 機制,建議搭配外部 Knowledge Base 輔助保存長期脈絡。
資料來源:[5]
Skills 同 Session Memory 有咩分別? Skills 是可重用的程序記憶;Session Memory 是短期工作檯,記錄當前任務進度。Steve Kinney 的記憶系統分析指出,記憶需要被分層與治理。Skills 跨對話有效,Session Memory 只維持在單次對話或近期工作中。
資料來源:[7]
如何知道 AI Agent 的記憶有問題? 三個信號:一、它開始問你之前已經解釋過的問題;二、它經常混淆不同任務的規則;三、你發現自己需要不斷重複相同指示。Steve Kinney 的記憶系統分析指出,當記憶沒有被分層治理時,這些現象會越來越頻繁。
資料來源:[7]

比較類

Context Window 和 Memory 有什麼不同? Context Window 是模型的「工作記憶」,是單次對話中的暫時性空間。Memory 是「長期記憶」,是跨對話的持久儲存。根據 Anthropic 對 context window 的說明,Context Window 是有限容量的,而 Memory 需要外部系統支援。
資料來源:[31]
為什麼更大的 Context Window 不能解決記憶問題? 更大的 Context Window 可能加劇 Context Rot,令模型表現隨著輸入變長而下降。根據 Chroma 對 Context Rot 的研究,多個模型都出現了類似趨勢;但實際影響程度會受任務類型、資料結構和評估方法影響。
資料來源:[18]
什麼是 Context Rot? Context Rot 是指當 Context Window 變長、結構變亂、訊息排序變差時,模型準確度和召回率可能下降的現象。根據 Maxim.ai 對 context engineering 的整理,資訊排列方式本身就可能影響模型表現。
資料來源:[19]
為什麼 Claude Code 封號、貴、KYC,仍有人用? Claude Code 的生態圈優勢(Skills、MCP、Tools)和 Context Compaction 機制,讓開發者願意付費。根據 Business Insider 的報導,雖然價格爭議不斷,但用戶仍然依賴其品質和穩定性。
資料來源:[13]
不同 AI Agent 的記憶架構有什麼不同? 不同工具的 AI Agent 記憶架構差異很大:Codex 使用 Session-based 記憶,每次新對話都是空白狀態,靠檔案繼承脈絡。Claude Code 透過 Context Compaction 壓縮歷史。Perplexity Computer 使用向量資料庫加上持久記憶。選擇哪種取決於你的使用場景。
資料來源:[1] [4]

成本與管理類

AI Agent 會燒多少錢? AI Agent 的成本差異可以非常大,取決於模型價格、工具數量、任務長度和治理品質。Octopodas 對 token waste 的整理指出,缺乏治理時,一部分支出會被浪費在重複解釋與循環中。重點不是固定金額,而是沒有治理時成本通常會愈用愈失控。
資料來源:[9]
一個月燒幾多 Token 先算係有問題? 不是固定數字,而是看結構:當重複解釋、錯誤路由和無效循環成為主要支出時,就是 Token Waste 的信號。Octopodas 對 token waste 的整理指出,缺乏治理時,多餘支出會浪費在重複解釋與循環中。作者經驗是,用量最大的 token 往往不是探索新任務,而是反覆回改已完成的工作。
資料來源:[9]
如何避免 Token 浪費? 避免 Token 浪費的方法包括:用完即關的工具紀律、分層記憶系統、定期清理 Context,以及先建立共同語言再擴充工具鏈。根據 MightyBot 的分析,多輪推理型 Agent 的 context 很容易快速膨脹,所以關鍵是減少無效步驟與冗餘背景。
資料來源:[10]

進階概念類

什麼是 Harness Engineering? Harness Engineering(智能分流與熔斷)不是記憶管理策略,而是一套外部工作制度與控制架構。它用來規範 AI Agent 如何分工、使用工具、處理權限、遇到錯誤時熔斷,讓模型在可觀察、可限制、可回復的環境中工作。
AI Agent Memory 的最佳實踐是什麼? 最佳實踐包括:分層記憶架構、定期清理、分類索引,以及把長期規則與暫時狀態分開管理。47 Billion 對 AI Agent Memory 類型的整理提到,短期記憶和長期記憶各有用途。
資料來源:[24] [31]

名詞解釋

AI Agent Memory AI Agent Memory 是 AI Agent 保存、檢索和延續使用者偏好、任務狀態、決策脈絡的能力,讓系統在跨對話或長任務中更少從零開始。
Context Window 語言模型在生成回應時,能夠直接參考的所有文字內容,相當於模型的「工作記憶」。你可以先把它當成 AI 當下的工作桌面:桌面放得下多少資料,它就只能直接看多少。

↑

Context Rot 當 Context Window 變長、結構變亂、資訊排序變差時,模型準確度和召回率可能下降的現象。

↑

Memory Entropy 記憶熵,指記憶系統在沒有維護的情況下,只會愈來愈亂的現象。本文把它當成實務觀察框架,而不是所有研究都已正式定義的標準術語。

↑

Memory Governance 記憶治理,主動維護記憶系統的流程,包括定期清理、精簡重構、分類索引,以及把長期規則與暫時狀態分開管理。

↑

Context Pollution Context Window 填滿了與當前任務無關的資訊,導致 AI Agent 失去對原始指令的追蹤。

↑

Harness Engineering Harness Engineering 是替 AI 模型設計外部工作制度與控制架構,讓 Agent 在可觀察、可限制、可回復、可替換的環境中工作。它不是記憶管理策略;它處理的是任務分工、權限邊界、多模型路由、錯誤熔斷、驗證、停手與復盤。

↑

RAG Retrieval-Augmented Generation,一種讓 LLM 連接外部資料來源的技術。

↑

Context Compaction 自動壓縮對話歷史以釋放 Context Window 空間的技術。

↑

Token Waste 因為重複解釋、錯誤路由、工具過載或無效循環而消耗掉的 token。它通常不是單次價格太高造成,而是工作流程沒有治理,導致同樣背景被一再重新輸入。

↑

Session Memory 單次任務或近期工作中用來延續脈絡的記憶層。它適合保存當前進度、交接摘要和短期決策,但不應混入長期偏好或永久規則。

↑


資料來源

  1. OpenAI, "Codex – 開源 AI Coding Agent" ↑ ↑ ↑

  2. Ema, "How to Build an AI Agent with Memory Using the OpenAI SDK" ↑ ↑

  3. Perplexity, "Introducing Perplexity Computer" ↑ ↑

  4. MIT AI Agent Index, "Perplexity" ↑

  5. Anthropic, "Automatic context compaction" ↑ ↑ ↑

  6. Dust, "Skills: The Secret to Managing AI Agent Capabilities" ↑

  7. Steve Kinney, "Memory Systems for AI Agents" ↑ ↑ ↑ ↑ ↑

  8. Medium, "Your AI Agent Teams Are Burning Money. Here's the Math." ↑

  9. Octopodas, "How Much Money Are Your AI Agents Wasting Without You…" ↑ ↑ ↑

  10. MightyBot, "Why Enterprise AI Projects Blow Budgets" ↑

  11. Reddit, "Context limit kills long runs, and auto-compact quietly ruins memory" ↑

  12. Reddit, "My Claude Code Context Window Strategy" ↑

  13. Business Insider, "Anthropic's Claude Code pricing pain is Sam Altman's pleasure" ↑ ↑

  14. PYMNTS, "Anthropic's Claude Subscription Shift Signals New AI Pricing Era"

  15. Simon Willison, "Is Claude Code going to cost $100/month?"

  16. Medium, "Claude Code Is Writing 4% of Everything on GitHub"

  17. LinkedIn, "4% of all GitHub commits are now written by Claude Code"

  18. Morph, "Context Rot: Why LLMs Degrade as Context Grows" ↑ ↑

  19. Maxim.ai, "Context Engineering for AI Agents" ↑ ↑

  20. GitHub, "Needle In A Haystack – Pressure Testing LLMs" ↑

  21. Medium, "Stop Chasing Million-Token Context Windows" ↑

  22. IBM, "What Is AI Agent Memory?" ↑

  23. Redis, "How to build AI agents with Redis memory management" ↑

  24. 47 Billion, "AI Agent Memory: Types, Implementation, Best Practices" ↑

  25. Bito, "Claude 2.1 (200K Context Window) Benchmarks"

  26. OpenAI Developer Community, "Memory-First Conversational Architecture" ↑

  27. Forbes, "Perplexity Computer Links AI Agents To Do The Work"

  28. Ars Technica, "Perplexity announces Computer, an AI agent that assigns work to other AI agents"

  29. Reddit, "Claude is 10x more expensive per token than any other coding plan"

  30. Anthropic, "Context windows" ↑ ↑

  31. Manus Skills 官方文件 ↑

D

Dacdic Yeung

AI Agent 實戰者・內容自動化工程師

用過 20+ 款 AI Agent,日常用 Hermes、Claude Code 與自建工作流,專注 GEO 內容策略、AI Agent 實戰與自動化系統設計。

dacdicai.com · AI Agent 比較 · Claude KYC 分析

發佈日期:2026 年 5 月 11 日 | 作者:Dacdic | 網站:dacdicai.com

Similar Posts

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *