打造 AI-native：揭密支撐 Cognition、Gamma 與 Harvey 的技術架構（第 1/2 段）
🏦 台灣Pay 銀行轉帳 💙 PayPal
三家 AI 新創分享創業核心賭注、模型進步帶來的轉折點與重構教訓
- 01:53 主持人 Beth Robertson 負責 Anthropic 的新創團隊，要帶大家看三家公司在前沿打造產品時下的賭注與細節
- 08:07 MCP 改變了 Gamma 的分發方式與 GTM：Gamma 變成使用者原本就在用的工具裡的 agent
- 13:51 以 coding agent 為例，Harvey 六個月前的架構和現在根本不同
💡 你可以怎麼用：做簡報或提案時，把力氣花在想清楚那一成的核心重點，排版交給 Gamma 這類工具。另外，每隔幾個月就把以前「AI 做不到」的事再試一次；遇到複雜任務，可以先請 AI 把計畫寫下來，再讓它照著做。
看全部 36 條重點
🧑🏫 Anthropic 找來三家 AI 新創：做法律 AI 的 Harvey、做寫程式 AI 的 Cognition、做簡報工具的 Gamma。他們各自說明押了什麼賭注，還有模型每變強一次，產品就得跟著怎麼改。如果你好奇 AI 產品為什麼一直大改版、以前做不到的事為什麼突然做得到，這段講得很實在。
- 01:53 主持人 Beth Robertson 負責 Anthropic 的新創團隊，要帶大家看三家公司在前沿打造產品時下的賭注與細節↳ 主持人 Beth Robertson 在 Anthropic（開發 Claude 的公司）負責新創團隊。她請三家公司分享：在 AI 最前線做產品，押了什麼注、有哪些實際細節。
- 02:26 Nico Gruppen 在 Harvey 負責 applied research；Harvey 是法律與專業服務的生成式 AI 平台↳ Nico Gruppen 在 Harvey 做 applied research，就是把研究成果實際用進產品。Harvey 做的是生成式 AI（能產生文字等內容的 AI），給律師和專業服務業用。
- 02:56 Harvey 的核心賭注：模型能力會快速進步，而且能很好地延伸到法律領域；他認為多數應用層公司都是這樣的賭注↳ Harvey 押的注是：模型會很快變強，而且變強的部分能用在法律這種專業工作上。Nico 說，多數在模型上面做產品的應用層公司，其實都押同一個注。
- 02:56 Nico 剛加入 Harvey 時，團隊還住在 Airbnb 裡辦公，當時 Gabe 和 Winston 用現在看來算小的模型回答問題↳ 他剛進 Harvey 時，公司小到在 Airbnb 租來的房子裡辦公。當時 Gabe 和 Winston 拿來回答問題的模型，以今天的標準看算是很小的。
- 03:26 模型層的指數型進步，讓 Harvey 能把公司的企圖心拉得更高↳ 模型不是慢慢進步，而是一輪比一輪大幅躍進（指數型進步）。底層模型越強，Harvey 能做的事就越多，所以公司敢把目標訂得更大。
- 03:26 Walden 是 Cognition 共同創辦人，公司做 Devon、Windsurf 等 AI coding 產品；Devon 的核心賭注是 autonomous agents↳ Walden 是 Cognition 的共同創辦人，公司做 Devon、Windsurf 等 AI 寫程式工具。Devon 押的是 autonomous agents：交代任務後，AI 自己一路做完，不用人一步步帶。
- 03:58 Devon 的願景是不只寫程式，還有自己的電腦，會執行、開桌面測試、自己修 bug，最後交出能用的 PR；兩年前的模型做不到↳ Devon 想做的不只是寫程式碼。它有自己的電腦，會跑程式、開桌面實測、自己修 bug（程式錯誤），最後交出能用的 PR（提交給團隊審核的程式修改）。兩年前的模型辦不到。
- 04:30 去年這時候出現 Sonnet 3.5、3.6 這類原生 agentic 的模型，幫助很大；computer use 測試能力也越來越普遍↳ 去年這時 Claude 的 Sonnet 3.5、3.6 推出，這些模型天生擅長 agentic 的工作方式（自己規劃、自己動手），幫了大忙。computer use（AI 像人一樣看螢幕、點滑鼠）拿來測試也越來越普遍。
- 04:30 近期模型開始有長時間自主能力，可連跑好幾小時，於是在本機跑太多 agent 會成為瓶頸，今年 cloud agent 使用量爆發↳ 最近的模型能自己連續工作好幾個小時。在一台電腦上同時跑很多這種 agent 會卡住，所以大家改用 cloud agent，也就是放到雲端伺服器上跑，今年用量暴增。
- 05:02 光是 2026 年到目前為止，客戶的 agent 使用量已是 2025 年底最佳一週的 5 到 7 倍↳ 用數字看有多誇張：光是 2026 年到目前為止，客戶的 agent 使用量已經是 2025 年底最高峰那一週的 5 到 7 倍。
- 05:32 Gamma 的出發點：人在傳達最重要的想法時（簡報、提案、行銷網站、社群貼文），通常靠視覺成品↳ Gamma 的觀察是：人要傳達最重要的想法時，例如提案簡報、行銷網站、社群貼文，靠的通常不是純文字，而是做好的視覺成品。
- 06:03 人們大約只花 10% 時間想核心洞見，90% 花在設計、排版和調整細節；Gamma 的賭注是用 AI 拿掉這 90%↳ 做一份簡報，真正在想重點的時間大概只佔一成，其餘九成都耗在挑版型、對齊、調字級。Gamma 押的注是：這九成的苦工，交給 AI 接手。
- 06:03 使用者提供核心洞見，Gamma 負責延伸想法、建構敘事、設計並美化↳ 分工方式是：你負責提出核心想法，Gamma 負責把想法延伸、串成有頭有尾的故事，再幫你設計、美化。
- 07:03 Gamma 2020 年就成立，早於這波 AI 浪潮；圖像模型變好、LLM instruction tuning 改變使用方式時才迎來 aha moment↳ Gamma 2020 年就成立了，比這波 AI 熱潮早。直到圖像模型變好，加上 LLM（大型語言模型）經過 instruction tuning 學會照指令做事、用法大變，他們才迎來「就是這個」的時刻。
- 07:34 LLM tool calling 變成熟後，Gamma 做出第一批 agentic 體驗；至今用 agent 編輯仍是他們最大的差異化之一↳ tool calling 是讓模型自己去啟動其他功能，例如「改掉這頁標題」。這項能力成熟後，Gamma 做出第一批讓 AI 自己動手改簡報的功能，到現在還是他們跟別家最大的不同。
- 07:34 MCP 浪潮 Gamma 很早就大力投入，因此能做出連到多個其他平台的 connector↳ MCP 是讓 AI 接上各種外部工具的通用標準。MCP 一開始流行，Gamma 就很早大力投入，做出很多 connector，也就是接到其他平台的連接元件。
- 08:07 MCP 改變了 Gamma 的分發方式與 GTM：Gamma 變成使用者原本就在用的工具裡的 agent↳ GTM 指產品怎麼推向市場、送到使用者手上。有了 MCP，使用者不必打開 Gamma，在原本用的工具裡就能叫它做事，Gamma 等於變成內建在別人工具裡的 agent。
- 08:40 既有用戶不必中斷工作流程就能更頻繁使用；對新用戶來說也是很大的獲客管道，用戶在自己常用的平台上發現 Gamma↳ 老用戶不用切換視窗、打斷手上的工作，就能更常用 Gamma。新用戶則是在自己天天用的平台上發現它，這成了很大的拉新管道。
- 08:40 現在溝通越來越由 agent 居中處理，Gamma 正在思考下一階段產品會長什麼樣子，這也是今年的重點↳ 以後人跟人的溝通，可能越來越多要經過 agent 轉手處理。Gamma 在想：到那時產品該長什麼樣子？這是他們今年的重點。
- 09:12 MCP 是很大的獲客管道，但不確定是不是最主要的；Gamma 現在也在其他 B2B 工具裡有 connector↳ MCP 確實帶來很多新用戶，但她坦白說不確定是不是最大的來源。Gamma 現在也把 connector 做進其他 B2B（賣給企業用）的工具裡。
- 09:45 從 2024 年開始做 agent 會發現，很多東西做了之後要刪掉↳ 講者提醒：如果你從 2024 年就開始做 agent，會發現很多當初辛苦做出來的東西，後來都得刪掉，因為模型自己就會了。
- 09:45 例子：早期模型不會編輯程式碼，只能吐出整個新檔案，得靠 speculative decoding 和推論技術等方法硬做↳ 舉例來說，早期模型不會只改幾行程式，每次都得吐出一整份新檔案。業界只好用 speculative decoding（先快速猜出內容、再驗證來加速的技術）這類推論技巧硬撐。
- 09:45 模型經過原生 RL 訓練、能自己編輯程式碼和 grep 之後，這一切都改變了，是很大的躍進↳ 後來模型經過 RL（強化學習：做對就給獎勵、反覆練習）訓練，直接學會編輯程式碼、用 grep（在大量檔案裡搜尋關鍵字的指令）找東西，這是一大躍進。
- 10:17 被低估的一點：現在模型能很自然地使用檔案系統。以前要自己做 planning 系統，現在叫 agent 把計畫寫下來照做就行↳ 常被忽略的一點：模型現在很會用檔案系統，也就是讀寫電腦裡的檔案。以前得另外做一套規劃系統，現在只要叫 agent 把計畫寫成檔案，再照著做就好。
- 10:47 memory 也一樣：以前要做很多客製系統，現在可以更深入利用檔案系統，大家正從 RAG 轉向檔案系統↳ memory（讓 AI 記得之前的事）也一樣。以前常用 RAG，也就是先從資料庫搜出相關片段、再餵給模型；現在越來越多人改成讓 agent 直接用檔案記東西。
- 10:47 Walden 認為這是很實用的心得，這項能力解鎖了 Devon 的許多長時間任務↳ Walden 同意這很實用。正是會用檔案系統這個能力，讓 Devon 能做需要連跑好幾小時、一步步完成的長時間任務（long horizon）。
- 11:20 Harvey 的第一個轉折點：foundation model 出現，規模帶來湧現的推理能力，從 Reddit 式法律問答走到處理大型律所的工作↳ Harvey 第一個轉折：foundation model（用海量資料訓練的通用大模型）出現，規模大到開始會推理，產品從回答網路論壇等級的法律問題，進步到能處理大型律所的工作。
- 11:20 第二個轉折點：2024 年底到 2025 年初的 reasoning model，開始做 workflow automation↳ 第二個轉折是 2024 年底到 2025 年初出現的 reasoning model，也就是回答前會先多想一輪的模型。Harvey 從這時開始做 workflow automation，把工作流程自動化。
- 11:50 workflow automation 做法：靠足夠的預先設計的模型呼叫、檢索和搜尋步驟，幾乎能解決任何單一任務↳ 做法是由工程師先把步驟排好：這步叫模型、這步查資料、這步搜尋。只要步驟設計得夠多，幾乎任何單一任務都能完成，但路線是人事先訂好的。
- 11:50 第三個轉折點：今年冬天以 Opus 4.5 為代表的 coding agent，可以把 planning 與 orchestration 交給模型↳ 第三個轉折是今年冬天以 Claude Opus 4.5 為代表的 coding agent（會自己寫程式的 agent）。這時連規劃步驟（planning）和安排分工順序（orchestration）都能交給模型自己決定。
- 11:50 對 Harvey 最酷的不只是單一 agent，而是 multi-agent coordination↳ 對 Harvey 來說，最有意思的不是單一 agent 有多厲害，而是 multi-agent coordination：好幾個 agent 分工合作、互相交接。
- 12:20 律所工作是階層式的：合夥人把幾個月的案子拆給資深律師（以週計），資深律師再拆給資淺律師（以天計）↳ 律所本來就是層層分派：合夥人接下要做好幾個月的案子，拆成以週計的工作交給資深律師，資深律師再拆成以天計的小任務交給資淺律師。
- 12:20 有了 Opus 4.7，加上 CMA 這類 agent 編排基礎設施，agentic 系統也能用同樣的階層方式建構，替產品帶來很大潛力↳ 有了 Opus 4.7，加上 CMA 這類負責調度多個 agent 的基礎設施，AI 系統也能照律所這種上下分層的方式來搭，對 Harvey 的產品潛力很大。
- 13:21 教訓：Harvey 在三個轉折點都得把產品整個重新架構↳ 教訓是：這三次轉折，Harvey 每一次都得把產品架構整個打掉重做，不是小修小補就能跟上。
- 13:21 不能在某個時間點做決定後就一直死守；和傳統「做一次就擴大規模」的工程思維不同，必須預想未來、甚至指數型的進步↳ 不能某天定好架構就一路死守。傳統工程是做好一次、再擴大規模；做 AI 產品則要先預想模型會變多強，甚至是指數型地變強。
- 13:51 以 coding agent 為例，Harvey 六個月前的架構和現在根本不同↳ 拿 coding agent 來說，Harvey 半年前的系統架構跟現在已經完全不一樣，變化就是這麼快。
📘 術語
autonomous agents（自主 agent）：不只寫程式，還有自己的電腦，能執行、測試、修問題，最後交出可用的 PR
cloud agent（雲端 agent）：在雲端執行的 agent；長時間任務讓本機跑太多 agent 成為瓶頸，因此使用量爆發
computer use（電腦操作能力）：字幕提到 computer use 測試能力越來越普遍，例如開桌面測試程式
PR (pull request)（合併請求）：Devon 最後交出的、已經能正常運作的程式碼變更
instruction tuning（指令微調）：改變了人和 LLM 的互動方式，以及能從 LLM 得到的東西
tool calling（工具呼叫）：這項能力變成熟後，Gamma 才做出第一批 agentic 體驗
agent orchestration（agent 編排）：和 tool calling 一起促成 Gamma 用 agent 編輯的功能
MCP（MCP）：讓 Gamma 能做出連到其他平台的 connector，成為其他工具裡的 agent
connector（連接器）：Gamma 用 MCP 做出、接進其他平台和 B2B 工具的整合
GTM (go-to-market)（市場進入策略）：MCP 改變了 Gamma 的產品分發方式和 GTM
speculative decoding（推測解碼）：早期模型不會編輯程式碼時，業界用來讓模型編輯程式碼的技術之一
RL（強化學習）：模型經過原生 RL 訓練後，才能自己編輯和 grep 程式碼
grep（文字搜尋）：字幕說模型現在能自己 grep 程式碼
long horizon（長時間任務）：agent 能連續跑好幾小時、依照步驟完成的長軌跡任務
RAG（檢索增強生成）：字幕說大家做 agent memory 時，正從 RAG 轉向用檔案系統
foundation model（基礎模型）：規模帶來湧現推理能力，是 Harvey 的第一個轉折點
reasoning model（推理模型）：2024 年底到 2025 年初出現，讓 Harvey 開始做 workflow automation
workflow automation（工作流程自動化）：靠預先設計的模型呼叫、檢索和搜尋步驟，解決單一任務
multi-agent coordination（多 agent 協作）：像律所一樣分層拆解任務，交給不同 agent 完成
cloud agent（雲端 agent）：在雲端執行的 agent；長時間任務讓本機跑太多 agent 成為瓶頸，因此使用量爆發
computer use（電腦操作能力）：字幕提到 computer use 測試能力越來越普遍，例如開桌面測試程式
PR (pull request)（合併請求）：Devon 最後交出的、已經能正常運作的程式碼變更
instruction tuning（指令微調）：改變了人和 LLM 的互動方式，以及能從 LLM 得到的東西
tool calling（工具呼叫）：這項能力變成熟後，Gamma 才做出第一批 agentic 體驗
agent orchestration（agent 編排）：和 tool calling 一起促成 Gamma 用 agent 編輯的功能
MCP（MCP）：讓 Gamma 能做出連到其他平台的 connector，成為其他工具裡的 agent
connector（連接器）：Gamma 用 MCP 做出、接進其他平台和 B2B 工具的整合
GTM (go-to-market)（市場進入策略）：MCP 改變了 Gamma 的產品分發方式和 GTM
speculative decoding（推測解碼）：早期模型不會編輯程式碼時，業界用來讓模型編輯程式碼的技術之一
RL（強化學習）：模型經過原生 RL 訓練後，才能自己編輯和 grep 程式碼
grep（文字搜尋）：字幕說模型現在能自己 grep 程式碼
long horizon（長時間任務）：agent 能連續跑好幾小時、依照步驟完成的長軌跡任務
RAG（檢索增強生成）：字幕說大家做 agent memory 時，正從 RAG 轉向用檔案系統
foundation model（基礎模型）：規模帶來湧現推理能力，是 Harvey 的第一個轉折點
reasoning model（推理模型）：2024 年底到 2025 年初出現，讓 Harvey 開始做 workflow automation
workflow automation（工作流程自動化）：靠預先設計的模型呼叫、檢索和搜尋步驟，解決單一任務
multi-agent coordination（多 agent 協作）：像律所一樣分層拆解任務，交給不同 agent 完成
✏️ 小考一題
Walden 提到，現在建構 agent 的 memory，大家正在從什麼轉向什麼？
A. 從檔案系統轉向 RAGB. 從 RAG 轉向檔案系統C. 從向量資料庫轉向 MCPD. 從客製 planning 系統轉向 speculative decoding看答案
答案：B。[10:47] Walden 說 memory 以前要做很多客製系統，現在能更深入利用檔案系統，「people moving from RAG to file systems」
💛 覺得有幫助？支持一下
課本免費、沒有廣告，支持與否都能照常讀 🐰