為模型的跳躍式進步設計架構：與 Vercel 的 Guillermo Rauch 爐邊對談（第 2/2 段） ☕ Buy me a coffee

🧑‍🏫 這是 Vercel 執行長 Guillermo Rauch 對談的後半段。Vercel 是一個架網站、上線網站的平台。他分享團隊做 AI 開發工具 v0 學到的事：少替 AI 預設規則，給它一台自己的電腦去試。他也認為，以後人會越來越常把任務交給 AI，過一陣子再回來看成果。想把 AI 用得更放手的人，很值得一看。

• 13:38 Vercel 總註冊數有三分之一來自 v0（字幕作 VZero），擴大了「誰能開始打造軟體」的範圍
  ↳ v0 是 Vercel 的 AI 工具，用說的就能做出網頁或 App。Vercel 的新註冊有三分之一是從 v0 來的，代表很多不寫程式的人也開始自己做軟體了。
• 13:38 在科技公司裡，過去無法直接參與軟體開發的「開發者周邊角色」受惠很大，現在公司裡每個人都能提出提案、改進或自己做的工具
  ↳ 像設計師、PM 這些在工程師身邊工作的人，以前只能提需求、等別人做。現在他們能自己做出工具或改進，直接拿成品去提案。
• 14:40 過去過度設計的地方之一：給模型多少工具。曾打造非常特定的 subagent 或特定工具，但實際上不一定需要
  ↳ agent 是能自己一步步把任務做完的 AI。以前團隊替它準備很多專用工具，還拆出專責的小 agent（subagent），後來發現很多是多做的。
• 15:12 模型搭配 sandbox 會非常有創意，有時甚至「太有創意」，讀它產生的指令會看不懂它做了什麼
  ↳ sandbox 是給 AI 用的隔離電腦環境，在裡面怎麼試都不會弄壞外面。AI 在裡面很會想辦法，有時做法怪到人看不懂它下的指令在做什麼。
• 15:12 agent 不只寫使用者要的最終程式碼，還能自己寫中間步驟的程式碼，來找到正確解法或除錯輸出
  ↳ 就像人解題會先在草稿紙上算，AI 也會自己寫臨時的小程式來測試、檢查輸出，找出問題在哪，最後才交出你要的東西。
• 15:44 最大的能力躍進之一：讓每個 agent 都有自己的電腦，也就是 sandbox 的重要性；因為模型寫的程式碼可能是任何東西
  ↳ AI 寫的程式可能是任何東西，不能直接放在你的電腦或正式系統上跑。給每個 agent 一台自己的電腦，它才能放手去做，這是能力大躍進的關鍵。
• 15:44 現在工程重心轉向 tool approvals（工具核准）和建立適當的安全護欄
  ↳ tool approvals 是 AI 執行動作前先問人「可以嗎」；guardrails（安全護欄）是事先劃好不能越過的界線。現在工程師花很多力氣設計這兩件事。
• 16:15 要在安全、操作者監督與不打擾使用者之間找平衡，避免一直要人按核准，甚至要使用者核准看不懂的指令（例如一段 Perl inline script）
  ↳ 如果 AI 每一步都要你按同意，人會很煩；更糟的是要你核准一段看不懂的程式（例如用 Perl 語言寫的一行指令）。安全和順手之間要拿捏。
• 16:15 給每個 agent sandbox 與電腦後，可以減少固定工具的數量，讓工具在 agentic 過程中自然浮現
  ↳ 既然 AI 有自己的電腦，就不必事先幫它做一堆固定工具。它需要什麼，會在做事的過程中自己寫出來、自己找出來。
• 16:48 解決問題也一樣：早期認為人類工程師要預先規劃所有錯誤情境，現在改為讓 agent 自己想出新解法
  ↳ 以前工程師要先想好所有可能出錯的狀況，並寫好處理方式；現在改成遇到問題時，讓 AI 自己想新辦法解決。
• 16:48 例子：Vercel 做了一個叫 Agent Browser 的小 CLI
  ↳ CLI 是「命令列工具」，也就是在文字視窗裡打指令操作的程式。Vercel 做了一個叫 Agent Browser 的小 CLI，讓 AI 能操作瀏覽器。
• 17:19 v0 會寫程式、很熟 Next.js；發現壞掉時能用瀏覽器看輸出、截圖、讀開發者 logs
  ↳ Next.js 是 Vercel 開發的熱門網站框架，v0 很會用它寫網站。網站壞掉時，v0 能開瀏覽器看畫面、截圖、讀錯誤紀錄（logs），自己查原因。
• 17:19 等於給 agent 和人類一樣的工具，不要當微觀管理者；這也像一般工程管理的教訓：讓模型「喘口氣」
  ↳ 人類工程師用什麼工具查問題，就給 AI 同樣的工具，然後不要緊盯每一步。這跟帶人一樣，管太細反而綁手綁腳，給它一點空間。
• 17:49 另一個做法是擁抱 CLI；看到 agent 學會新工具很驚人，但一開始 agent 不太會用 Agent Browser
  ↳ AI 能學會新工具很驚人，所以他們選擇多用命令列工具。不過一開始 AI 其實不太會用 Agent Browser。
• 17:49 之後用 skills 補強 Agent Browser；Vercel 很推崇 skills，發現它能幫模型更快達成預期結果
  ↳ skills 是寫給 AI 看的操作說明，教它某個工具或任務該怎麼做。他們替 Agent Browser 補上 skills 之後，AI 更快做出想要的結果。
• 18:52 他認為的共識：agent 需要的監督越來越少
  ↳ 他觀察到業界大致有個共識：AI 越來越不需要人在旁邊盯著。
• 18:52 Vercel 正在實驗 Slack 整合，可直接從 Slack 啟動 v0 任務；也看到同事與同業自建 agent 並非同步呼叫
  ↳ Slack 是公司常用的聊天軟體，Vercel 在試直接從 Slack 派任務給 v0。他也看到很多人自己做 agent，丟出任務後不在旁邊等，AI 做完再回報。
• 18:52 趨勢是從同步轉向非同步，但他認為人與 agent 的各種互動模式都會以某種形式繼續存在
  ↳ 同步像打電話，要當場等回應；非同步（asynchronous）像寄 email，對方做完再回你。趨勢往非同步走，但他認為各種用法都會繼續並存。
• 19:23 互動模式一：CLI。他在做很具體的事、除錯、看 debug log、使用本機已有工具時會用 CLI
  ↳ 第一種用法：在命令列直接跟 AI 對話。適合做很具體的事、除錯、看程式紀錄，或是要用自己電腦上已經裝好的工具時。
• 19:23 互動模式二：v0 擅長的介面開發，像 UI-driven development，需要前端輸出和 prompt 之間非常快速的來回
  ↳ 第二種用法：做網頁畫面（UI，也就是使用者看到的介面）。你說一句、它改一下、你馬上看結果再調整，需要很快的來回，這正是 v0 擅長的。
• 19:55 這種模式的迴圈不是變長，反而在縮短；他很迷 v0 max fast，背後是 Claude Code（字幕作 Cloud Code）fast mode，很貴但能讓人進入專注狀態
  ↳ 這種來回越來越快。Claude Code 是 Anthropic 的 AI 寫程式工具，它的 fast mode 特別快也特別貴。他很愛用，因為快到能讓人一直保持專注。
• 20:25 很多客戶說 v0 取代了他們的設計工具；這有點辛辣，因為 Vercel 也有很多設計師喜歡拖拉式、artboard 類工具
  ↳ 很多客戶說有了 v0 就不用設計軟體了。這話有點敏感，因為 Vercel 自己也有很多設計師，喜歡在畫布（artboard）上用拖拉的方式做設計。
• 20:25 他自己做 Vercel 部署 CLI 和第一版 Next.js 時不是從程式碼開始，而是先用 Sketch（Figma 的前身）設計 CLI 的各種狀態
  ↳ Sketch 是 Figma 流行之前的主流介面設計軟體。他當年做 Vercel 部署工具和第一版 Next.js，都是先畫出畫面的各種狀態，才開始寫程式。
• 20:55 互動模式三（他認為未來成長最多）：更非同步、更少人監督，丟出任務後讓 agent 帶著解法回來
  ↳ 第三種用法，也是他認為未來會成長最多的：交代完任務就不管了，AI 自己去做，做完帶著解法回來。
• 21:25 他提到這就是「Ralph with the exit criteria」（帶有結束條件的做法）
  ↳ Ralph 是讓 AI 反覆嘗試同一個任務的做法。加上「結束條件」（exit criteria），就是事先講清楚做到什麼程度才算完成，AI 才知道什麼時候可以交差。
• 21:25 例子：Vercel CTO 做了 CloudSec 工具，用 sandbox 平行把 Claude Code 和 Codex 丟進大型程式碼庫，結束條件是「帶回可重現的安全漏洞」
  ↳ Vercel 技術長做了 CloudSec 工具：在多個 sandbox 裡同時派 Claude Code 和 Codex（OpenAI 的寫程式 AI）翻大型程式碼，找到可重現的漏洞才算完成。
• 21:25 成果驚人：已和將近十幾個開源專案合作，找出關鍵漏洞
  ↳ 成果很驚人：已經跟將近十幾個開源專案（程式碼公開、大家一起維護的軟體）合作，找出關鍵的安全漏洞。
• 21:56 CTO 在辦公室半分心，因為 agents 在背景跑；他認為這是全新且會大幅成長的人機互動模式
  ↳ 技術長在辦公室只需要分一點心，因為 AI 在背景自己跑。他認為「人放手、AI 在背後做事」是全新的模式，而且會大幅成長。
• 21:56 更辛辣的看法：無人監督的 agent 不只寫軟體，還可推廣軟體、跑廣告活動、回覆客服請求
  ↳ 更大膽的想法：沒人盯的 AI 不只會寫軟體，還能推廣產品、跑廣告、回覆客服。也就是說，公司其他部門的工作也可能交給它。
• 22:28 未來可能是打造自主公司、自主組織；OpenClaw 和用簡訊驅動 agent 開發的熱潮就是例子，預期任務需要一段時間
  ↳ 未來可能出現幾乎靠 AI 自己運作的公司。字幕提到 OpenClaw 和「傳簡訊指揮 AI 做開發」的熱潮，大家都預期這種任務要跑上一段時間。
• 22:58 這和過去期待電腦即時回應的使用方式完全不同，而是把 agent 派出去工作
  ↳ 以前用電腦，按下去就要馬上有結果；現在比較像派員工出去辦事，你不會站在旁邊等，而是過一陣子再看成果。
• 22:58 Vercel 上有很多自主公司（或其建造者）成長很快；他比喻人像董事：給 CEO 回饋、資源、資金，每季看狀況報告
  ↳ Vercel 上有不少自主運作的公司長得很快。他比喻人的角色像董事：不管日常細節，只給執行長回饋、資源和資金，每季看一次報告。
• 23:28 可把這套模式套到 agent：給它資源、虛擬信用卡，一週、一個月或一季後再回來看成果
  ↳ 對 AI 也可以這樣做：給它資源和一張虛擬信用卡，然後一週、一個月或一季之後再回來看它做出什麼。
• 23:58 Vercel 如何為變化做準備之一：持續賦能員工；每個新人不論職位都要部署一個東西，甚至要註冊 GitHub 帳號
  ↳ Vercel 的準備方式之一，是讓每個員工都能動手。新人不管什麼職位都要親手上線一個東西，連註冊 GitHub（存放程式碼的網站）帳號都包含在內。
• 24:28 目標是讓人了解自己沒有天花板、能使用這些工具
  ↳ 用意是讓大家知道：不是工程師，也沒有天花板，這些工具每個人都能用。
• 24:28 他以身作則：有個 Slack 頻道當腦力傾倒區，叫 BrainRouchG，展示他怎麼用圖像模型、影片模型、寫自己的生產力工具、用作業系統層級 AI
  ↳ 他自己帶頭，在 Slack 開了一個隨手分享的頻道，示範怎麼用 AI 生圖、生影片、寫自己的效率小工具，以及用作業系統內建的 AI。
• 25:02 積極分享最佳實踐知識，也從資金面賦能員工
  ↳ 除了積極分享好用的做法，公司也出錢支持，讓員工有預算放心使用這些 AI 工具。
• 25:02 他不喜歡「token 排行榜」（比誰最快燒最多 token）的做法
  ↳ token 是 AI 計算用量和收費的單位，大約等於字詞的片段。有些公司會排行誰燒最多 token，他不喜歡這種做法。
• 25:02 把 token 的消費模式類比成雲端：Vercel 創業時能直接註冊 AWS 帳號做出神奇的東西；token 就像新的基礎設施
  ↳ 他把 token 比作雲端服務。Vercel 剛創業時，註冊一個 AWS（亞馬遜的雲端服務）帳號就能做出很神奇的東西；現在 token 就是新的基礎資源。
• 25:32 要告訴員工不同 token 的差異：有的超聰明又超快（如 fast mode）要用得謹慎；有的很便宜，例如某些 inference provider 提供的 open models
  ↳ 要教員工分辨不同的 token：有的又聰明又快（像 fast mode），但要謹慎用；有的很便宜，例如一些 AI 服務商提供的開放模型（公開釋出的模型）。
• 25:32 把 token 當成新的原料、新的黏土，用來打造新解法
  ↳ 把 token 當成做東西的原料，就像陶土一樣，拿來捏出新的解決方案。
• 26:03 讓大家明白不只 CTO，公司裡每個人都能做這些事，讓 Vercel 走得很遠
  ↳ 讓大家相信不只技術長，公司裡每個人都能用 AI 做出東西，這是 Vercel 能走這麼遠的原因。

Vercel CTO 打造的 CloudSec 工具，給 agents 設定的結束條件（exit criteria）是什麼？