為模型的跳躍式進步設計架構：與 Vercel 的 Guillermo Rauch 爐邊對談（第 1/2 段） ☕ Buy me a coffee

🧑‍🏫 這是 Anthropic 和 Vercel 執行長 Guillermo Rauch 的對談。Vercel 是讓網站很容易上線的雲端平台。他談到 AI 怎麼改變公司的方向，內部怎麼用 AI 做工具，還有換成更強的模型 Opus 4.5 之後，產品和程式碼發生了哪些實際變化。想知道「模型變強後，公司實際上會怎麼調整」的人，可以看這支。

• 01:13 對談者是 Vercel CEO Guillermo Rauch，主持人是 Anthropic cloud platform 產品負責人 Angela Jang
  ↳ 這場是對談形式：來賓是 Vercel 執行長 Guillermo Rauch，主持人是 Anthropic 負責雲端平台產品的 Angela Jang。
• 02:48 Vercel 創立的理念是消除「從想法到上線」之間的所有摩擦，手段是 developer experience
  ↳ Vercel 想解決的是，做網站的人有了點子後，要讓大家真的用得到，中間卡著很多麻煩。developer experience 指開發者用工具順不順手，Vercel 就是靠把這件事做好來拿掉那些麻煩。
• 02:48 很多人認為是 Vercel 把對 developer experience 的執著帶進 cloud infrastructure
  ↳ 雲端基礎設施（cloud infrastructure）是讓網站跑起來的底層，像伺服器和網路。這類東西以前出名的難用，很多人認為是 Vercel 開始要求它也要好用。
• 02:48 使命是讓基礎設施更普及：只會 JavaScript 和 React 的人，也能用到以前只有大型企業才有的基礎設施
  ↳ 以前要有穩定、撐得住大流量的網站架構，得靠大公司的工程團隊。Vercel 想讓只會 JavaScript、React 這些常見網頁技術的人也能用到。
• 03:18 現在的核心仍是把想法變成現實，但多了 agents 和 AI 這些新超能力，他比喻成 RPG 遊戲裡掉落了超級武器
  ↳ 目標沒變，還是幫人把點子做出來。差別是現在多了 agent，也就是能自己動手完成多步驟工作的 AI。他形容這像打電動時突然掉出一把超強武器。
• 03:18 他現在花很多時間思考 agent ergonomics，也就是給 agents 用的 developer experience
  ↳ 以前的工具是設計給人用的，現在使用者多了 AI agent。他花很多心思想怎麼讓 agent 用起來也順手，這就叫 agent ergonomics。
• 03:53 有了 v0 和 Claude Code 這類工具，能部署到雲端的人多了非常多，「人人都能 ship」，加速了 Vercel 的使命
  ↳ v0 是 Vercel 的 AI 工具，打字描述就能生出網頁；Claude Code 是 Anthropic 的 AI 寫程式工具。有了它們，不會寫程式的人也能 ship，也就是把作品發布上線。
• 03:53 Vercel 現在專注打造 agentic infrastructure：當 Claude Code 這類工具最好的基礎設施夥伴，並幫忙部署 agents
  ↳ agentic infrastructure 是專門支援 AI agent 的基礎設施。一方面，AI 寫出來的東西要有地方可以上線；另一方面，agent 本身也要有地方跑，Vercel 想兩邊都顧到。
• 04:26 另一個方向是讓基礎設施本身變成 agent，雲端可以自我修復、自我最佳化、自我設定
  ↳ 另一個方向是讓雲端自己變成 agent：出問題時自己修好，自己調整效能和設定，不用每件事都等工程師動手。
• 04:59 產品開發哲學：先在 Vercel 內部大量嘗試，行得通的就大力推廣，再圍繞它打造產品
  ↳ 他們做產品的順序是：新做法先在公司內部大量試，確定真的好用，再全力推廣，最後才把它包裝成賣給客戶的產品。
• 05:29 他拿到 Claude Code 預覽版後深信：它不只能做前端或自動補完，而是自動化電腦與作業系統的全新方式
  ↳ 他試用 Claude Code 早期版本後認為，它不只是幫忙寫網頁畫面、補完幾行程式，而是一種讓 AI 直接操作電腦、替你做事的全新方式。
• 05:29 他認為 CLI 是把一切 agent 化的漂亮抽象層
  ↳ CLI 是命令列介面，用打字下指令來操作電腦。AI 本來就擅長處理文字，所以他覺得透過 CLI，幾乎什麼工作都能交給 agent 來做。
• 05:29 他告訴全公司 token 預算無上限，放手去用這些工具
  ↳ token 是 AI 計算文字量的單位，也是計費的單位。他跟全公司說不用省這筆錢，意思是鼓勵大家盡量用 AI 工具，不要因為怕花錢而不敢試。
• 06:03 Ralph Wiggum 流行時，有工程師自己做了一套 AI coding 環境，讓他形成「AI software factory」的想法
  ↳ Ralph Wiggum 是一種讓 AI 反覆自動跑寫程式任務的做法，當時很紅。有工程師自己組了一套 AI 寫程式環境，讓他想到公司可以像一座用 AI 運轉的軟體工廠。
• 06:03 觀察：軟體開發成本下降後，大家會重新組合各種積木，做出新工具來擴大自己的生產力
  ↳ 寫軟體變便宜以後，大家會把現成的工具和元件拼在一起，替自己做出新工具。就像有了便宜的零件，人人都能組出自己需要的小機器。
• 06:38 設計團隊做了內部工具 Leap：不再只是回應 Slack 上的設計需求，而是用工具自動化工作並產出作品
  ↳ 以前設計團隊主要是等別人在 Slack（工作用聊天軟體）上丟需求，再一件一件回應。現在他們自己做了一個叫 Leap 的工具，讓 AI 自動完成工作、直接產出設計。
• 07:08 所以 Vercel 內部等於有了一座「設計工廠」
  ↳ 設計團隊能用工具大量產出設計，所以公司裡等於多了一座專門生產設計的工廠。
• 07:08 這週稍早開源了一個安全工程工具，他稱之為軟體生產線上的 QA 與安全檢查站
  ↳ 他們開源（公開給所有人免費用）了一個安全檢查工具。他把寫軟體比喻成工廠產線，這個工具就是產線上負責檢查品質（QA）和安全的關卡。
• 07:08 「software factory」的意思：不只能 ship 軟體，也能為自己團隊做出最順手的工具
  ↳ 他說的 software factory 不只是更快做出產品給客戶，也包括每個團隊替自己打造最適合的工具，讓自己的工作更順。
• 07:44 這種創造力部分來自文化：來 Vercel 的人都想做出世界上最好的工具，而最好的工具一定會以某種形式用到 agents
  ↳ 這股創造力有一部分來自公司文化。會來 Vercel 的人本來就想做出最好的工具，而他認為現在最好的工具一定會用上 AI agent。
• 08:14 例子：可以在雲端開 sandboxes 自動化工作，平行跑上千個 sandboxes 測試不同假設，靠手動做不到
  ↳ sandbox 是雲端上隔離的小環境，裡面怎麼測試都不會影響到別的東西。一次開上千個同時跑，就能同時驗證上千種想法，人工根本做不到。
• 08:14 Vercel 提供的 agentic infrastructure 包括 sandbox、workflows、AI gateway，並鼓勵大家測試多種模型
  ↳ Vercel 賣的相關服務有 sandbox、workflows（把多個步驟串成自動流程）和 AI gateway（一個入口就能接多家 AI 模型），也鼓勵大家多比較不同模型。
• 08:47 他分享的做法：關鍵是建立安全的 sandbox 環境，讓大家能自己做工具、自己部署
  ↳ 他的建議是：先準備好安全、隔離的環境，員工就能放心自己做工具、自己上線，不用擔心弄壞正式系統。
• 08:47 Claude Code 是很棒的 agentic engineering 工具，但程式碼只存在自己電腦裡，無法分享、安全部署或擴展
  ↳ Claude Code 很適合用 AI 寫程式，但做出來的東西只在你自己的電腦上，同事看不到，也沒辦法安全地上線或讓很多人一起用。
• 09:18 沒有部署機制，專案只會「死在原型階段」，所以 Claude Code 搭配 Vercel plugin 是完美組合
  ↳ 作品如果沒辦法上線，就只能一直停在試做版。所以他說 Claude Code 加上 Vercel 的外掛（plugin）很搭：一邊負責做，一邊負責讓它上線。
• 09:18 Opus 4.5 發布當天，v0 就支援了
  ↳ Anthropic 推出 Opus 4.5 那天，v0 就已經可以用這個新模型了，速度很快。
• 09:53 他說「只升級模型」並不像聽起來那麼簡單
  ↳ 很多人以為換新模型就像換一個零件那麼簡單，他說實際上要考慮和處理的事情比想像中多。
• 09:53 Vercel AI Gateway 被他稱為「token 的 CDN」，彙整數百萬 Vercel 客戶的 token 用量
  ↳ AI Gateway 是 Vercel 讓客戶串接各家 AI 模型的服務。CDN 原本是把網站內容分送到各地的網路，他借來比喻 AI Gateway 負責分送 token，所以能看到大量客戶的使用數據。
• 10:26 Opus 的 tokens 在 AI Gateway 約占用量的 20 幾 %，卻占總花費約 70 幾 %
  ↳ 從 AI Gateway 的數據來看，Opus 的用量只占兩成多，花掉的錢卻占七成多。也就是說，它比較貴，但大家還是願意付。
• 10:26 從數據得到的教訓：大家真的會去追能找到的最好智慧
  ↳ 他從數據得到的結論是：只要找得到更聰明的模型，使用者就願意多花錢去用，不會只挑便宜的。
• 10:58 Opus 推出時要決定：v0 預設用哪個模型？多快升級？要不要開放給所有人？做法之一是跑 evals 確認產品有變好
  ↳ 換模型前要先決定：v0 預設用哪一個、多快換、要不要開放給所有人。evals 是一組固定的測試題，換模型後用它確認產品真的有變好。
• 10:58 意外發現：換上 Opus 之後，程式碼庫反而可以簡化
  ↳ 他們原本沒想到，換成 Opus 之後，程式裡有不少東西可以拿掉，整個系統反而變簡單了。
• 11:30 以前為了補強舊模型建了很多管線，例如檢查輸出並自動修正，因為舊模型常出現語法錯誤和實際錯誤
  ↳ 舊模型常寫出格式錯誤或內容錯誤的程式，所以他們加了很多「檢查再自動修正」的補救機制，有點像替不太可靠的新人多安排一道複查。
• 11:30 舊模型的錯誤會讓應用程式出錯，或拖慢 agentic loop；新模型更聰明，所以產品架構可以簡化
  ↳ agentic loop 是 AI「做、檢查、再做」的循環。舊模型一出錯，App 會壞掉，或循環要多繞幾圈才完成。新模型比較少出錯，那些補救機制就可以拆掉。
• 11:30 另一個改變是品味更好；他說每次看到 AI 進步就會更新自己的既有看法（update priors）
  ↳ 新模型的美感也比較好。他說每次 AI 進步，他就會調整自己原本對 AI 的看法（update priors），不會一直抱著舊印象。
• 12:03 他更新的看法之一是「模型能不能產出有品味的結果」，例如從紫色風格變成較暗的 Vercel 風格
  ↳ 他以前懷疑 AI 做不出有品味的設計。現在 AI 生出的網頁，從常見的紫色系風格變成比較像 Vercel 那種暗色、俐落的風格。
• 12:03 模型的可塑性很高，v0 能把 Vercel 過去 10 年累積的設計、美學與產品最佳實務加到模型上
  ↳ 模型很容易被引導，所以 v0 可以把 Vercel 十年來累積的設計眼光和做產品的經驗教給模型，讓產出更接近他們的水準。
• 12:34 Vercel 的基礎設施把 flags 和 experiments 當成平台的一級功能，會持續做 A-B 測試
  ↳ flags 是功能開關，A-B 測試是讓兩群使用者用不同版本，看哪個效果好。Vercel 平台本來就內建這兩樣，所以隨時都在做比較。
• 12:34 因為結果非常好，他們很快就擴大了 Opus 的使用範圍
  ↳ 測試結果非常好，所以他們沒有拖，很快就讓更多使用者和功能都改用 Opus。
• 12:34 從今年初最近一次升級 Anthropic 模型以來，產品上的 credit spend 成長為 2 倍
  ↳ 今年初換上最新的 Anthropic 模型之後，使用者在產品上花掉的點數（credit spend）變成原本的 2 倍，表示大家用得更多、做得更深入。
• 13:04 這代表更聰明的模型讓人能走得更遠：創作者想讓產品完整、可上線、安全、高品質、沒 bug，而且是 full-stack
  ↳ 模型更聰明，使用者就願意做得更完整：要能真的上線、安全、品質好、沒 bug。full-stack 指從前端畫面到後端資料處理，整套都包含。
• 13:04 隨著模型升級，他們做出的產品可以更完整、更有野心
  ↳ 每次模型升級，用 v0 做出來的東西就能更完整，大家也敢挑戰更大、更有野心的作品。

根據 Guillermo Rauch 的說法，Vercel 在 v0 換上 Opus 之後有什麼意外發現？