與 Dario Amodei 和 Daniela Amodei 的對談（第 2/3 段） ☕ Buy me a coffee

🧑‍🏫 這段是 Anthropic 兩位共同創辦人 Dario 和 Daniela Amodei 的對談。前半講 AI 讓一個人也能打造大公司，以及工作的瓶頸接下來會出現在哪裡；後半講 Anthropic 怎麼在「衝快」和「負責任」之間取捨，以及他們怎麼想產品。想知道 AI 工具接下來會往哪走、自己該怎麼跟上，這段很有參考價值。

• 11:04 約一年前在類似活動上，Mike Krieger 問「第一家只有一個人的十億美元公司何時出現」，講者回答 2026 年，並認為目前進度跟得上
  ↳ 一年前，Instagram 共同創辦人 Mike Krieger 問：第一家「只有一個人、價值十億美元」的公司什麼時候會出現？講者答 2026 年，現在看來進度沒有落後。
• 11:04 這還沒真正發生：已經有用 AI 打造、兩個人的十億美元公司，也有一人公司價值數億美元；2026 年還剩七、八個月
  ↳ 目前還差一步：兩個人做到十億美元的公司已經有了，一人公司也做到數億美元。2026 年只剩七、八個月，就看最後這一步能不能在期限內達成。
• 11:34 以前有想法和願景，得花好幾年累積資源才能實現；現在一個人或很小的團隊就能做出了不起的事
  ↳ 過去有好點子，也得先募資、找人、熬好幾年才做得出來。現在 AI 把這些門檻壓低了，一個人或幾個人就能把想法做成真的東西。
• 12:04 演進路徑：從模型寫程式碼，到幫我們把軟體工程當成一項任務，再到把「打造一門生意或經濟單位」當成一項任務
  ↳ AI 能做的事一層層往上：先是幫你寫一段程式，再來是扛下整個軟體開發工作，下一步是把「經營一門生意」整件事當成交給它的任務。
• 12:36 主持人：AI 正在移除創造價值的種種障礙，等於下了戰帖，開始「八個月倒數」
  ↳ 主持人的意思是：AI 把做事的障礙一個個拿掉，「一人十億公司」不再是空想。這等於公開下了戰帖，從現在開始倒數八個月。
• 13:06 趨勢一：從單一 agent 走向多個 agent，像在管理一個團隊：把工作分派給多個 Claude，有些 Claude 再分派給其他 Claude，形成階層
  ↳ agent 指能自己拆解步驟、動手完成任務的 AI。趨勢是從用一個變成用一群：你像主管一樣把工作分給多個 Claude，有的 Claude 再往下分派，像一張公司組織圖。
• 13:38 正逐步邁向「資料中心裡的天才國度」：從一間房裡的聰明團隊開始，往一座城市、一個國家擴大；相關工具已經在提供
  ↳ 「資料中心裡的天才國度」是他們一步步在靠近的目標：先是一小組聰明的 AI 一起做事，再擴大成城市、國家的規模。支援這種用法的工具已經開始提供了。
• 13:38 趨勢二：Claude Code 目前主要讓個人更有生產力，接下來會以整個團隊與組織為單位思考，讓整體效益大於各部分加總
  ↳ Claude Code 是 Anthropic 讓 Claude 直接幫你寫程式、改程式的工具。現在主要讓單一個人變快，下一步要讓整個團隊一起用，整體效益比每個人各做各的加起來還大。
• 14:09 趨勢三：想知道下一步該做什麼，要想想 Amdahl's Law：你加速了某件事，那哪些事沒被加速？
  ↳ Amdahl's Law 原本是電腦科學的觀念：整體能快多少，取決於沒被加速的那部分。想知道下一步做什麼，就問：我加速了這件事，還有哪些環節沒變快？
• 14:39 如果組織能寫出以前三到四倍的 PR，security、verification 等其他環節就會拖慢你，或者出問題
  ↳ PR 是工程師送出一批程式修改、請人審核後才併入正式版本的單位。程式產量如果變成三、四倍，資安檢查、確認對錯這些後段工作就會塞車，甚至出包。
• 15:09 要一起加速這些其他環節，才能大幅提升生產力，同時做到順暢、有效率又可靠
  ↳ 就像廚房出菜快了三倍，卻只有一個人端盤子，客人還是一樣要等。要把檢查、審核這些環節一起加速，整體才會真的變快，也才穩定、不出錯。
• 15:09 Anthropic 已經在用 Claude 來加速 Claude 的開發
  ↳ Anthropic 自己就是這樣做的：用現有的 Claude 幫忙開發下一代 Claude，拿工具來打造更好的工具。
• 15:43 程式與軟體工程方面的模型訓練進展很快，原因是可驗證性：可以跑 unit tests 來驗證，讓訓練流程簡單很多
  ↳ 寫程式進步特別快，是因為對錯很好判斷。unit tests 是一小段自動檢查程式，跑一下就知道模型寫的程式對不對，訓練時很容易給它回饋。
• 16:13 工作中也有難以驗證的部分，例如這真的對嗎、找不找得到錯誤、有沒有資安問題；把模型訓練得更擅長這些，也能提升寫作和較不客觀的科學任務
  ↳ 但很多工作沒這麼好判斷：這真的對嗎？有沒有漏掉錯誤或資安漏洞？讓模型更會做這類判斷，連帶也會讓它寫文章、做比較主觀的研究更強。
• 16:47 因為 Amdahl's Law，即使在軟體工程裡，這類偏軟性、偏主觀的技能也變得出乎意料地重要
  ↳ 所以即使是看起來最講客觀的寫程式，瓶頸反而卡在判斷、審查這類軟技能上，這些能力的重要性比大家原本想的高很多。
• 17:18 Daniela：Anthropic 的第一根支柱是用對所有人都好的方式開發這項變革性技術；Claude 能改變人們打造什麼、怎麼創作，以及抱負的高度
  ↳ Daniela 是 Anthropic 共同創辦人兼總裁。她說公司第一根支柱是讓這項技術對所有人都好；Claude 能改變人做什麼、怎麼創作，也能拉高人敢設定的目標。
• 17:52 機會之外也有風險，例如勞動市場衝擊，以及確保技術安全開發、對人有益；Anthropic 的工作就是讓兩者同等平衡
  ↳ 好處之外也有代價，例如衝擊工作機會，也要確保技術安全、真的對人有益。她說 Anthropic 的工作就是把機會和風險放在一樣重的位置上。
• 17:52 內部文化價值「hold light and shade」，概括了公司看待技術被使用的方式，以及把技術推向世界的做法
  ↳ 「hold light and shade」直譯是同時看見光與影，是 Anthropic 內部的價值觀：看技術怎麼被使用、怎麼推出時，好處和風險要一起放在心上。
• 18:22 Mythos 和 Glasswing 是例子：這麼強的模型潛力非常大，但因為部分資安漏洞，釋出時要比較謹慎
  ↳ Mythos 和 Glasswing 是影片舉的例子：模型能力很強、潛力很大，但因為牽涉到部分資安漏洞，推出時刻意更謹慎。
• 18:54 想盡快推出東西、做出最好的產品、釋出最強的模型，同時負責任地做；多數行動都以這兩根支柱為基礎
  ↳ 他們想盡快推出東西、做最好的產品、釋出最強的模型，同時也要負責任。公司多數決定，都同時站在這兩根支柱上。
• 19:24 主持人：身在這個產業打造產品，等於有機會對未來的走向投下一票
  ↳ 主持人認為，在這個產業做產品不只是做生意：你做什麼、怎麼做，都會影響 AI 未來的走向，等於親手投下一票。
• 19:55 主持人：內部常談「building for the exponential」；產品是現有技術與人們問題之間的橋樑，而技術變化速度遠超以往
  ↳ 「building for the exponential」是內部常說的產品思維：產品是把技術接到人的問題上的橋樑，而技術進步得太快，做產品時就要把接下來的能力一起算進去。
• 20:27 Daniela：兩人很在乎產品，因為它代表 Anthropic 在做的事；希望產品有用、容易取得而且好用
  ↳ Daniela 說兩人重視產品，是因為產品代表 Anthropic 在做的事。目標是讓產品有用、大家拿得到，而且好用。
• 20:57 兩人積極參與產品，是為了替顧客和使用者發聲，確保他們從 Claude 得到最大價值；有些使用者是把事業建立在 AI 模型的能力上
  ↳ 他們親自參與產品，是要替使用者發聲，確保大家從 Claude 拿到最大價值。有些人整個事業都建立在 AI 模型的能力上，產品好不好對他們影響很直接。
• 21:27 Anthropic 產品的不同之處：產品是一個輸入、研究是另一個；很多時候產品創新是由模型新出現的能力帶動的
  ↳ Anthropic 做產品有兩個來源：一個是產品本身的需求，一個是研究。很多時候是模型先有了新能力，產品才跟著創新。
• 21:58 coding 就是例子：並不是一開始就決定要做 coding 產品
  ↳ 寫程式功能就是例子：Anthropic 一開始並沒有打算做寫程式的產品，是後來才長成現在的樣子。

根據影片，程式與軟體工程方面的模型訓練進展特別快，主要原因是什麼？