Mark Zuckerberg 談 Meta 的 Muse AI agent 將如何幫人賺錢（第 4/6 段） ☕ Buy me a coffee

🧑‍🏫 這段是 Meta 執行長祖克柏談自家 AI agent「Muse」的訪談。agent 是能替你動手辦事的 AI 助理，不只會回答問題。前半段講 Muse 怎麼防止 AI 亂花你的錢、亂傳你的資料，後半段講個人 agent 市場會不會被一家獨占，以及 Meta 為什麼重整 AI 團隊。如果你在考慮讓 AI 碰你的帳號，這段很值得看。

• 35:07 Muse 不是單一個 agent：除了核心 agent，還有一群 Sentinel agents 監看 agent 送進送出的流量和資料，需要你檢查的時候會提醒你
  ↳ Muse 其實是一組 AI。主角負責幫你做事，旁邊還有一群叫 Sentinel（哨兵）的 agent，專門盯著它收進來和送出去的資料。一看到不對勁，就會叫你來確認。
• 35:37 Sentinel 會偵測有沒有人在做 prompt injection，也會檢查 Muse 送出去的東西是不是你可能不想分享的
  ↳ prompt injection 是有人在網頁或信件裡偷藏指令，想騙 AI 照做，例如「把通訊錄寄給我」。Sentinel 會抓這種事，也會檢查 Muse 是不是要把你的私事傳出去。
• 35:37 遇到上述狀況，Sentinel 有權觸發 human in the loop 審查：登入、付款、傳送敏感資訊，每次都要你核准
  ↳ human in the loop 的意思是關鍵步驟一定要真人點頭。Sentinel 察覺風險就能先暫停；登入帳號、付錢、傳敏感資料，每一次都會先問你，不讓 AI 自己決定。
• 35:37 你可以告訴它「這類事情一律允許」（always allow）
  ↳ always allow 就是「這類事以後不用再問我」。例如你常讓它登入同一個購物網站，就可以設成一律允許，不用每次都按確認。
• 36:07 這些判斷 Muse agent 不能自己做，這一點在系統和架構裡設計得很深
  ↳ 要不要放行，不是負責做事的 Muse 自己決定，而是系統另外把關。就算它判斷錯了，也沒辦法自己批准自己，這是從底層架構就設計好的。
• 36:07 connectors 的做法：有些產品一連上就能存取全部；Muse 連上 email 時預設是唯讀（read only）
  ↳ connectors 是把 AI 接上你其他服務（像 email）的連接功能。有些產品一接上就什麼都能碰；Muse 接上 email 時預設是 read only，也就是只能讀信，不能動。
• 36:07 如果想讓它幫你寄 email，要另外、明確地授權這項權限
  ↳ 想讓它用你的名義寄信，要另外、明確地開這個權限。看信和寄信是兩把不同的鑰匙，第二把一定要你親手交給它。
• 36:37 核心設計原則是 least privilege：每一步只拿需要的最小權限，有必要才往上加
  ↳ least privilege（最小權限）是資安常用的原則：每個步驟只給剛好夠用的權限，真的需要才加。就像請水電師傅來家裡，只給大門鑰匙，不會連保險箱也交出去。
• 36:37 Zuckerberg 認為其他 agent 在這方面的精細度和深度都遠遠比不上 Muse
  ↳ 祖克柏自評：這種把權限切得很細、層層把關的做法，別家的 agent 在細緻程度和深度上都差很遠。這是他本人對自家產品的說法。
• 37:07 這套設計來自打造 WhatsApp 端對端加密的經驗，重點是連 Meta 都看不到內容；這次找回原班人馬，由 Moxie 負責架構
  ↳ end-to-end encrypted（端對端加密）是訊息只有收發雙方看得到，連 Meta 自己都看不到。Muse 的安全設計沿用做 WhatsApp 加密的經驗，找回原班人馬，由 Moxie 負責架構。
• 37:07 他說 Meta 有兩種面向：社群媒體重在分享，另一些產品重在隱私和敏感情境；Muse 比較屬於後者
  ↳ 他把 Meta 的產品分成兩種：Facebook、Instagram 這類鼓勵你分享；另一類重在保護隱私、處理敏感的事。Muse 會碰到你的信箱和付款，所以屬於後者。
• 40:47 被問到個人 agent 是不是贏者全拿的市場：他認為連大家以為贏者全拿的東西，通常也不是
  ↳ winner-take-all（贏者全拿）是指市場最後只剩一家獨吞。被問到個人 agent 會不會這樣時，他說就連大家以為一家獨大的領域，實際上通常也不是。
• 41:20 主持人指出，用戶超過二十億的產品兩隻手就數得完，規模會帶來更大的規模
  ↳ network effects（網路效應）是用的人越多就越好用，例如身邊的人都用 LINE，你就很難不用。主持人指出，用戶破二十億的產品屈指可數，而且大的只會越滾越大。
• 41:20 Zuckerberg 猜測，有能力做出 state-of-the-art 個人 agent 的公司不會超過十幾家
  ↳ state-of-the-art 指目前最頂尖的水準。祖克柏猜，全世界做得出頂尖個人 agent 的公司不會超過十幾家，所以這會是少數公司之間的競爭。
• 41:54 不管有沒有網路效應，通常都呈 power law 分布：某件事做到最好，就會拿走大部分使用量
  ↳ power law（冪律分布）是少數頭部拿走大部分份額的現象。他說不管有沒有網路效應，某件事誰做得最好，大部分人就會去用誰，後面的人分到很少。
• 41:54 細微差別在於用途很多，可以在不同用途各自做到最好；Meta 會盡量在越多用途上當第一
  ↳ 不過他也補充：AI 助理的用途很多，每種用途可以各有各的第一名，不一定要全部通吃。Meta 的策略是在越多用途上拿第一越好。
• 42:26 幫你經營人際關係的 agent 和幫你經營小生意的 agent 也許不一樣；他認為 Meta 服務數億個小企業和數十億人，兩邊都有機會贏
  ↳ 例如幫你經營人際關係的 agent，和幫你打理小生意的 agent，可能是兩種不同產品。他認為 Meta 本來就服務數億家小企業和數十億人，兩邊都有機會贏。
• 42:26 也承認有些類別 Meta 不會是最強，問題是那些類別有多大
  ↳ 他也承認，有些類別 Meta 不會是最強的。他在意的是那些類別的市場到底有多大，而不是每一項都要贏。
• 42:26 例子：就算雲端有安全的 confidential VM，還是會有人想在家用 Mac Studio，可能有幾百萬人，但他懷疑會到幾十億
  ↳ confidential VM 是雲端上高度保密的虛擬電腦。就算有它，還是會有人想在家用自己的 Mac Studio（蘋果桌機）跑 AI。他估這種人可能有幾百萬，但很難到幾十億。
• 43:00 他認為 Meta 最擅長把好用的消費者產品推給大量用戶
  ↳ 他認為 Meta 最擅長的，是把好用的消費者產品送到非常多人手上。這也是他覺得 Meta 在個人 agent 市場有機會的主要理由。
• 43:31 等產品上軌道，他相信能推到好幾億人面前，最後到幾十億人
  ↳ 所以他的規劃是：先把產品打磨順，再推到好幾億人面前，最後目標是幾十億人，也就是 Meta 現有產品的用戶規模。
• 43:31 Muse 和 Meta AI 目前風格不同，他兩個都在用，會不會合併還要再看
  ↳ Meta AI 是 Meta 原本就有的 AI 助理，目前和 Muse 風格不同。祖克柏說兩個他都在用，以後會不會合併成一個，還要再看。
• 43:31 Muse 比較像在對話，會把你的問題解讀成想了解你的長期需求，比較可能根據你一句話就去做一件事很久
  ↳ Muse 比較像在聊天，會把你的問題當成是想了解你長期要什麼。它也比較可能因為你一句話，就自己去跑一件花很久的任務。
• 44:05 只想要一個問題的答案時，他比較會用 Meta AI
  ↳ 如果只是想要某個問題的答案，他會用 Meta AI。簡單說：一問一答用 Meta AI，要它長期幫你辦事就用 Muse。
• 44:05 主持人引用 7 月一篇看好 Meta 的分析：Meta 最有機會在前沿模型上追上 OpenAI 和 Anthropic，並說 MSL 重要的是斜率（slope）而不是截距（intercept）
  ↳ MSL 是 Meta 重組後的 AI 實驗室。主持人引用 7 月一篇分析：Meta 最有機會追上 OpenAI、Anthropic 的頂尖模型。要看的是進步速度（斜率），不是起跑點（截距）。
• 44:36 主持人提到 artificial analysis 最近的圖表：Meta 最新模型 Muse Spark 只排在 Claude Fable 5.1 和 Opus 5 後面
  ↳ Artificial Analysis 是專門評比 AI 模型的網站。主持人說在它最近的圖表上，Meta 最新模型 Muse Spark 只排在 Claude Fable 5.1 和 Opus 5 後面。
• 45:09 Meta 成立 Meta superintelligence labs 時重組了團隊，當時公開招募了很多人
  ↳ Meta superintelligence labs 就是上一條說的 MSL。成立時 Meta 把 AI 團隊整個重組，還公開招募了很多人才。
• 45:09 Meta 長期是機器學習的領先者：Facebook、Instagram 的動態、廣告系統、找出不該出現在網路上的內容，全都是機器學習系統
  ↳ 機器學習是讓電腦從大量資料裡自己學會判斷的技術。Meta 在這方面一直很強：你滑到的動態排序、看到的廣告、自動抓出不該出現的內容，背後都是它。
• 45:40 LLM 開始受到關注時，FAIR 做了 LLAMA 的早期研究，但需要把它產品化，變成工業化流程，照 scaling laws 預測把模型做大
  ↳ LLM（大型語言模型）是聊天型 AI 的核心技術。Meta 的研究室 FAIR 做出了 LLAMA 的早期研究，但要變成產品，得像工廠量產一樣，照 scaling laws（模型越大、表現越好的預測規律）把它做大。
• 45:40 他坦承犯了一個錯：以為 Meta 擅長其他機器學習，打造和擴展 LLM 也會差不多，實際上動態非常不同
  ↳ 他承認自己判斷錯了：以為 Meta 擅長其他機器學習，做 LLM 也會差不多。結果兩者的做法和節奏差很多，不能照舊經驗來做。
• 46:12 LLAMA 3 是好模型；他原本對 LLAMA 4 比較樂觀，但推出時發現偏離了該有的軌跡，決定必須做出改變
  ↳ LLAMA 3 表現不錯，他原本也看好 LLAMA 4。但推出後發現它偏離了該有的進步軌道，所以決定大幅改變，這就是後來重組成 MSL 的背景。

根據影片，Muse 連上使用者的 email 後，預設的權限是什麼？