我們如何以隱私、安全與資安為核心打造 Muse
🏦 台灣Pay 銀行轉帳 💙 PayPal
介紹 Muse 的 Secure VM、Sentinel 等隱私與安全設計
- 00:00 影片主張 personal agent 需要一種新型態的安全電腦，並推出 Muse Secure VM：專屬的虛擬機，用來放你的 agent 和你的資料
- 01:00 存進 Muse 安全 credential 儲存區的 credentials，以及你自己在瀏覽器輸入的密碼，Muse 都看不到
- 01:37 加密後 Meta 也無法存取這些資料
💡 你可以怎麼用：如果你開始用 Muse 或類似會代辦事情的 AI，先只連必要的 app、給最低的權限，購物和寄信都設成要先問你。密碼存進它的安全儲存區，或自己在瀏覽器輸入，不要直接打在對話裡。
看全部 15 條重點
🧑🏫 這支影片是 Meta 在說明 Muse 怎麼保護你。Muse 是會替你動手辦事的 AI 助理，能幫你買東西、寄信，能做的事比一般聊天機器人多很多。影片交代他們設了哪幾道關卡，讓它不亂來、資料也不外洩。要把帳號交給 AI 代管之前，值得先看懂這些設計。
- 00:00 影片主張 personal agent 需要一種新型態的安全電腦，並推出 Muse Secure VM：專屬的虛擬機，用來放你的 agent 和你的資料↳ personal agent 是專屬於你、會自己動手辦事的 AI，不只回答問題。Meta 認為這種 AI 需要一台專門的安全電腦，所以推出 Muse Secure VM，用來放 agent 和你的資料。
- 00:00 Muse 是個人 AI agent，可以幫你購物、訂旅遊行程、處理收件匣等等↳ AI agent 就是能替你實際操作的 AI。Muse 能幫你上網買東西、訂機票飯店、整理和回覆信件，原本要你自己一步步點的事，可以交給它做。
- 00:00 Muse 會代替你行動，所以他們把隱私（privacy）、安全（safety）、資安（security）擺在第一位↳ Muse 是用你的名義去花錢、寄信，一出錯就會賠到真的錢，也會影響你跟別人的關係。所以隱私、安全、資安是他們最先處理的：資料不外流、不做傷害你的事、不被駭客攻破。
- 00:00 Muse Secure VM：你和你的 Muse 共用一台雲端上的專屬電腦，Muse 就住在這台電腦裡↳ VM（virtual machine，虛擬機）是用軟體在雲端切出來的一台電腦。每個人分到自己的一台，Muse 就在裡面工作，不會跟別人的混在一起。
- 00:00 你連結的任何服務，它的資料和 credentials 都安全地存放在這台 VM 裡↳ credentials 是登入服務用的憑證，像帳號密碼或登入授權。你讓 Muse 連 Gmail、購物網站時，這些憑證都鎖在你自己那台 VM 裡。
- 00:30 內建 Sentinel：一個獨立的 OS 層級 agent，跟 Muse 跑在同一台 VM 上，但與 Muse 互相隔離↳ Sentinel 是另一個 agent，角色像守門員。OS（作業系統）層級是說它在電腦系統本身運作，不是 Muse 的一個功能。兩個互相隔開，所以做事的和守門的不是同一個。
- 00:30 Muse 做的任何事，都要 Sentinel 同意才能連上網路；必要時 Sentinel 會先徵求你的許可↳ Muse 想連上任何網站或服務，都得先過 Sentinel 這關。Sentinel 會判斷要不要放行，需要的時候會先跳出來問你，等於每次連網都要被檢查一次。
- 00:30 Human in the loop：遇到購物、寄 email 這類敏感動作，Muse 會先問過你↳ Human in the loop 的意思是流程中一定有人參與把關。像下單付款、用你的名義寄信這種做了就收不回來的動作，Muse 會先停下來問你，你同意了才做。
- 00:30 Muse 知道哪些決定一定要你核准，也會記住你已經給過的權限↳ Muse 分得出哪些事一定要你點頭；你答應過的權限它會記住，同一件事不會每次都重問，你就不會被一直跳出來的確認視窗煩死。
- 00:30 Least privilege：Muse 可以連哪些 app、每個 app 能拿到多少存取權限，都由你決定↳ Least privilege（最小權限）是只給完成工作需要的最少權限。例如只讓 Muse 讀行事曆、不讓它寄信。要開放哪些 app、開到什麼程度，都由你設定。
- 01:00 存進 Muse 安全 credential 儲存區的 credentials，以及你自己在瀏覽器輸入的密碼，Muse 都看不到↳ 你存進安全儲存區的帳號密碼，還有你自己在瀏覽器打的密碼，Muse 都看不到內容。就算有人騙到 Muse，它也說不出你的密碼。
- 01:00 Defense in depth：模型、Muse harness、deterministic code 和一組 classifiers 協同運作，對抗 prompt injection 等威脅，讓整體系統更穩固↳ Defense in depth 是一層一層把關。prompt injection 是把指令藏在網頁或信裡，騙 AI 照著做。Muse 用模型、執行框架、寫死規則的程式和分類模型一起擋。
- 01:00 Muse Confidential VM（即將推出）：整台 VM、所有資料和你跟 Muse 的對話，都用只有你持有的金鑰加密↳ Muse Confidential VM 是之後要推出的加強版：整台 VM、你的資料、你跟 Muse 的對話全部加密上鎖，鑰匙只有你拿著。
- 01:37 加密後 Meta 也無法存取這些資料↳ 鑰匙不在 Meta 手上，所以連 Meta 自己也打不開你的資料。這跟公司「承諾不看」不一樣，是技術上根本看不到。
- 01:37 影片結論：agent 本來就該用這種方式打造，Muse 就是這樣做的↳ Meta 的立場是：替人辦事的 AI，本來就應該從設計一開始就把這些保護放進去，Muse 就是照這個標準做出來的。
📘 術語
Muse Secure VM（Muse 安全虛擬機）：你和 Muse 共用的雲端專屬電腦，Muse 住在裡面，連結服務的資料和 credentials 也存在這裡
VM (virtual machine)（虛擬機）：字幕說它是 agent 和你的資料的家，是一台雲端上的專屬電腦
credentials（登入憑證）：連結服務時用的憑證，存在 VM 裡；存進安全儲存區的 credentials 連 Muse 也看不到
Sentinel（守衛 agent）：跟 Muse 隔離的 OS 層級 agent，Muse 要連網路得先經過它同意，必要時會問你
Human in the loop（人類參與決策）：購物、寄 email 這類敏感動作，Muse 會先問過你
Least privilege（最小權限原則）：由你決定 Muse 能連哪些 app，以及每個 app 給多少存取權限
Defense in depth（縱深防禦）：讓模型、harness、deterministic code 和 classifiers 一起運作，讓系統更穩固
prompt injection（提示詞注入）：字幕只說它是 defense in depth 要擋下的一種威脅，沒有進一步解釋
harness（執行框架）：字幕只提到「Muse harness」是防禦機制的一環，沒有進一步解釋
deterministic code（確定性程式碼）：字幕只提到它是防禦機制的一環，沒有進一步解釋
classifiers（分類器）：字幕說會用「一組 classifiers」跟其他元件一起防禦威脅
Muse Confidential VM（Muse 機密虛擬機）：即將推出；整台 VM、資料和對話都用只有你持有的金鑰加密，Meta 也無法存取
VM (virtual machine)（虛擬機）：字幕說它是 agent 和你的資料的家，是一台雲端上的專屬電腦
credentials（登入憑證）：連結服務時用的憑證，存在 VM 裡；存進安全儲存區的 credentials 連 Muse 也看不到
Sentinel（守衛 agent）：跟 Muse 隔離的 OS 層級 agent，Muse 要連網路得先經過它同意，必要時會問你
Human in the loop（人類參與決策）：購物、寄 email 這類敏感動作，Muse 會先問過你
Least privilege（最小權限原則）：由你決定 Muse 能連哪些 app，以及每個 app 給多少存取權限
Defense in depth（縱深防禦）：讓模型、harness、deterministic code 和 classifiers 一起運作，讓系統更穩固
prompt injection（提示詞注入）：字幕只說它是 defense in depth 要擋下的一種威脅，沒有進一步解釋
harness（執行框架）：字幕只提到「Muse harness」是防禦機制的一環，沒有進一步解釋
deterministic code（確定性程式碼）：字幕只提到它是防禦機制的一環，沒有進一步解釋
classifiers（分類器）：字幕說會用「一組 classifiers」跟其他元件一起防禦威脅
Muse Confidential VM（Muse 機密虛擬機）：即將推出；整台 VM、資料和對話都用只有你持有的金鑰加密，Meta 也無法存取
✏️ 小考一題
根據影片，Muse Secure VM 裡的 Sentinel 負責什麼？
A. 它負責幫你在瀏覽器裡自動填入密碼B. 它把所有對話加密，連 Meta 都無法讀取C. 它替 Muse 產生購物清單和旅遊行程D. Muse 做的任何事都要經過它同意才能連上網路，必要時它會問你看答案
答案：D。[00:30] 字幕說 Sentinel 是跟 Muse 隔離的 OS 層級 agent，Muse 做的事沒經過它同意就連不上網路，必要時會徵求你的許可。加密那項講的是 [01:00] 的 Muse Confidential VM，不是 Sentinel。
💛 覺得有幫助？支持一下
課本免費、沒有廣告，支持與否都能照常讀 🐰