與客戶一起打造企業級 Frontier Safeguards ☕ Buy me a coffee

🧑‍🏫 這支影片請企業客戶（包括 Uber 和 Visa）談他們怎麼和 Anthropic 合作，在系統設計上保護資安和隱私，而不是只寫在規定裡。如果你想知道大公司為什麼敢把敏感業務交給 AI，可以從這支看到他們在意的重點。

• 00:00 Anthropic 與 Uber 的共同點：都對安全有著深入骨髓的重視。
  ↳ 影片提到 Anthropic 和 Uber 有個共同點：安全是骨子裡的東西，不是事後才補上的功能。這是雙方談得起來的基礎。
• 00:00 對 Visa 來說信任至關重要，130 年來信任就是它的商業模式。
  ↳ Visa 真正在賣的是「大家相信刷卡不會出事」。130 年來，信任本身就是它的生意，不是附加價值。
• 00:00 這份信任花了數十年才建立，講者表示如今風險更高，不打算輕率消耗它。
  ↳ 信任要花幾十年才建立起來，毀掉可能一次就夠。講者說現在風險更高，所以導入 AI 時不會拿這份信任去冒險。
• 00:44 雙方合作開發新的資安與隱私能力，而且是在架構層級，不只停留在政策層級。
  ↳ 政策層級（policy level）是靠規定和承諾，例如保證不看你的資料；架構層級（architectural level）是系統本身就設計成看不到。雙方做的是後者，比較靠得住。
• 00:44 客戶可以把資料存在自己的 cloud、由自己控制，也能持續取得相關訊號（signals）。
  ↳ 資料可以放在客戶自己的 cloud（雲端，就是放資料的遠端伺服器空間）裡自己管，同時還能持續拿到相關的 signals（影片說是客戶能取得的資訊，沒細講是哪些）。
• 00:44 logs 由客戶自己掌控，除非客戶願意，否則不會流到其他地方。
  ↳ logs 是系統的運作紀錄，例如誰在什麼時間做了什麼。這些紀錄歸客戶自己管，客戶沒同意就不會傳到別的地方。
• 00:44 審查只由機器進行，產出刻意限定為事先定義好的 findings，不包含客戶內容。
  ↳ 安全審查只交給機器跑，不是由人去翻資料。審查結果（findings）只能是事先定好的幾種項目，不會夾帶客戶的實際內容。
• 01:16 Visa 無法獨力完成，需要 Anthropic 這類 frontier labs 提供要素，才能把 AI 帶進 cyber defense 的各個面向。
  ↳ frontier labs 是指開發最先進 AI 模型的公司。Visa 說光靠自己做不到，需要這類公司提供關鍵要素，才能把 AI 用在 cyber defense（網路資安防禦）的各個環節。
• 01:16 這些 safeguards 讓 Visa 能在過去無法使用 AI 的業務環節應用 AI。
  ↳ safeguards 就是上面講的這些防護設計。有了它們，Visa 過去沒辦法用 AI 的業務環節，現在也能用了。
• 01:16 safeguards 讓他們能保護資訊與手上的使用情境，同時負責任地管理這些模型的能力。
  ↳ 這些防護一方面保護資訊和使用情境，另一方面讓他們能負責任地管好模型的能力，不是只追求能用就好。

根據影片，這套 safeguards 的審查（review）是怎麼進行的？