AI 到底知道你哪些事？ ☕ Buy me a coffee

🧑‍🏫 這支是 Anthropic 官方的入門影片，講你打進 AI 的內容會被用在哪四個地方：只用在這次對話、存進記憶功能、留在公司系統，以及拿去訓練新模型。很多人會跟 AI 說醫療、錢或感情這類私事，看完你會知道哪些東西會留下、留多久，還有去哪裡關掉。

• 00:00 很多人會在 AI 工具裡輸入不會公開說的事，例如醫療問題、金錢煩惱、不敢寄出的 email 草稿，所以該問：AI 到底知道我什麼？
  ↳ 大家常把不敢跟別人講的事丟給 AI，像看病的疑問、錢的煩惱、寫好卻不敢寄的信。既然講了這麼多，就該搞清楚這些內容最後去了哪裡。
• 00:00 常見疑問：AI 會記得我上週說的話嗎？有人在看我的對話嗎？我會因為剛問的問題收到廣告嗎？
  ↳ 這些擔心可以拆成三個問題：AI 會不會記住我講過的話？有沒有真人在看？會不會因此推廣告給我？影片後面會一個一個回答。
• 00:00 講者 Zoe 是 Anthropic 教育團隊成員，Anthropic 是開發 Claude 的公司
  ↳ 講者 Zoe 在 Anthropic 的教育團隊工作。Anthropic 就是開發 AI 助理 Claude 的公司，所以影片的例子以 Claude 為主。
• 00:31 內容適用於 Claude 或其他 AI，但各家政策不同，一定要自己確認所用工具的細節
  ↳ 這套觀念換到 ChatGPT、Gemini 等其他 AI 也適用，但每家規定不同，實際細節要去查你自己在用的那個工具。
• 00:31 核心觀念：你應該能看到並控制 AI 供應商保留了你哪些資料；重點是資料去哪裡、為什麼、保留多久
  ↳ 影片不是要嚇你，而是說你有權知道也有權管 AI 公司留了你哪些資料。判斷時問三件事：存在哪裡、拿去做什麼、放多久。
• 00:31 有些資料只存在於這次對話；有些會保留下來改善你的產品體驗；少部分可能用來改善其他人的體驗
  ↳ 你講的話大致有三種去向：用完就沒了；留下來，讓你之後用得更順；少數會被拿去改善產品，讓其他使用者也受益。
• 00:31 每個環節都應該有設定讓你掌控
  ↳ 上面每一種去向，理想上都該有開關或設定讓你自己決定，而不是只能被動接受。
• 01:03 例子：買生日禮物時告訴 AI「我的伴侶很愛健行，我們住在 Denver 附近」，這次對話中 AI 都會用到這些細節
  ↳ 同一段對話裡你講過的細節，AI 會一路記著、拿來用。例如它知道伴侶愛健行、你們住美國 Denver 附近，推薦禮物時就會考慮這些。
• 01:03 第一種用途：對話本身。模型本身只在一次對話期間保有 context
  ↳ 第一種用途是對話本身。context 指的是 AI 在這段對話裡看得到的全部內容，它靠這些來回答你，而且只在這段對話裡有效。
• 01:37 明天開新對話就是空白的，模型本身不知道你伴侶喜歡什麼；它只知道你選擇放進去的內容
  ↳ 所以明天開新對話，它不會知道你伴侶喜歡什麼。模型不會偷偷記住你，它只看得到你這次打進去、貼進去的東西。
• 01:37 第二種用途：產品的 memory。很多 AI 工具會跨對話保存細節
  ↳ 第二種是 memory（記憶功能）：產品把你提過的重點另外存起來，讓你下次開新對話時不用從頭交代。
• 01:37 這不是模型本身記得你，而是存在你帳號裡、開新對話時模型可以存取的細節；依產品不同可能預設開啟或需自己開啟
  ↳ 要分清楚：記住你的不是 AI 模型本身，而是存在你帳號裡的一份資料，開新對話時模型可以去讀。有的產品預設就開，有的要自己打開。
• 02:07 例如下週討論週末計畫時，工具可能會帶入你伴侶愛健行這件事
  ↳ 所以下週你問週末去哪玩，它可能會主動提到伴侶愛健行。這是 memory 在作用，不是 AI 自己記得你。
• 02:07 大多數產品中，你可以編輯、清除 memory，或完全關閉 memory
  ↳ 這份記憶通常由你作主：可以修改內容、刪掉某幾條、全部清空，或乾脆把 memory 整個關掉。
• 02:07 第三種用途：供應商自己的系統。隱私權政策常允許資料用於維持服務運作、安全與濫用審查、修 bug、研究
  ↳ 第三種是公司自己的系統。privacy policy（隱私權政策）是公司說明怎麼用你資料的文件，常見用途有維持服務運作、安全與濫用審查、修 bug、做研究。
• 02:07 也可能用於商業目的如投放廣告，以及在適用情況下改善模型
  ↳ 有些公司也可能把資料用在商業目的，例如投放廣告；在政策允許的情況下，也可能拿來改進模型。「會不會收到廣告」要看這一段。
• 02:39 關掉對話後資料仍保存在供應商那邊；存取如何控管因供應商而異，可靠做法是查看隱私權政策與資料保留設定
  ↳ 你關掉視窗，資料還是存在公司那邊。誰能看、怎麼管，各家不同。要確認就看隱私權政策和 data retention settings（資料保留設定，可查資料怎麼保存、控管）。
• 02:39 第四種用途：訓練未來的模型。有些供應商可能用對話來改善下一版模型
  ↳ 第四種是 training（訓練）：拿大量資料去調整、打造下一版 AI 模型。有些公司會把使用者的對話拿來做這件事。
• 02:39 用於訓練前，個人資料通常會被移除；你的對話不會存在模型裡被讀給其他使用者
  ↳ 拿去訓練之前，個人資料通常會先被移除。模型也不是把你的對話原封不動存起來，所以別人使用時，不會聽到它念出你講過的話。
• 02:39 到這時你的細節已經不是你的原話，而是一種 pattern（模式）
  ↳ 訓練後留下的不是你的原話，而是從大量對話歸納出的 pattern（模式），也就是一般性的規律，看不出是誰說的。
• 03:09 若供應商用對話訓練未來模型，很多都讓你可以 opt out（選擇退出）
  ↳ 如果公司會拿對話訓練模型，很多都提供 opt out（選擇退出）：你在設定裡關掉，表示不讓自己的對話被拿去訓練。
• 03:09 令人安心的是你有掌控權：隱私權政策說明資料怎麼被使用，產品設定裡還有額外控制選項
  ↳ 讓人安心的是主導權在你手上：想知道規則，就看隱私權政策；想調整做法，就去產品設定裡找開關。
• 03:09 Anthropic 表示會努力讓這些選擇容易理解；組織導入 Claude 時，模型訓練預設關閉，你什麼都不用做
  ↳ Anthropic 表示會努力把這些選項做得好懂。如果是公司或組織導入 Claude，模型訓練預設就是關的，使用者不用另外設定。
• 03:09 習慣一：花幾分鐘檢查設定
  ↳ 第一個習慣：花幾分鐘把設定看過一遍。花的時間不多，看完就清楚自己的資料怎麼被處理。
• 03:39 memory、聊天紀錄、已連結的 app、訓練開關通常在帳號或隱私設定中，在那裡可以查到存了什麼、怎麼用
  ↳ 這些通常在「帳號」或「隱私」設定頁，包括 memory、聊天紀錄、你授權 AI 連結的其他 app，還有訓練開關。存了什麼、怎麼用，都在那裡查。
• 03:39 習慣二：依自己的舒適程度分享，而不是套用一體適用的規則；分享前想想它在對話、memory、未來訓練中的用途
  ↳ 第二個習慣：沒有標準答案，照你自己能接受的程度分享。開口前先想一下：這句話只用在這次、會進 memory，還是可能被拿去訓練？
• 03:39 習慣三：不想分享的就別放。例如請 AI 改寫 email，可能不需要收件人真名，換成佔位字一樣有效
  ↳ 第三個習慣：用不到的就別給。請 AI 改信時，收件人真名可以換成「[收件人]」這類 placeholder（佔位字，用來代替真實資訊的替代詞），改出來的效果一樣。
• 04:10 習慣四：依資料敏感程度選產品。日常用途通常用一般消費者版就好
  ↳ 第四個習慣：看資料多敏感來選版本。寫東西、查資料、排行程這類日常事，用一般個人版就夠了。
• 04:10 工作上的機密或受法規規範的資料，請找商業版或企業版方案，通常有不同的資料處理條款，可在產品文件中確認
  ↳ 工作機密或受法規規範的資料，要用商業版或 enterprise plan（企業方案）。這類方案處理資料的條款通常不一樣，細節可以在產品文件裡確認。
• 04:10 結論：當下和基本上，AI 知道的就是你放進對話的內容；之後能保留多久，取決於產品預設和你在設定中的選擇
  ↳ 總結：AI 當下知道的，基本上就是你放進對話的內容。之後會留多久，取決於產品的預設值，還有你在設定裡怎麼選。
• 04:40 事前花幾分鐘設定，加上用心使用，就能確保你掌控自己的資訊
  ↳ 事前花幾分鐘設定好，平常使用時多想一步，自己的資料就能掌握在自己手上。

根據影片，當組織導入 Claude 時，模型訓練的預設狀態是什麼？