當你跟 AI 對話時，背後發生了什麼事？
🏦 台灣Pay 銀行轉帳 💙 PayPal
說明 Claude 這類 AI 模型靠「預測」逐字產生回覆，以及它還會看到哪些 context
💡 你可以怎麼用：下次問 AI 之前，先把背景交代清楚，例如用途、對象、想要的格式和字數，不要只丟一句短短的問題。如果回答不對，先補上缺的資訊再問一次，不要急著覺得它不行。
看全部 5 條重點
🧑🏫 這支影片用很短的篇幅，說明你傳訊息給 Claude 之後，它到底怎麼產生回覆。搞懂它背後的運作方式，你就比較知道怎麼問才會得到好答案，也比較會判斷它的回答。
- 00:00 傳訊息給 AI 時，它看起來像在思考，但像 Claude 這類 AI 模型其實是以「預測」為基礎運作↳ AI 回你的時候，看起來好像在思考。但 Claude 這類 AI 模型（用大量文字訓練出來、能讀也能寫的程式），做的其實是「預測」（prediction）：猜接下來最可能出現哪個字。
- 00:00 模型讀取你的訊息後，結合訓練時學到的一切和你在訊息中提供的內容，分段寫出回覆↳ 它會先讀你的訊息，把訓練時學到的東西和你這次提供的內容放在一起，再一段一段寫出回覆。所以你給的資訊越清楚，它能用的材料就越多。
- 00:00 回覆是一個字一個字出現的，每個字都是根據前面所有內容挑選出來的↳ 回覆不是整篇想好才貼出來，而是一個字接一個字寫出來的。每挑一個字，它都會看前面所有內容，包括你的問題和它自己已經寫出來的部分。
- 00:00 除了你的訊息，模型還會看到其他 context：app 開發者給的指示（稱為 system request）、你下載的檔案，以及依設定而定的過往對話記憶等↳ 它看到的不只你的訊息，還有其他 context（回答時能參考的背景資料）：app 開發者給的指示（system request）、你下載的檔案。依你的設定，也可能看到 memory，也就是過去對話的記憶。
- 00:30 了解 AI 模型是預測系統之後，你就更能跟它合作，也更能解讀它的回覆↳ 知道它是靠預測在寫字，就會明白回答好不好，跟它看到的內容很有關係。背景給足、需求講清楚，回覆會更貼近你要的；答案怪怪的時候，可以回頭想是不是漏給了什麼。
📘 術語
prediction（預測）：AI 模型運作的基礎；根據前面所有內容，逐字挑選下一個字來寫出回覆
system request（系統指示）：app 開發者提供給模型的指示，屬於模型除了使用者訊息之外會看到的 context
memory（記憶）：依你的設定而定，模型可能會看到先前對話的記憶
system request（系統指示）：app 開發者提供給模型的指示，屬於模型除了使用者訊息之外會看到的 context
memory（記憶）：依你的設定而定，模型可能會看到先前對話的記憶
✏️ 小考一題
根據影片，Claude 這類 AI 模型產生回覆時，每個字是怎麼決定的？
A. 根據前面所有內容挑選出來的B. 只根據使用者最後一句話決定C. 從網路上即時搜尋最相關的句子D. 先寫好完整答案，再一次全部顯示看答案
答案：A。字幕 [00:00] 提到回覆會逐字出現，「each one chosen based on everything that came before it」
💛 覺得有幫助？支持一下
課本免費、沒有廣告，支持與否都能照常讀 🐰