AI 為什麼會產生幻覺？

🧑‍🏫 這支是 Claude 官方影片，講 AI 為什麼有時會很有把握地講出錯的東西。影片也說明哪些問題最容易出這種錯，以及你可以怎麼防範。如果你常用 AI 查資料或寫東西，這些觀念可以幫你少出錯。

• 00:00 AI 被訓練成要有幫助，所以即使不確定也想給出答案，這類錯誤就叫做 hallucination（幻覺）
  ↳ AI 被訓練成要盡量幫上忙，所以就算不確定，也傾向給你一個答案。這種捏造出假事實的錯誤叫 hallucination（幻覺），意思是 AI 講得像真的，其實內容是編的。
• 00:00 幻覺通常比一般錯誤更糟，因為 AI 看起來很有自信，錯的答案也常常看起來像是對的
  ↳ 一般的錯誤常常一看就覺得怪。幻覺比較麻煩，因為 AI 的口氣一樣篤定，內容也很通順，你沒辦法從語氣分辨真假，所以更容易直接相信。
• 00:00 容易發生幻覺的情況：問特定事實、統計數據或引言，或主題冷門、高度專業、非常新
  ↳ 你問得越細，例如某個統計數字、某句話是誰說的，或主題越冷門、越專業、越新，AI 就越容易拿「聽起來合理」的內容填空。
• 00:30 問到真實但不太有名的人或地點，或需要日期、名字、數字等精確細節時，也容易出現幻覺
  ↳ 例如問一間小地方的店、一位不太有名的人，或要確切的年份、人名、金額，AI 常會給一個看起來很精準、其實是拼湊出來的答案。
• 00:30 減少幻覺的方法一：一開始就告訴 AI「不知道也沒關係」（It's okay if you don't know）
  ↳ 在提問一開始就加一句「不知道也沒關係」，等於先給 AI 台階下。它會比較願意直接說不確定，不會硬編一個答案給你。
• 00:30 方法二：開一個新的對話，請 AI 找出答案裡的錯誤；方法三：保持懷疑，自己核對數字、日期和引言
  ↳ 開一個新的對話，把答案貼進去請 AI 找錯，它比較不會被前面的說法牽著走。另外自己也要保持懷疑，數字、日期、引言都要回原始來源查證。
• 00:30 每個新版本的 Claude 都有改善，但這是整個 AI 領域長期存在、尚未完全解決的挑戰
  ↳ Claude（Anthropic 公司做的 AI 助理）每出新版本都有改善。但幻覺是整個 AI 領域還沒完全解決的老問題，所以就算用新版，也不能完全不查證。

根據影片，下列哪一項是減少 AI 幻覺的建議做法？