LG Uplus 打造次世代 AICC

🧑‍🏫 這支影片講韓國電信公司 LG Uplus 的案例。他們用 OpenAI 的 Real-time API（讓 AI 能即時聽人說話、也即時用聲音回話的開發工具），做出新一代的 AICC（通常指 AI 客服中心），而且很快就從試做走到正式上線。以前打客服常聽到「查帳單請按 1」，如果你好奇 AI 接電話和那種語音選單差在哪，這支講得很清楚。

• 00:11 講者 Daniel 是一位 solutions architect，分享與 LG Uplus 團隊合作的經驗
  ↳ 講者 Daniel 是 solutions architect（解決方案架構師，幫客戶把需求規劃成實際技術做法的人）。這支影片是他分享陪 LG Uplus 團隊做專案的第一手經驗。
• 00:11 LG Uplus 團隊從第一天起目標就很一致，商業意圖和工程執行同步推進，這是專案能成功交付的關鍵
  ↳ 公司想達成什麼，和工程師實際在做什麼，從第一天就對齊了，不會做到一半才發現方向不同。講者認為，這是專案能順利完成的關鍵。
• 00:11 團隊很擅長把想要的成果轉成清楚的技術方向，決策也做得又快又乾淨
  ↳ 像「讓客服變好」這種籠統的目標，他們能很快拆成「要做哪些功能、用什麼技術」。該拍板時就拍板，不會一直開會拖著。
• 00:41 工程團隊做事有急迫感也很嚴謹，特別是測試、迭代和納入回饋的方式，所以這個 POC 很快就進入 production
  ↳ POC（概念驗證，先小規模試做，確認點子可行）常常一拖就是很久。他們測得仔細、改得快，也肯聽回饋，所以很快就進入 production（正式上線給真實客戶用）。
• 00:41 Real-time 最大的優勢是能做到真正像對話、low latency 的體驗：語音串流進出，助理可以自然回應、處理插話，不那麼像一問一答輪流進行
  ↳ low latency 就是延遲低、回得快。聲音是邊說邊傳，AI 能馬上接話，你中途插嘴它也跟得上。感覺像跟真人講電話，不是你講完、等它想好了才輪到它講。
• 00:41 Real-time 是完全 event-driven 的 API，可以在對話進行中觸發動作、串接後端工具，在真實環境下也能維持即時回應
  ↳ event-driven 指系統會對當下發生的事立刻反應。所以對話講到一半，AI 就能去後台查資料、呼叫其他系統（例如查帳單），回應也不會因此卡住。
• 01:11 Real-time API 原生就是 speech-to-speech，中間不需要轉錄，模型能利用語氣、抑揚頓挫和說話節奏，保留更多訊號，讓互動更像真人
  ↳ speech-to-speech 就是聲音進、聲音出。語音不必先轉成文字，語氣就不會丟掉，AI 能聽出你是著急還是不耐煩，回應也就更像真人。
• 01:43 傳統 rule-based AICC 通常是一棵 decision tree，適合可預測的情況；但現實不會那麼好預測，客戶一脫離腳本，系統就容易出問題
  ↳ rule-based 是照事先寫好的規則跑，decision tree 就像一層層「請按 1、請按 2」的分岔選單。客人照劇本走時很好用，但只要問到選單沒列的狀況，系統就容易卡住或轉錯。
• 01:43 Agentic AICC 能理解自然語言中的意圖、跨多輪對話保留上下文，並採取行動，例如查詢正確的政策、檢查帳戶狀態、啟動下一步
  ↳ Agentic 指 AI 不只會回答，還會動手辦事。它聽得懂你用平常話講的需求，記得前面聊過什麼，也會實際去查對的規定、看你的帳戶狀態、幫你辦下一步。
• 01:43 Agentic AICC 不會強迫使用者走死板的逐步流程
  ↳ 也就是不用照「先按 1、輸入號碼、再按 3」的固定順序走。你直接講自己的狀況，它會判斷接下來該怎麼處理。
• 01:43 和 LG Uplus 合作時，觀察到一個關鍵轉變：從照腳本分流（scripted routing），轉向能推理、能調整，並在適當防護機制（safeguards）下保持有所依據（grounded）的系統
  ↳ scripted routing 是照腳本把客人分到不同流程。現在改成會思考、會隨機應變的系統，再用 safeguards（防護機制）確保它的回答有根據（grounded），不會亂講。
• 02:13 這不只是韓國或單一產業的創新，而是未來全球次世代 contact center 運作方式的藍圖
  ↳ 講者認為這不只是韓國、不只是電信業的個案。全世界的 contact center（企業集中接聽電話、處理客戶問題的客服中心），之後都可能往這個方向走。
• 02:13 每個市場和產業追求的都一樣：更快解決問題、更自然的語音體驗、可規模化的營運
  ↳ 不管哪個國家、哪個行業，企業對客服要的都是同樣三件事：問題解決得快、講起來自然，還有客人變多時整個營運也撐得住。
• 02:43 以 real-time 為基礎的 AICC 能在客戶所在之處服務他們，並整合完成任務所需的工具和知識，適用於任何領域
  ↳ 客人習慣在哪裡找你，它就在那裡服務，同時把完成任務需要的系統和資料都接上。這套做法不限電信業，任何行業都能套用。
• 02:43 LG Uplus 示範了三者結合的可能性：營運紀律、前沿 AI 能力，以及建立在頂尖 speech-to-speech 技術上的模組化框架
  ↳ LG Uplus 證明三件事能同時做到：做事有紀律的營運、最新的 AI 能力，以及像積木一樣可以拆換組合（模組化）的系統，而且這套系統是建在聲音直接進出的技術上。
• 02:43 接下來的重點是擴大已經有效的做法，讓營運比現在更穩健
  ↳ 下一步不是急著做新花樣，而是把已經證明有效的做法推廣出去，同時讓整體運作比現在更穩。
• 03:13 具體做法是加強評估（evaluation）、監控和有結構的實驗，確保擴大使用情境時效能仍維持高水準
  ↳ evaluation（評估）就是定期幫 AI 打分數，看它答得好不好。再加上持續監控、有計畫地做實驗，確保用途變多以後，表現不會跟著變差。
• 03:13 會繼續和 LG Uplus 合作：LG Uplus 要把它產品化成進階（premium）方案，並擴大企業客戶的採用
  ↳ 雙方會繼續合作。LG Uplus 打算把這套系統包裝成進階（premium）方案，推給更多企業客戶使用。

根據影片，為什麼使用 Real-time API 時中間不需要轉錄？