介紹 Agents API
🏦 台灣Pay 銀行轉帳 💙 PayPal
OpenAI 推出 Agents API，代管 Codex harness，並以事故調查 agent 示範
- 00:00 就算模型能力很強，要把 long-running agent 推上 production 還是很費工：要串接工具、追蹤進度、管理 context，還要維護基礎設施並顧好安全
- 01:00 調查事故時要翻大量 logs，數量很可能超過模型的 context window
- 02:02 這套基礎設施會隨著新模型、新功能一起持續進步；影片說要透過一個 API 提供「持續進步的 harness」
💡 你可以怎麼用：你評估 AI 工具或跟工程師討論時，可以拿影片這幾點當檢查清單：怎麼接工具、資料太多怎麼處理、長任務會不會忘記前面做過的事、最後有沒有附證據的報告。自己跟 AI 聊很長時，也可以學 compaction：先請它把目前進度整理成摘要，再開新對話貼上摘要接著做。
看全部 17 條重點
🧑🏫 這支影片介紹 OpenAI 新推出的 Agents API。AI agent 是能自己安排步驟、使用工具把任務做完的 AI，要讓它長時間自己做事，背後需要一整套系統撐著，現在這套系統改由 OpenAI 代管。影片用「幫忙調查線上系統故障」的 agent 當例子，示範工具怎麼接、資料太多怎麼辦、工作怎麼分工。想知道 AI agent 實際上怎麼做成產品，這支很適合入門。
- 00:00 就算模型能力很強，要把 long-running agent 推上 production 還是很費工：要串接工具、追蹤進度、管理 context，還要維護基礎設施並顧好安全↳ long-running agent 是要連續做很久、自己一步步完成任務的 AI。要讓它在 production（真實用戶在用的正式環境）上線，只有模型聰明還不夠。還得接工具、記進度、管它讀到的資訊，並顧好系統和安全。
- 00:00 Agents API 就是要幫開發者處理這些基礎設施，讓應用程式直接用代管版的 Codex harness↳ Agents API 就是 OpenAI 幫開發者扛下這些底層雜事。harness 可以想成包在模型外面、讓它能用工具做事的框架。開發者可以直接用 OpenAI 代管的 Codex 那一套。
- 00:00 OpenAI 負責 orchestration、sessions 和 context management，開發者可以專心開發產品↳ orchestration 是安排 agent 做事的順序和分工，sessions 是一次次的工作階段，context management 是管理模型當下看得到哪些資訊。這三件事由 OpenAI 包辦，開發者專心做產品就好。
- 00:00 範例：做一個 agent，協助調查 production 環境發生的事故（incidents）↳ 示範案例是線上服務出了 incident（事故，例如網站掛掉或變很慢），讓 agent 幫工程師查出問題出在哪裡。
- 00:30 這個 agent 需要三樣東西：observability 資料、最近的程式碼變更，以及團隊處理服務中斷（outage）的作業指示↳ 這個 agent 要看三種東西：observability 資料（監看系統運作狀況的紀錄）、最近改了哪些程式，還有團隊遇到 outage（服務中斷）時該怎麼查的作業指示。
- 00:30 需要的工具都透過 MCP 接上，調查用的 runbook 則用 skill 的形式交給 agent↳ 工具透過 MCP（讓 AI 接上外部工具和資料的一種接法）接上。runbook 是團隊處理故障的調查指示，這裡包成 skill，也就是一份交給 agent 照著做的指示包。
- 00:30 agent 的執行環境和能用哪些工具，由開發者自己決定↳ 底層雖然由 OpenAI 代管，但 agent 在哪裡跑、准它用哪些工具，還是由開發者決定，不是全部交出去。
- 00:30 sandbox 有三種接法：用 OpenAI 的、用第三方供應商的，或用自家基礎設施↳ sandbox 是 agent 實際動手做事的執行環境。可以用 OpenAI 提供的、找第三方廠商的，或放在公司自己的機器上。
- 01:00 調查事故時要翻大量 logs，數量很可能超過模型的 context window↳ 查故障常要翻大量 logs（系統自動記下的一行行運作紀錄）。模型一次能讀的量有上限，這個上限叫 context window，logs 一多很可能塞不下。
- 01:00 有了 programmatic tool calling，agent 可以寫程式處理、過濾 logs，少花 token 搬原始資料，把 token 留給真正需要的資訊↳ programmatic tool calling 是讓 agent 自己寫小程式先過濾 logs，只把重點交給模型。token 是模型計算讀寫量的單位，這樣 token 就不會浪費在原始資料上。
- 01:00 規模最大的任務可以用 multi-agent orchestration，把彼此獨立的工作分派出去↳ 遇到特別大的任務，可以用 multi-agent orchestration：把彼此不相干的工作拆開，分給好幾個 agent 分頭處理。
- 01:00 範例分工：一個 sub-agent 檢查最近的變更，另一個檢查 telemetry，最後由 lead agent 整合兩邊的發現↳ 範例裡，一個 sub-agent（負責其中一塊的子 agent）查最近的程式變更，另一個看 telemetry（系統回報的運作數據）。最後由 lead agent（主導的 agent）把兩邊的發現整合起來。
- 01:32 就算只有一個 agent session，靠 compaction，長時間運作的 context window 還是很好用↳ 就算只用一個 agent，靠 compaction 也能讓它長時間工作時，context window 一直保持好用。
- 01:32 compaction 會把先前完成的所有工作整理成摘要交給模型，讓 agent 能接著調查下去↳ compaction 就是把前面做完的工作濃縮成摘要交給模型，讓 agent 帶著重點繼續往下查，不用把每個細節都塞在視窗裡。
- 01:32 工作完成後產出報告給 on-call 團隊審閱，內容有可能的 root cause、佐證、建議的下一步，打包成一個可分享的檔案↳ 查完後，agent 產出報告給 on-call 團隊（輪班處理緊急狀況的工程師）審閱。內容有可能的 root cause（根本原因）、佐證和建議的下一步，打包成一個能分享的檔案。
- 01:32 用 Agents API 跑完整個工作流程，完全不用自己建置或維護 agent 基礎設施↳ 整個調查流程都在 Agents API 上跑完，開發者完全不用自己架設或維護 agent 的底層系統。
- 02:02 這套基礎設施會隨著新模型、新功能一起持續進步；影片說要透過一個 API 提供「持續進步的 harness」↳ OpenAI 說這套底層會跟著新模型、新功能一起升級，開發者透過同一個 API，就能用到持續進步的 harness。
📘 術語
Agents API（Agents API）：OpenAI 推出的 API，讓應用程式直接用代管版的 Codex harness，基礎設施由 OpenAI 處理
harness（執行框架）：字幕沒有定義；只說 Agents API 提供的是代管版 Codex harness，而且會持續進步
long-running agent（長時間運作的 agent）：字幕沒有定義；只說要把它推上 production 得處理工具、進度、context 和基礎設施
orchestration（編排協調）：字幕沒有定義；列為 OpenAI 會幫忙處理的項目之一
context management（context 管理）：字幕沒有定義；列為 OpenAI 會幫忙處理的項目之一
context window（context window（上下文視窗））：模型一次能放進的內容有上限，大量 logs 可能塞不下
MCP（MCP）：範例中用來串接 agent 需要的各種工具
skill（skill）：範例中用來把調查 runbook 交給 agent
runbook（作業手冊）：範例中指團隊處理 outage 的調查指示
sandbox（沙箱）：agent 的執行環境，可以用 OpenAI 的、第三方的，或自家基礎設施
programmatic tool calling（程式化工具呼叫）：讓 agent 寫程式處理、過濾資料，減少搬原始資料花掉的 token
token（token）：字幕沒有定義；提到搬原始資料會多花 token
multi-agent orchestration（多 agent 協調）：把大型任務裡彼此獨立的工作分派給多個 agent
sub-agent / lead agent（子 agent／主導 agent）：sub-agent 各自負責一部分工作，lead agent 整合它們的發現
compaction（壓縮）：把先前完成的工作整理成摘要交給模型，讓 agent 能繼續做下去
observability / telemetry（可觀測性／遙測資料）：字幕沒有定義；是調查事故時 agent 要查看的資料
on-call team（值班團隊）：審閱 agent 最後產出的報告的人
root cause（根本原因）：報告內容之一：可能的 root cause
harness（執行框架）：字幕沒有定義；只說 Agents API 提供的是代管版 Codex harness，而且會持續進步
long-running agent（長時間運作的 agent）：字幕沒有定義；只說要把它推上 production 得處理工具、進度、context 和基礎設施
orchestration（編排協調）：字幕沒有定義；列為 OpenAI 會幫忙處理的項目之一
context management（context 管理）：字幕沒有定義；列為 OpenAI 會幫忙處理的項目之一
context window（context window（上下文視窗））：模型一次能放進的內容有上限，大量 logs 可能塞不下
MCP（MCP）：範例中用來串接 agent 需要的各種工具
skill（skill）：範例中用來把調查 runbook 交給 agent
runbook（作業手冊）：範例中指團隊處理 outage 的調查指示
sandbox（沙箱）：agent 的執行環境，可以用 OpenAI 的、第三方的，或自家基礎設施
programmatic tool calling（程式化工具呼叫）：讓 agent 寫程式處理、過濾資料，減少搬原始資料花掉的 token
token（token）：字幕沒有定義；提到搬原始資料會多花 token
multi-agent orchestration（多 agent 協調）：把大型任務裡彼此獨立的工作分派給多個 agent
sub-agent / lead agent（子 agent／主導 agent）：sub-agent 各自負責一部分工作，lead agent 整合它們的發現
compaction（壓縮）：把先前完成的工作整理成摘要交給模型，讓 agent 能繼續做下去
observability / telemetry（可觀測性／遙測資料）：字幕沒有定義；是調查事故時 agent 要查看的資料
on-call team（值班團隊）：審閱 agent 最後產出的報告的人
root cause（根本原因）：報告內容之一：可能的 root cause
✏️ 小考一題
範例中，logs 多到超過模型的 context window 時，影片說 agent 可以怎麼處理？
A. 請 on-call 團隊先手動刪減 logsB. 換成 context window 更大的模型C. 透過 programmatic tool calling 寫程式處理並過濾 logsD. 把所有原始 logs 分批直接貼進 context window看答案
答案：C。[01:00] 影片說 agent 可以透過 programmatic tool calling 在程式碼裡處理、過濾 logs，少花 token 搬原始資料
💛 覺得有幫助？支持一下
課本免費、沒有廣告，支持與否都能照常讀 🐰