企業規模下的 Defender's Window：與 Standard Chartered 對談
🏦 台灣Pay 銀行轉帳 💙 PayPal
Standard Chartered 的 Reuben 分享用 Daybreak 與 frontier AI 做資安防禦的經驗
- 00:06 Defender's Window：frontier models 大幅縮短理解軟體、找出並辨識 exploit 所需的時間
- 06:21 關鍵之一是 shift left，讓開發者更早取得這些能力
- 11:59 希望能在 sandbox 環境中批次執行、找出 exploit
💡 你可以怎麼用：下次請 AI 幫你檢查東西（合約、流程、企劃、程式），別只貼一段內容。要一起給它背景：這東西的目的、會跟哪些人或系統連動、平常怎麼使用。還要請它只挑出「真的會出事、並說明為什麼」的項目，而不是列一長串可能的問題。
看全部 46 條重點
🧑🏫 這支影片是 OpenAI 主持人訪問渣打銀行的 Reuben，聊一家全球大銀行怎麼用最新 AI 找出系統裡真正危險的資安問題。影片的重點不在 AI 多會找漏洞，而在一個常被忽略的條件：資料給得完不完整、團隊怎麼合作、自家基本功穩不穩，決定了 AI 幫不幫得上忙。
- 00:06 Defender's Window：frontier models 大幅縮短理解軟體、找出並辨識 exploit 所需的時間↳ Defender's Window 指防守方搶先一步的時間。frontier models（目前最頂尖的 AI 模型）讓讀懂軟體、找出 exploit（真的能拿來攻擊的手法）快了很多。
- 00:36 身為全球規模的銀行，必須比攻擊者更快理解有哪些 exploit↳ 攻擊者也能用同樣的 AI 變快。銀行規模大、牽涉的錢和客戶多，必須在對方動手前先搞清楚自己哪裡打得進來。
- 00:36 重點不是找出程式碼裡的漏洞，而是理解哪些真的可被利用（exploitable）↳ vulnerability（漏洞）是程式不完美的地方，但不是每個都打得進來。真正要花力氣的是分辨哪些是 exploitable（真的能被利用）。
- 00:36 很多資安計畫看的是 repo 和資產，但攻擊者看的是跨系統、跨 API、跨 ID、跨 trust boundary 的攻擊路徑↳ 資安常一個一個檢查 repo（程式碼庫）。攻擊者則是串路線，經過 API（系統互相溝通的接口）、帳號，跨過 trust boundary（信任程度改變的交界）一路打進去。
- 01:06 主持人也認同：重點不只是讓 CVE 清單變得更長↳ CVE 是公開、有編號的已知漏洞清單。清單變長不等於更安全，重點是揪出真正會出事的那幾個。
- 01:06 Standard Chartered 是全球最早評估 Daybreak 的銀行之一，主持人表示他們相信 Daybreak 會是防禦者生態系的關鍵一環↳ Daybreak 是影片中討論的資安 AI 工具。渣打是全球最早評估它的銀行之一，主持人認為它會是防守方工具中很重要的一塊。
- 01:06 開始評估的動機：想知道 frontier AI 能不能看出傳統方法抓不到的風險↳ 他們想驗證的第一件事，是 AI 能不能看出傳統掃描工具看不到的風險，而不是重做舊工具已經會的事。
- 01:36 也想知道它能不能理解跨 repository、跨架構、跨 trust boundary 發生的事↳ 第二件事是 AI 能不能看懂整體。問題常出在不同程式庫、不同架構、不同信任區之間的接縫，而不是單一檔案裡。
- 01:36 早期觀察：他們有大量 microservices，系統若能理解跨架構、跨 microservices repo 的狀況，發現會多很多↳ microservices（微服務）是把大系統拆成很多小服務各自運作。渣打有很多這種小服務，AI 能跨著一起看的時候，找到的問題明顯變多。
- 02:07 上下文（context）很關鍵，比選哪個模型更重要；有了 context，才找得到很多真正可被利用的問題↳ context（背景資訊）是你提供給 AI 的周邊資料。他們發現資料給得夠不夠，比換哪個模型影響更大。缺了背景，AI 很難判斷問題能不能被利用。
- 02:07 主持人提到，常聽到有人用 frontier models 做 static code analysis 來找 exploit↳ static code analysis（靜態程式碼分析）是不執行程式、只讀程式碼找問題。主持人說很多人用頂尖模型這樣找 exploit，接著帶出一個問題：只看程式碼夠不夠？
- 02:38 除了程式碼，還會提供：架構圖、架構部署模型、相依套件、與該資產連接或被它使用的其他服務，以及該項目的 solution intent↳ 他們除了程式碼，還提供架構圖、部署方式、dependencies（程式依賴的外部套件）、上下游相連的服務，以及 solution intent（這個系統原本要做什麼）。
- 03:10 能提供的 context 越多，結果越好↳ AI 判斷得準不準，很大程度取決於資料完不完整。正確的背景給得越多，結果越好。
- 03:40 只做 demo 給開發團隊看並不夠，需要確鑿的證據（hard evidence）↳ 展示「AI 很厲害」說服不了開發團隊。要讓人願意動手改，得拿出實際證據，證明這個問題真的打得進來。
- 03:40 做法是讓 application security 和開發團隊組成跨職能小組，一起執行↳ application security（應用程式資安團隊）和開發團隊組成 cross-functional group（跨部門小組）一起執行，不是資安單方面丟報告過去。
- 03:40 任何發現都要對照程式碼、架構部署和執行環境逐一驗證，所以必須協作進行↳ AI 找到的每一條都要核對程式碼、實際部署方式和執行環境。這些知識分散在不同人手上，所以只能一起做。
- 04:11 主持人指出：資安不只是資安團隊的事，需要組織內整個軟體工程社群的支持↳ 資安不能只靠資安部門。寫程式的人不支持、不配合，再好的工具也推不動。
- 04:41 重點不是宣布「我們找到問題了」，而是提升修補（remediation）效率，達成正確的資安成果↳ remediation（修補）是把問題實際修好。宣布「抓到漏洞」不算成果，真正的目標是修得快、修得對。
- 04:41 讓開發者理解問題的 root cause，下次就會換個方式做，不再那樣建構應用程式↳ root cause（根本原因）是問題為什麼會發生。開發者懂了原因，下次寫程式就會避開，同類問題不再重複出現。
- 05:11 不要點名指責，而是和開發者一起修補，也用 frontier AI 來做修補↳ 不追究是誰寫錯，而是陪開發者一起修。修補這一步也可以請頂尖 AI 幫忙。
- 05:11 目標不是多一個 dashboard，也不是在 backlog 多塞一個任務↳ backlog（待辦工作清單）本來就很滿。資安不該只是多一個看板、多一張待辦單丟給開發者。
- 05:11 主持人指出：大型組織有既定流程與治理機制，原本可能不是為現在要求的速度而設計↳ 大公司有層層審核和規範，原本的節奏比較慢。現在 AI 讓攻防都變快，舊流程可能跟不上。
- 05:46 資安過去一直被看成守門人、絆腳石，現在要把心態轉成推動者（enabler）↳ 資安過去像 gatekeeper（守門人），常被當成擋路、拖進度的一方。現在要轉成 enabler（推動者），幫大家安全地往前走。
- 05:46 他們打造的東西都整合進 pipeline↳ pipeline（程式從寫好到上線的自動化流程）。他們把資安工具直接接進去，開發者照平常流程走就會用到。
- 06:21 關鍵之一是 shift left，讓開發者更早取得這些能力↳ shift left（左移）是把資安檢查提早到開發初期。越早發現越好修，等上線才抓到，修起來又貴又麻煩。
- 06:21 在開發週期中提供一個虛擬空間，讓開發者能在執行時測試，確知某個問題是否可被利用↳ 開發過程中有一個虛擬測試空間，開發者能讓程式實際跑起來試打，確認某個問題到底能不能被利用。
- 06:51 開發者看到可被利用的證據後，就能依 exploit 排定優先順序↳ 有了「真的打得進來」的證據，開發者就知道哪些要先修、哪些可以晚點，不用對一長串警告一樣緊張。
- 06:51 當開發者知道資安是在幫他們更快又安全地前進，信任就建立起來了↳ 開發者感受到資安是在幫自己又快又安全地交付，而不是找麻煩，雙方的信任就這樣建立起來。
- 06:51 主持人補充：這和提供 agentic coding 等工具加速工作、避免傳統式的沉重負擔相輔相成↳ agentic coding（讓 AI 自己多步驟寫、改程式）。主持人說這和上述資安做法方向一致，都是用工具加速，省掉傳統繁重的手續。
- 07:23 防禦者和威脅行為者之間一直在競賽，但主持人認為現在這個時刻需要換個方式思考↳ 攻防兩邊一直在比速度。主持人認為 AI 讓局面變了，不能照老方法追趕，要換個思路。
- 07:53 Reuben 坦言，測試過程中很明顯看出必須先把基礎打好↳ Reuben 坦白說，測試過程讓他們很清楚一件事：自家的基本功要先顧好。
- 07:53 基礎包括：減少 technical debt、降低技術複雜度（例如不要用太多程式語言）↳ technical debt（技術債）是過去為了求快留下、日後得收拾的權宜做法。基本功包括減少技術債、降低複雜度，例如別同時用太多種程式語言。
- 07:53 基礎也包括：保持架構文件最新（才能提供正確的 context），以及紮實的身分與存取控制↳ 基本功還包括讓架構文件隨時更新，AI 才拿得到正確背景，以及做好 identity and access control（身分與存取控制，管誰能進哪裡、能做什麼）。
- 08:23 AI 放進環境後會放大它看到的一切；基礎穩固的組織才能充分發揮 AI 的效益↳ AI 會放大它看到的一切。環境整齊，效果加倍；環境混亂，問題也跟著放大。基礎好的組織才吃得到完整好處。
- 08:23 主持人提到，他們大約在過去六個月把 GenAI 導入資安流程↳ GenAI（生成式 AI，能產出文字、程式等內容的 AI）。主持人提到，他們大約在過去半年才把它放進資安流程。
- 08:54 意外發現：SDLC 中以為開發團隊都有在做的事，例如保持架構文件最新，其實有缺口，必須補上↳ SDLC（軟體開發生命週期，從規劃、開發到上線維護的整個過程）。意外的是，以為開發團隊都有在做的事，像更新架構文件，其實有缺口要補。
- 08:54 令人安心的是：沒找到太多出乎意料的東西，發現大多符合預期↳ 讓人放心的是，找到的東西大多在預期內，沒有冒出一堆嚇人的新問題。
- 09:29 最大收穫是：這個方法抓到了傳統工具沒抓到的某些領域↳ 最大收穫是這個方法在某些領域抓到了傳統工具漏掉的問題，補上了舊工具的盲點。
- 09:59 主持人指出：Standard Chartered 跨許多市場與監理制度，系統眾多，要保護的範圍很大，不只是掃描 repo↳ 渣打橫跨很多國家市場，要面對各地不同的金融監理規定，系統又多，要守的範圍很大，不能只靠掃描程式碼庫。
- 10:29 雖是全球組織，但開發團隊集中在少數幾個 hub，協調與合作比較容易↳ 雖然是全球公司，但開發團隊集中在少數幾個據點，所以協調、合作起來比較容易。
- 10:29 資安團隊的定位是提供正確工具，讓開發者能自助（self-serve）安全地開發↳ self-serve（自助）是開發者用資安團隊準備好的工具，自己完成安全開發，不必每次都排隊等資安人員。
- 10:59 讓開發者自助的同時，過程中仍會設置適當的檢查點↳ 自助不代表放手不管，流程中仍會設好適當的檢查關卡。
- 11:29 對 OpenAI 的期待：產品要能大規模執行，只掃少數幾個 repo 或逐一掃描無法擴展↳ 他們希望 OpenAI 的產品能大量處理。只掃幾個 repo 或一個一個掃，對大銀行來說規模不夠。
- 11:59 希望能在 sandbox 環境中批次執行、找出 exploit↳ sandbox（沙盒）是和正式系統隔開的測試環境，在裡面怎麼試都不影響真實服務。他們希望能在裡面一次批次跑、找出 exploit。
- 11:59 因為應用程式彼此相連，要了解 blast radius：某個應用被攻破後會波及哪裡↳ blast radius（爆炸半徑）指某個系統被攻破後連帶影響的範圍。應用程式彼此相連，要知道一處出事會牽連到哪裡。
- 11:59 Reuben 認為 OpenAI 規劃中的 Defense Factory 會很有幫助，主持人表示期待幫他開通存取權↳ Defense Factory 是 OpenAI 規劃中的東西，Reuben 認為對大規模找 exploit 很有幫助，主持人說期待幫他開通使用權限。
📘 術語
Defender's Window（防禦者時間窗口）：frontier models 縮短辨識 exploit 的時間，防禦者必須比攻擊者更快理解 exploit
frontier models / frontier AI（前沿模型／前沿 AI）：字幕未定義；提到它讓理解軟體、辨識 exploit 的時間大幅縮短
exploit / exploitable（漏洞利用／可被利用）：重點不是找漏洞，而是理解哪些真的可被利用
vulnerability（漏洞）：字幕用來和「真正可被利用」做對比
attack paths（攻擊路徑）：攻擊者看的是跨系統、API、ID、trust boundary 的路徑，而不是 repo 或資產
trust boundaries（信任邊界）：字幕未解釋，列為攻擊路徑會跨越的對象之一
CVE（CVE 漏洞編號）：字幕未解釋，只說重點不是讓 CVE 清單變得更長
Daybreak（Daybreak（產品名））：Standard Chartered 最早評估的銀行之一；主持人稱它將是防禦者生態系的關鍵一環
microservices（微服務）：字幕未解釋；Standard Chartered 大量使用，跨 microservices repo 理解能帶來更多發現
context（上下文）：提供給模型的架構、相依套件等資訊；比選哪個模型更重要
static code analysis（靜態程式碼分析）：字幕未解釋，提到常有人用 frontier models 做這件事來找 exploit
architecture deployment model（架構部署模型）：提供給模型的 context 之一
dependencies（相依套件／相依關係）：提供給模型的 context 之一
solution intent（解決方案意圖）：提供給模型的 context 之一，指該項目原本的設計目的
application security（應用程式安全團隊）：和開發團隊組成跨職能小組一起執行
cross-functional group（跨職能小組）：application security 與開發團隊一起協作驗證發現
remediation（修補）：要提升修補效率，並和開發者一起、用 frontier AI 做修補
root cause（根本原因）：讓開發者理解問題為何發生，下次就會換個方式做
backlog（待辦清單）：字幕未解釋，只說不要只是在 backlog 多加一個任務
gatekeeper / enabler（守門人／推動者）：資安過去被視為守門人、絆腳石，要轉為推動者
pipeline（開發流水線）：字幕未解釋，只說資安工具都整合進 pipeline
shift left（左移）：讓開發者更早在開發週期中取得資安能力
agentic coding（代理式寫程式）：字幕未解釋，主持人提到用它加速開發工作
technical debt（技術債）：字幕未解釋，列為應減少的基礎問題之一
identity and access control（身分與存取控制）：字幕未解釋，列為必須打穩的基礎之一
GenAI（生成式 AI）：字幕未解釋；約六個月前開始導入資安流程
SDLC（軟體開發生命週期）：字幕未解釋；發現其中以為有做的事（如更新架構）其實有缺口
self-serve（自助）：開發者用資安團隊提供的工具自行完成安全開發，並設有檢查點
sandbox（沙盒環境）：希望在 sandbox 中批次執行找 exploit
blast radius（爆炸半徑／影響範圍）：某個應用被攻破後，還會波及哪些地方
Defense Factory（Defense Factory（產品名））：OpenAI 的規劃，Reuben 認為對大規模找 exploit 會很有幫助
frontier models / frontier AI（前沿模型／前沿 AI）：字幕未定義；提到它讓理解軟體、辨識 exploit 的時間大幅縮短
exploit / exploitable（漏洞利用／可被利用）：重點不是找漏洞，而是理解哪些真的可被利用
vulnerability（漏洞）：字幕用來和「真正可被利用」做對比
attack paths（攻擊路徑）：攻擊者看的是跨系統、API、ID、trust boundary 的路徑，而不是 repo 或資產
trust boundaries（信任邊界）：字幕未解釋，列為攻擊路徑會跨越的對象之一
CVE（CVE 漏洞編號）：字幕未解釋，只說重點不是讓 CVE 清單變得更長
Daybreak（Daybreak（產品名））：Standard Chartered 最早評估的銀行之一；主持人稱它將是防禦者生態系的關鍵一環
microservices（微服務）：字幕未解釋；Standard Chartered 大量使用，跨 microservices repo 理解能帶來更多發現
context（上下文）：提供給模型的架構、相依套件等資訊；比選哪個模型更重要
static code analysis（靜態程式碼分析）：字幕未解釋，提到常有人用 frontier models 做這件事來找 exploit
architecture deployment model（架構部署模型）：提供給模型的 context 之一
dependencies（相依套件／相依關係）：提供給模型的 context 之一
solution intent（解決方案意圖）：提供給模型的 context 之一，指該項目原本的設計目的
application security（應用程式安全團隊）：和開發團隊組成跨職能小組一起執行
cross-functional group（跨職能小組）：application security 與開發團隊一起協作驗證發現
remediation（修補）：要提升修補效率，並和開發者一起、用 frontier AI 做修補
root cause（根本原因）：讓開發者理解問題為何發生，下次就會換個方式做
backlog（待辦清單）：字幕未解釋，只說不要只是在 backlog 多加一個任務
gatekeeper / enabler（守門人／推動者）：資安過去被視為守門人、絆腳石，要轉為推動者
pipeline（開發流水線）：字幕未解釋，只說資安工具都整合進 pipeline
shift left（左移）：讓開發者更早在開發週期中取得資安能力
agentic coding（代理式寫程式）：字幕未解釋，主持人提到用它加速開發工作
technical debt（技術債）：字幕未解釋，列為應減少的基礎問題之一
identity and access control（身分與存取控制）：字幕未解釋，列為必須打穩的基礎之一
GenAI（生成式 AI）：字幕未解釋；約六個月前開始導入資安流程
SDLC（軟體開發生命週期）：字幕未解釋；發現其中以為有做的事（如更新架構）其實有缺口
self-serve（自助）：開發者用資安團隊提供的工具自行完成安全開發，並設有檢查點
sandbox（沙盒環境）：希望在 sandbox 中批次執行找 exploit
blast radius（爆炸半徑／影響範圍）：某個應用被攻破後，還會波及哪些地方
Defense Factory（Defense Factory（產品名））：OpenAI 的規劃，Reuben 認為對大規模找 exploit 會很有幫助
✏️ 小考一題
Reuben 認為，用 frontier AI 找出真正可被利用的問題時，什麼比「選哪個模型」更重要？
A. 一次掃描越多 CVE 越好B. 提供足夠的上下文（context），例如架構與相依套件C. 讓資安團隊獨立作業、不讓開發團隊參與D. 只針對單一 repo 做 static code analysis看答案
答案：B。[02:07] Reuben 說 context 比選哪個模型更重要；[02:38] 他列出要提供的 context，包括架構圖、部署模型、相依套件等。
💛 覺得有幫助？支持一下
課本免費、沒有廣告，支持與否都能照常讀 🐰