ChatGPT Images 2.0 的指令遵循(Instruction Following)


🏦 台灣Pay 銀行轉帳 💙 PayPal
研究員示範 Images 2.0 在文字擺放、時鐘時間、物件位置上更能照指令生成
- 00:02 模型需要具備想像能力,先想像出版面配置,再把物件放到正確的位置
- 01:07 原因:時鐘公司做廣告時常把時間設在 10:10,網路上因此有大量顯示 10:10 的圖片
- 01:38 指令內容:蘋果在正中央、馬克杯在蘋果正右方、書在馬克杯上方、相機在左邊、籃球在下方
💡 你可以怎麼用:用 Images 2.0 做海報或示意圖時,把條件寫具體,例如要放的字和位置、時鐘的確切時間、物件的相對方位(誰在誰的右邊或上面)。圖生成後,照著清單一條一條核對。
看全部 11 條重點
🧑🏫 這支是 OpenAI 影像生成研究員示範 Images 2.0,重點是它比以前更會照你的話畫圖。影片用三個常讓 AI 出錯的例子來測試:圖裡的文字、時鐘上的時間、物件擺的位置。平常用 AI 畫圖、常覺得「它沒聽懂我」的人,看完會知道現在可以把要求寫得更細。
- 00:02 模型需要具備想像能力,先想像出版面配置,再把物件放到正確的位置↳ 模型動手畫之前,要先規劃好 layout,也就是畫面裡每樣東西放哪裡。像拍團體照前先排好誰站哪,不是邊畫邊碰運氣。
- 00:02 講者 Jian Feng 在影像生成研究團隊工作,本片主題是 Images 2.0(字幕作 Imagine 2.0)的 instruction following↳ 講者 Jian Feng 做影像生成研究。本片講 Images 2.0 的 instruction following,意思是模型能不能確實照你說的畫,不自己亂發揮。字幕把名稱寫成 Imagine 2.0。
- 00:02 第一個例子測試文字渲染(text rendering)與文字擺放位置:請模型畫一張女性的照片↳ 第一關測 text rendering,就是在圖裡畫出你指定的文字,而且要放在對的地方。先從基本的開始:畫一張女性的照片。
- 00:36 加高難度:指定她右手拿著「the words」、左手拿著「the view」這些字,生成結果表現得相當好↳ 接著加難度:她右手拿「the words」、左手拿「the view」。字要寫對,左右手也不能拿反,結果表現相當好。
- 00:36 第二個例子是時鐘渲染:舊模型就算你指定別的時間,通常還是會畫成 10:10↳ 第二關是畫時鐘。舊模型有個老毛病:就算你指定別的時間,畫出來的指針通常還是停在 10:10。
- 01:07 原因:時鐘公司做廣告時常把時間設在 10:10,網路上因此有大量顯示 10:10 的圖片↳ 原因是時鐘廣告習慣把指針擺在 10:10,網路上這種圖非常多。模型從大量圖片學習,就把「時鐘指 10:10」當成預設答案。
- 01:07 改要求時鐘顯示 2:25、2:30、9:10 和 7:45,結果和舊模型相比進步驚人↳ 這次要求時鐘顯示 2:25、2:30、9:10、7:45 等不同時間,講者說跟舊模型比,進步驚人。
- 01:07 第三個例子是物件擺放(object placement),對模型有挑戰性,因為模型必須理解空間版面配置↳ 第三關是 object placement,就是照指令把東西放到指定位置。難在模型要真的懂上下左右的空間關係,不能把東西隨便丟進畫面。
- 01:38 指令內容:蘋果在正中央、馬克杯在蘋果正右方、書在馬克杯上方、相機在左邊、籃球在下方↳ 指令像在描述一張桌面:蘋果在正中間、馬克杯在蘋果右邊、書在馬克杯上面、相機在左邊、籃球在下面。每個位置都要對上。
- 01:38 講者表示能精準遵循使用者的要求,是一大進步↳ 講者認為,能精準照使用者的要求畫出來,是這一代的一大進步。
- 01:38 結語:Images 2.0 要縮小「使用者的意圖」與「模型產出」之間的落差↳ 總結:Images 2.0 想讓「你心裡想要的」和「模型畫出來的」越接近越好,你就不用一直改提示重畫。
📘 術語
instruction following(指令遵循):模型精準照使用者的要求生成,縮小使用者意圖與模型回應之間的落差
text rendering(文字渲染):在生成的圖片中畫出指定文字,並放在指定位置(例如女性左右手各拿不同的字)
object placement(物件擺放):依指令把物件放在指定位置,模型需要懂得空間版面配置
layout(版面配置):模型需要先想像出版面配置,再把物件放到正確位置
text rendering(文字渲染):在生成的圖片中畫出指定文字,並放在指定位置(例如女性左右手各拿不同的字)
object placement(物件擺放):依指令把物件放在指定位置,模型需要懂得空間版面配置
layout(版面配置):模型需要先想像出版面配置,再把物件放到正確位置
✏️ 小考一題
根據影片,舊模型畫時鐘時常出現什麼問題?
A. 時鐘上的數字常常消失B. 不管指定什麼時間,常畫成 12:00C. 不管指定什麼時間,常畫成 10:10D. 常把時鐘畫成 7:45看答案
答案:C。[00:36] 講者說舊模型即使指定其他時間,通常還是畫成 10:10;[01:07] 原因是時鐘廣告常用 10:10,網路上這類圖片很多
💛 覺得有幫助?支持一下


課本免費、沒有廣告,支持與否都能照常讀 🐰