86歲的羅馬教皇方濟(jì)各大概不會(huì)料到，在他飽受支氣管炎困擾的那些日子里，一張機(jī)器生成的圖片讓他成了時(shí)尚界的“頂流”。

那件巴黎世家風(fēng)格的白色羽絨服里包裹著的人仿佛是他，又不是他。

一些人在社交平臺(tái)上留言稱，他們已無法判斷何為真實(shí)、何為虛構(gòu)。

(相關(guān)資料圖)

機(jī)器生成的虛假圖像：教皇穿著巴黎世家風(fēng)格羽絨服，走在城市街道上。

巴勃羅·塞維爾（Pablo Xavier，假名）——一個(gè)31歲的芝加哥建筑工人，是這張熱門圖片的締造者。他在一個(gè)周五的下午吸食毒品時(shí)產(chǎn)生了靈感，決定創(chuàng)作一組和“教皇”相關(guān)的作品，于是便有了那張“教皇穿著巴黎世家/盟可睞的羽絨服，走在羅馬和巴黎的街道上”的圖片。

與傳統(tǒng)的藝術(shù)工作者不同，塞維爾的創(chuàng)作并不涉及專業(yè)美術(shù)知識(shí)。他使用的工具叫Midjourney。這是一款時(shí)興的人工智能（AI）繪畫工具，即便是沒有美術(shù)基礎(chǔ)的人也能將其掌握。用戶需要做的只是在輸入框中填入描述性的文字，等待數(shù)分鐘，便會(huì)有對(duì)應(yīng)的圖片產(chǎn)出。

與之類似的AI圖像生成器還包括OpenAI開發(fā)的DALL-E，以及Stability AI與慕尼黑大學(xué)（LMU）合作研發(fā)的Stable Diffusion。雖然使用的訓(xùn)練模型略有差異，這些工具的共同點(diǎn)在于，它們都能將簡單的文字描述轉(zhuǎn)化成圖像輸出。

左圖來自Midjourney圖例; 右圖由OpenAI根據(jù)“野花，草地，秋韻，水彩”描述進(jìn)行創(chuàng)作。注意右下角的5個(gè)色塊，這是DALL-E 2制圖的標(biāo)志（水?。?。

塞維爾告訴美國聚合新聞網(wǎng)站BuzzFeed的記者，他覺得讓教皇身穿羽絨服的圖片“很完美”。他把它發(fā)到了一個(gè)名為AI Art Universe的Facebook小組里，又傳到了社交論壇Reddit上。之后，這張圖片就像外界所看到的那樣——像病毒一般傳開了。

長期關(guān)注互聯(lián)網(wǎng)文化的美國記者布羅德里克（Ryan Broderic）在推特上表示，“巴黎世家教皇”可能是第一個(gè)真正被大規(guī)模傳播的AI虛假信息（misinformation）案例。但類似的案例層出不窮。就在“巴黎世家教皇”被“曝光”的同時(shí)，一組聲稱“美國前總統(tǒng)特朗普被逮捕”的圖片已經(jīng)在賽博空間傳播開來。網(wǎng)絡(luò)上還流傳著一張顯示“俄羅斯總統(tǒng)普京單膝跪地”的圖片。只不過，這些圖片無一例外是用機(jī)器生成的。

Bellingcat創(chuàng)始人Eliot Higgins用Midjourney創(chuàng)造了一組展示特朗普被捕的圖片。

當(dāng)技術(shù)的發(fā)展模糊了現(xiàn)實(shí)和虛構(gòu)之間的界限，面臨人工智能被武器化的風(fēng)險(xiǎn)，人類要怎么做，才能避免被愚弄？答案或許飄蕩在風(fēng)中。但現(xiàn)階段，相較于在現(xiàn)實(shí)世界中用各類鏡頭拍攝的照片，用AI生成的圖片在仿真性上仍有一些“瑕疵”。通過探尋這些“瑕疵”，我們?cè)诋?dāng)下仍有較大可能識(shí)別出用機(jī)器生成的圖片。

此處，“澎湃明查”將結(jié)合具體圖例，為大家介紹一些當(dāng)下仍可使用的鑒別AI生成圖片的方法。

工具

嚴(yán)格來說，塞維爾發(fā)布的圖片并沒有他所認(rèn)為的那般“完美”。無論是圖中教皇那只以奇怪的姿勢抓著不完整的咖啡杯的右手，還是其身上掛著的沒有顯示出適當(dāng)直角的十字架的佩飾，或是其戴著的眼鏡鏡片邊緣不合理的陰影，都暗示了這不是一張?jiān)谡Ｎ锢砜臻g拍攝的照片。

左：圖中人物右手受到擠壓，咖啡杯的形狀和手握咖啡杯的姿勢極不自然；中：配飾上的十字架圖案沒有呈現(xiàn)適當(dāng)?shù)闹苯?；右：眼鏡鏡片在人物臉部呈現(xiàn)不合理的陰影。

在判斷一張圖片是否是由機(jī)器生成時(shí)，首先值得關(guān)注的是圖片中是否存在一些異常的細(xì)節(jié)?！度A盛頓郵報(bào)》技術(shù)專欄作家奧維德（Shira Ovide）對(duì)此提出了4點(diǎn)可供參考的建議：

第一，查看圖中人物的雙手，是否存在手指過多或其它怪異的情況。早期的AI在生成人物手部圖像時(shí)常常出現(xiàn)問題，業(yè)界普遍認(rèn)為這是由于訓(xùn)練集中人類手部圖像出現(xiàn)的頻率往往低于臉部導(dǎo)致的。Midjourney從V5版本起已經(jīng)對(duì)機(jī)器生成的手部效果進(jìn)行了較大改進(jìn)，但不意味著已經(jīng)沒有漏洞。

DALL-E生成的虛假圖像：騷亂中的法國總統(tǒng)馬克龍。其手部手指的數(shù)量和姿勢均十分怪異。

例如，在塞維爾創(chuàng)作的教皇圖像中，人們可以輕易地觀察到，圖中人物的右手看起來被壓扁了，而他手握咖啡杯的姿勢也顯得極不自然。

第二，觀察圖像中人物的配件。是否存在缺少或不匹配的耳環(huán)、眼鏡架？只有一個(gè)輪子的自行車？如果圖像中出現(xiàn)了一些違背現(xiàn)實(shí)的物體，那么它就很有可能是用機(jī)器生成的。

同樣以塞維爾創(chuàng)作的教皇圖像為例。一些目光敏銳的人或許已經(jīng)注意到，方濟(jì)各脖子上佩戴的傳統(tǒng)胸飾十字架只有一條帶子，這是不合理的。

方濟(jì)各脖子上佩戴的傳統(tǒng)胸飾十字架（紅圈內(nèi)）只有一條帶子。

第三，觀察圖像中的文字。當(dāng)一張圖片中出現(xiàn)路牌、廣告牌、產(chǎn)品包裝袋時(shí)，不妨留心一下這些物體上包含的文字內(nèi)容。它是一堆亂碼嗎？你能看懂文字顯示的信息嗎？

以英國哈里王子打包麥當(dāng)勞食品的圖像為例，這是一張用AI生成的圖片。盡管圖中黃色包裝袋上顯示的餐廳標(biāo)志看起來很逼真，但袋子上的文字卻是胡言亂語。

機(jī)器生成的虛假圖像：英國哈里王子打包麥當(dāng)勞食品。包裝袋上的文字是一堆亂碼。

第四，掃描背景。人工智能生成的圖像可能會(huì)有模糊或扭曲的細(xì)節(jié)，這一點(diǎn)在圖像背景中尤其明顯。例如在這張顯示特朗普被捕的假圖中，當(dāng)我們將目光從畫面中心移開時(shí)，就不難注意到，背景中執(zhí)法人員的臉早已模糊或變形。

Higgins用Midjourney生成的“特朗普被捕”的虛假圖像背景中，執(zhí)法人員的臉產(chǎn)生了模糊或變形。

除上述4點(diǎn)，AI生成的圖像還有可能會(huì)出現(xiàn)一些常見的異常細(xì)節(jié)。例如人物的臉部不對(duì)稱，牙齒偏離中心，配飾與身體融為一體等。這些細(xì)節(jié)之前也常常被應(yīng)用于對(duì)深假圖像（DeepFake，俗稱AI換臉）的觀測中。但隨著人工智能技術(shù)的發(fā)展，這些發(fā)現(xiàn)AI圖像的線索也許很快就會(huì)過時(shí)。人們可能將越來越難用肉眼發(fā)現(xiàn)AI生成的內(nèi)容。

在業(yè)界，一些科學(xué)家近年來開始嘗試將解決問題的目光轉(zhuǎn)向機(jī)器，期待“用魔法打敗魔法”。例如Mayachitra的工程師在2021年建立了一個(gè)用以檢測圖片是否使用生成對(duì)抗網(wǎng)絡(luò)技術(shù)的GAN檢測器；開源社區(qū)Hugging Face上搭建有針對(duì)AI生成內(nèi)容的AI圖像檢測器和OPENAI檢測器；2020年，微軟公司還曾發(fā)布過一項(xiàng)名為Microsoft Video Authenticator的工具，用以針對(duì)網(wǎng)絡(luò)上用深假技術(shù)制作的虛假視頻。但出于安全的考慮，微軟公司并未將這款工具開放供人們使用。

用Hugging Face的AI圖像檢測器檢測“巴黎世家教皇”圖像，反饋此圖有62%的概率由機(jī)器生成。

需要指出的是，現(xiàn)階段，許多用于檢測AI圖片的工具反饋的結(jié)果并不總是準(zhǔn)確，這可能是由于它們只能針對(duì)某些使用了特定模型的AI圖片進(jìn)行檢測。

面對(duì)人工智能技術(shù)被武器化的風(fēng)險(xiǎn)，人類目前的應(yīng)對(duì)之法還存有諸多局限。但這不意味著要因噎廢食，阻止新技術(shù)的發(fā)展。奧維德指出，偽造圖像的現(xiàn)象由來已久，把AI造假看作世界末日的做法是不負(fù)責(zé)任的。

目前，除了將希望寄托于技術(shù)和監(jiān)管，人們更多可以做的，或許是在傳播信息前，能夠冷靜思考，尋找圖片的來源，閱讀和圖像相關(guān)的標(biāo)題、背景信息，留心圖片上是否存有AI生成圖片的水印，并對(duì)圖片的細(xì)節(jié)進(jìn)行判斷。

“澎湃明查”也將持續(xù)關(guān)注人工智能技術(shù)的發(fā)展前沿，探尋幫助人類在享受技術(shù)便利性同時(shí)應(yīng)對(duì)技術(shù)應(yīng)用可能導(dǎo)致的虛假信息泛濫之法。

責(zé)任編輯：