IT之家 7 月 28 日消息，微軟人工智能公益項(xiàng)目（Microsoft AI for Good）發(fā)布的一篇論文概述了一項(xiàng)實(shí)驗(yàn)，該實(shí)驗(yàn)有超過(guò) 1.25 萬(wàn)名全球參與者，進(jìn)行了 28.7 萬(wàn)次圖像評(píng)估，結(jié)果顯示人類辨別 AI 生成圖像與真實(shí)圖像的整體成功率僅為 62%，這表明人類在識(shí)破這些虛假圖像方面的能力僅略高于隨機(jī)猜測(cè)，面臨著較大的挑戰(zhàn)。
研究發(fā)現(xiàn)，在各類圖像中，參與者最容易識(shí)別出虛假的人像圖像，但面對(duì)自然景觀和城市街景等非人物圖像，辨別成功率大幅下降至 59% - 61%。這凸顯了人類在區(qū)分 AI 圖像時(shí)的困難，尤其是那些沒(méi)有明顯人工痕跡或風(fēng)格線索的圖像。
據(jù)IT之家了解，實(shí)驗(yàn)采用“真實(shí)或虛假”問(wèn)答游戲的形式，參與者需判斷所見(jiàn)圖像是否由 AI 生成。為確保測(cè)試貼近現(xiàn)實(shí)場(chǎng)景，研究團(tuán)隊(duì)刻意避免挑選極具迷惑性的“極端案例”，而是選取了人們?cè)谌粘＞W(wǎng)絡(luò)瀏覽中可能真實(shí)遇到的圖像樣本。研究同時(shí)強(qiáng)調(diào)，隨著 AI 技術(shù)持續(xù)進(jìn)步，未來(lái)模型生成的圖像將更加逼真，辨別難度將進(jìn)一步加大。
基于研究結(jié)果，微軟呼吁加強(qiáng)技術(shù)透明度，推動(dòng)廣泛采用圖像水印和可靠的 AI 內(nèi)容檢測(cè)工具，以降低 AI 生成內(nèi)容引發(fā)虛假信息傳播的風(fēng)險(xiǎn)。此前，微軟已發(fā)起公眾教育活動(dòng)，旨在提升社會(huì)對(duì) AI 偽造信息威脅的認(rèn)知。
研究團(tuán)隊(duì)還測(cè)試了微軟自研的 AI 檢測(cè)工具，該系統(tǒng)在各類圖像上的識(shí)別準(zhǔn)確率均超過(guò) 95%，遠(yuǎn)高于人類表現(xiàn)。盡管如此，研究人員仍強(qiáng)調(diào)，即便是先進(jìn)的機(jī)器檢測(cè)手段也并非萬(wàn)無(wú)一失。
值得注意的是，即便圖像帶有可見(jiàn)水印，惡意使用者仍可通過(guò)簡(jiǎn)單的裁剪或圖像處理工具輕易將其去除或掩蓋，從而繞過(guò)視覺(jué)警示機(jī)制。這使得僅依賴水印的防護(hù)策略顯得尤為不足。
為何人類在識(shí)別人臉類 AI 圖像時(shí)更具優(yōu)勢(shì)？研究人員認(rèn)為，這可能源于人類天生對(duì)面部特征的高度敏感性，更容易察覺(jué) AI 生成人像中的細(xì)微異常，如不對(duì)稱的眼睛、不自然的皮膚紋理或光線錯(cuò)誤。有趣的是，研究還發(fā)現(xiàn)，早期的生成對(duì)抗網(wǎng)絡(luò)（GANs）和圖像修復(fù)（inpainting）技術(shù)反而更具欺騙性。這些技術(shù)生成的圖像往往呈現(xiàn)“業(yè)余攝影”風(fēng)格，而非 Midjourney 或 DALL-E 3 等主流模型常見(jiàn)的精致、高飽和度的“影棚風(fēng)”，因而更易被誤認(rèn)為真實(shí)拍攝。
其中，圖像修復(fù)技術(shù)尤其值得警惕 —— 其允許將真實(shí)照片中的局部區(qū)域替換為 AI 生成內(nèi)容。微軟指出，這種“局部偽造”手段極具隱蔽性，極難被普通用戶識(shí)別，為虛假信息和深度偽造（deepfake）攻擊提供了新的溫床，可能被用于制造誤導(dǎo)性新聞或政治宣傳。
這項(xiàng)研究再次敲響警鐘：面對(duì)日益逼真的 AI 生成內(nèi)容，人類的直覺(jué)判斷已不足以應(yīng)對(duì)。科技企業(yè)必須加快開(kāi)發(fā)更強(qiáng)大的檢測(cè)技術(shù)和內(nèi)容溯源機(jī)制，構(gòu)建多層次的防御體系，以遏制 AI 偽造內(nèi)容在社會(huì)層面的惡意傳播。
上一篇：馬斯克承認(rèn)有生之年難以實(shí)現(xiàn)星際旅行：99%精力應(yīng)放在地球
下一篇：沒(méi)有了