雖然俄羅斯的虛假信息似乎影響有限，但這個(gè)令人震驚的例子說(shuō)明了深度造假的潛在后果。

然而，深度偽造已成功用于輔助技術(shù)。例如，患有帕金森病的人可以使用語(yǔ)音克隆進(jìn)行交流。

深度偽造用于教育：總部位于愛(ài)爾蘭的語(yǔ)音合成公司CereProc為約翰·F·肯尼迪創(chuàng)造了一種合成語(yǔ)音，讓他起死回生，發(fā)表他的歷史演講。

然而，每一枚硬幣都有兩個(gè)面。深度偽造可以是超逼真的，并且基本上無(wú)法被人眼察覺(jué)。

因此，相同的語(yǔ)音克隆技術(shù)可用于網(wǎng)絡(luò)釣魚(yú)、誹謗和勒索。當(dāng)故意使用深度偽造來(lái)重塑輿論、煽動(dòng)社會(huì)沖突和操縱選舉時(shí)，它們有可能破壞民主。

華盛頓大學(xué)的研究人員制作了一個(gè)深度偽造的奧巴馬。

造成混亂

深度偽造基于一種稱(chēng)為生成對(duì)抗網(wǎng)絡(luò)的技術(shù)，其中兩種算法相互訓(xùn)練以生成圖像。

雖然深度造假背后的技術(shù)聽(tīng)起來(lái)很復(fù)雜，但制作一個(gè)卻是一件簡(jiǎn)單的事情。有許多在線應(yīng)用程序，例如Faceswap和ZAO Deepswap，可以在幾分鐘內(nèi)產(chǎn)生深度偽造。

Google Colaboratory:一個(gè)以多種編程語(yǔ)言提供代碼的在線存儲(chǔ)庫(kù)-包括可用于生成假圖像和視頻的代碼示例。使用這種易于訪問(wèn)的軟件，很容易看出普通用戶(hù)如何在沒(méi)有意識(shí)到潛在安全風(fēng)險(xiǎn)的情況下對(duì)深度偽造深度偽造造成嚴(yán)重破壞。

換臉應(yīng)用程序和Deep Nostalgia等在線服務(wù)的流行表明，普通大眾可以迅速?gòu)V泛地采用深度偽造深度偽造。2019年，檢測(cè)到大約15000個(gè)使用深度偽造的視頻。而且這個(gè)數(shù)字預(yù)計(jì)還會(huì)增加。

深度偽造是虛假宣傳活動(dòng)的完美工具，因?yàn)樗鼈儠?huì)產(chǎn)生可信的假新聞，需要時(shí)間來(lái)揭穿。與此同時(shí)，深度造假所造成的損害——尤其是那些影響人們聲譽(yù)的——往往是持久且不可逆轉(zhuǎn)的。

對(duì)于想要以最少的努力創(chuàng)建令人信服的深度偽造的人來(lái)說(shuō)，DeepSwap深度偽造是一個(gè)不錯(cuò)的選擇。—科技雜志深度偽造(@TechMGZN)深度偽造2022年5月4日

眼見(jiàn)為實(shí)?

深度造假最危險(xiǎn)的后果可能是它們?nèi)绾巫屪约涸谡芜\(yùn)動(dòng)中傳播虛假信息。

當(dāng)唐納德特朗普將任何令人不快的媒體報(bào)道稱(chēng)為“假新聞”時(shí)，我們就看到了這一點(diǎn)。通過(guò)指責(zé)他的批評(píng)者傳播假新聞，特朗普能夠利用錯(cuò)誤信息來(lái)捍衛(wèi)他的不法行為并作為宣傳工具。

特朗普的策略使他能夠在充滿(mǎn)不信任和虛假信息的環(huán)境中保持支持，聲稱(chēng)“真實(shí)事件和故事是假新聞或深度偽造”。

當(dāng)局和媒體的公信力正在被削弱，造成不信任的氣氛。隨著深度偽造的不斷增加，政客們可以輕松地否認(rèn)任何新出現(xiàn)的丑聞的罪責(zé)。如果有人否認(rèn)，如何確認(rèn)視頻中某人的身份?

然而，打擊虛假信息一直是民主國(guó)家面臨的挑戰(zhàn)，因?yàn)樗鼈冊(cè)噲D維護(hù)言論自由。通過(guò)讓人們驗(yàn)證信息，人與人工智能的伙伴關(guān)系可以幫助應(yīng)對(duì)日益上升的深度偽造風(fēng)險(xiǎn)。還可以考慮引入新的立法或適用現(xiàn)有法律，以懲罰偽造信息和冒充他人的深度造假者。

國(guó)際和國(guó)家政府、私營(yíng)公司和其他組織的多學(xué)科方法對(duì)于保護(hù)民主社會(huì)免受虛假信息的侵害都至關(guān)重要。

文章由麥吉爾大學(xué)信息研究系研究助理Sze-Fung Lee和麥吉爾大學(xué)網(wǎng)絡(luò)安全數(shù)據(jù)挖掘教授兼加拿大研究主席Benjamin CM Fung撰寫(xiě)