智東西（公眾號：zhidxcom）
文 | 李水青
導語：媒介環(huán)境的混亂將可能造成人類真實世界的混亂。除了隱私問題，AI視頻換臉引發(fā)的信息誤導問題同樣值得關注，甚至有過之而無不及。
智東西9月6日消息，臉書（Facebook）的首席技術官Mike Schroepfer發(fā)布博客宣布，臉書正和微軟聯(lián)合來自麻省理工、牛津等大學的研究者，通過置辦“Deepfakes鑒別挑戰(zhàn)賽”，探索如何通過數(shù)據(jù)集和基準測試檢測Deepfake換臉視頻。
Deepfakes技術可以利用GAN（生成式對抗網(wǎng)絡）將視頻中的人臉換掉，且十分逼真。近期國內大火的“ZAO”App被就疑似使用了該技術，用戶只需要在App中上傳一張照片，就能將自己的臉替換成視頻中“小李子”“周潤發(fā)”“白展堂”等人的臉，幾乎可以以假亂真。
當ZAO很快地火起來后，人們敏銳地察覺到視頻換臉中的隱私問題，而后“ZAO”換臉App被責令整改。但是，除了隱私問題，其中的信息誤導問題同樣值得關注，甚至有過之而無不及。
▲被AI換臉后的視頻
“Deepfake”技術能夠利用AI將視頻中的人臉逼真地換掉，這使它很容意被用于偽造信息、誤導輿論，甚至被不法人士拿來制作色情短片、實施金融詐騙等違法犯罪行為。然而，行業(yè)內還沒有很好的數(shù)據(jù)集或基準來檢測辨別它們。
現(xiàn)在，美國科技巨頭臉書打算對AI視頻換臉技術下手了，計劃出資1000多萬美元，從數(shù)據(jù)集、經費、獎金等多方面支持“Deepfake鑒別挑戰(zhàn)賽”，以尋找能夠準確鑒別AI生成視頻的工具。
一、扎克伯格也被換臉，聯(lián)合產學界搞鑒別研究
其實，早在2017年12月，國外某ID名為“Deepfakes”的Reddit論壇用戶首次將自己制作的AI換臉視頻發(fā)布在了網(wǎng)絡上，后來，Deepfakes將這項技術開源，并被大家命名為“Deepfakes”，立刻風靡全球。
“Deepfakes”技術背后的來源是一種名為GAN（生成式對抗網(wǎng)絡）的AI模型。在GAN中，G和D是兩種相互博弈的算法，一種生成圖像，另一種比較判定圖像與源圖像的差別。博弈的理想結果是G成為了能夠“以假亂真”的圖像生成模型。
AI換臉真正在國內火起來還要說今年初，B站UP主“換臉哥”將一段94版射雕英雄傳視頻中的朱茵的臉換成了楊冪。AI換臉技術已經蓬勃爆發(fā)，卻也被一再惡意使用，AI換臉黑產甚至已經在國內形成了完整的產業(yè)鏈。（參見智東西深度報道：AI換臉黑產：100元打包200部換臉情色片，5張照片就可定制視頻）
▲朱茵的臉被換成了楊冪
今年6月，臉書首席執(zhí)行官馬克?扎克伯格的一段被篡改過的視頻被廣泛傳播，之后，扎克伯格向觀眾講述了臉書正在考慮制定應對Deepfakes的政策。
今天，臉書宣布將在數(shù)據(jù)集和基準測試層面促進更多的研究，以開發(fā)出更好的開源工具來檢測Deepfake。臉書將聯(lián)合微軟、麻省理工大學等業(yè)界和學界的伙伴共同置辦“Deepfake檢測挑戰(zhàn)賽”（DFDC）。
▲扎克伯格視頻被篡改
二、大賽目標：研發(fā)通用的AI換臉視頻檢測工具
數(shù)據(jù)集和基準測試已成為加速AI發(fā)展的相當有效的工具。目前深度學習技術的復興一定程度上得益于ImageNet基準；GLUE和SuperGLUE基準加速了自然語言處理的最新進展。
據(jù)稱，“Deepfake鑒別挑戰(zhàn)賽”的目標是，找到一款能檢測視頻是否被換過臉的工具，并且它能被每個人便捷操作。
大賽旨在促使行業(yè)創(chuàng)建新的檢測方法，以防止AI生成的視聽內容誤導大眾，比如，在2020年大選之前找到更多的偽造視頻，以免媒體誤導選民。
“這是一場貓鼠游戲，如果我設計一個Deepfakes檢測器，我就直接給了這些黑客一個新的模擬器進行反測試?！奔~約大學Tendon學院計算機工程助理教授Siddharth Garg表示。
三、將為參賽者提供數(shù)據(jù)集和經費，請第三方監(jiān)督
在“Deepfake鑒別挑戰(zhàn)賽”中，會務組會為參賽者提供一個數(shù)據(jù)集和經費，還會用排行榜展示參賽者的成績，并設獎金獎勵。人工智能和媒體誠信新指導委員會（Partnership on AI’s new Steering Committee on AI and Media Integrity）將對挑戰(zhàn)賽進行全程監(jiān)督和管理。
為此，臉書正在調試一個現(xiàn)實的數(shù)據(jù)集，該數(shù)據(jù)集來自臉書付費找來的參與者。參賽者可以免費使用大量數(shù)據(jù)，幾乎沒有使用限制。臉書強調，此數(shù)據(jù)集中不會使用臉書的用戶數(shù)據(jù)。
同時，臉書還會資助研究經費和獎項獎金，以鼓勵更多人參與。據(jù)稱，臉書會為此投入1000多萬美元。
據(jù)了解，相關數(shù)據(jù)集和挑戰(zhàn)參數(shù)將在今年10月的國際計算機視覺會議上，以供專門的技術工作委員會測試，進而確保其質量。完整的數(shù)據(jù)集和DFDC將于今年12月召開的神經信息處理系統(tǒng)會議（NeurIPS）上發(fā)布。
結語：防止AI視頻換臉濫用，還需用技術反制
近日，我國企業(yè)公開發(fā)布的“ZAO”換臉App被相關部門責令整改，這體現(xiàn)了監(jiān)管對Deepfakes等AI換臉技術的約束作用。但是在暗處，Deepfakes作為被開源的技術，仍然可能被拿來濫用，利用技術進行反制就顯得格外重要。
當Deepfakes被用于偽造信息，甚至被不法人士拿來制作色情短片、實施金融詐騙等違法犯罪行為時，我們如果能通過基準數(shù)據(jù)等工具進行檢測辨別，可以大大的降低損失。另外，除了算法技術，區(qū)塊鏈等技術未來也可能被用于鑒別偽造的視頻。
視頻、報道等媒介內容營造的媒介環(huán)境極大地影響著人們的主觀世界，并通過對人們主觀世界的作用影響客觀環(huán)境。如果任由虛假的視頻信息蔓延在網(wǎng)絡世界，這種媒介環(huán)境的混亂將可能造成人類真實世界的混亂。
“我們必須更好地區(qū)分真實與虛假，獎勵可信內容而不是不受信任的內容。這需要產業(yè)、大學、非政府組織等共同合作，以開發(fā)出能夠快速準確地鑒別真實內容的技術?！奔又荽髮W伯克利分校的Hany Farid教授評價“Deepfake鑒別挑戰(zhàn)賽”說。
