因美國大選，Deepfake再一次引發關注。
Deepfake的深度造假能力自不必多說，支持換臉、換頭、對口型，逼真程度已經達到肉眼無法察覺的地步。由於該技術被廣泛用於製造虛假色情影片，學術界、企業界開始聯合發力研發Deepfake檢測工具。
近日，微軟推出了兩項最新Deepfake檢測技術，不過，其目的是保護美國大選免受虛假資訊威脅。
Deepfake偽造政治言論
近幾年，有關政界的虛假資訊已經充斥於社交網路。
據普林斯頓大學教授Jacob Shapiro最新研究結果顯示，2013年至2019年期間，社群媒體已累計發起96次政治運動，其行為多為詆毀政客、誤導公眾、激化辯論等。
在涉及的30多個國家中，美國佔據了26%，其他國家包括亞美尼亞、澳洲、巴西、加拿大、法國、德國、荷蘭、波蘭、沙烏地阿拉伯、南非、台灣、烏克蘭、英國和葉門等。
重要的是，在這些運動中，93%為原創內容，86%放大了已有內容，74%歪曲了客觀事實。報告還顯示，關於COVID-19大流行的虛假資訊，已經導致大量人們死亡和感染。
而Deepfake的出現和發展，再次為製造虛假資訊提供了更便捷的途徑。在Youtube上，有關Donald Trump、Barack Hussein Obama、Elon Musk等名人政客的虛假換臉影片已屢見不鮮。
如圖中，川普的臉部被無縫轉換到一名演員（Alec Baldwin）身上，發表著與本人不相關的言論。
這些影片雖為網友惡搞，但美國大選在即，難免有人利用這項技術擾動政局。而Deepfake的深度造假能力，以及對政界可能產生的影響力，也早有先例：
2018年，加彭（非洲中西部國家）總統Ali Bongo因病消失數月，為了打消外界圖謀不軌的猜測，政府發表了一段Ali Bongo錄製的新年致詞影片，而這則由Deepfakes技術合成的影片，差點引發軍方兵變。
2019年，一段關於馬來西亞經濟部長Azmin Ali，與男性發生性關係的影片在網路上瘋傳。（同性性關係在馬來西亞屬違法行為）。雖然Azmin Ali聲稱，這段影片是通過Deepfakes技術偽造的，是政治陰謀，但國際專家聲稱找不到偽造跡象。
CNAS技術與國家安全項目主任Paul Scharre，曾發出警告稱，
Deepfakes具有極大的破壞性，利用它來操控選舉只是時間問題。
另外，今年美國因新冠肺炎疫情肆虐，美國大選期間所有活動幾乎都在線上進行，而這無疑為偽造政客虛假言論提供了機會。
不過，微軟近日宣稱其最新研發的Deepfake檢測工具，可以有效幫助用戶辨識虛假資訊，目前已經與多家媒體達成合作，用以保護美國大選期間免受假訊息帶來的威脅。
捍衛民主，微軟推出Deepfake檢測工具
Deepfake檢測，是微軟「保護民主」計劃中的一項。這項計劃於2018年開始啓動，截止目前已陸續推出了Election Guard、Account Guard，Microsoft 365 for Campaigns和Election等多項技術，並廣泛用於政治活動中。
除了以上技術外，他們針對Deepfake可能帶來的政治威脅，研發了兩項最新檢測技術。
其中的一項技術為：影片認證器（Video Authenticator）。Deepfake被廣泛用於圖像、音頻和影片造假，其中影片是一種常用且可信度更高的方式。影片認證器可以在影片播放的每個幀與原圖進行即時對比，並給出數據分析，它的工作原理是檢測人眼可能無法察覺到的深偽、細微褪色或灰度元素的混合邊界。
影片認證器已通過了DeepFake Detection Challenge數據集測試，該數據集是訓練和測試DeepFake檢測技術的領先模型。
值得一提的是，在今年的Deepfake挑戰賽上，參賽團隊基於該數據集在辨識虛假的準確性方面，最高達到了80%以上，黑盒測試準確率最高達到了65%。
但是由於該數據集的使用存在一定的限制，影片認證器的訓練，是通過創建Face Forensic ++數據集完成的。
目前這項技術已與AI基金會達成合作，AI基金會是一家位於舊金山的商業和非營利性企業，其使命是將AI的力量和保護帶給全世界的每個人。通過這種合作關係，影片認證器可供參與民主進程的組織（包括新聞媒體和政治運動）廣泛使用。
不過，影片認證器僅通過RD2020（Reality Defender 2020)可用，因為它將指導組織通過任何Deepfake檢測技術，固有的侷限性和道德考量。
除了對已有資訊的檢測，微軟推出的另一項技術，支持從訊息源頭杜絕偽造。微軟在部落格中寫道：「從長遠來看，我們必須尋求更有力的方法來維護和證明社群媒體資訊的真實性。 目前幾乎沒有任何工具可以幫助讀者確信，其在網上看到的消息來源可靠，且沒有被竄改。而今天我們宣布的這項技術，它既可以檢測被操縱的內容，又可以向人們保證所觀看的媒體是真實的。 」
具體來說，這項技術有兩個組成部分。 第一個是內置於Microsoft Azure中的一個工具，它使內容製作者能夠向內容片段添加數位哈希（Digital hashes，又稱數位散列）和證書（Certificates）。哈希和證書將內容作為元數據，存在於任何線上傳播的地方。
第二個是閱讀器，它可以作為瀏覽器擴展或其他形式存在，用於檢查證書並匹配哈希值，讓人們高度準確地知道內容是真實的，沒有被更改，並提供關於誰製作的詳細資訊。
這項技術是由微軟研究院、微軟Azure與捍衛民主計劃（Defending Democracy Program）合作開發，並且已經與包括英國廣播公司（BBC），加拿大廣播電台和《紐約時報》等多家媒體公司組成合作夥伴關係。
本文為雷鋒網授權刊登，原文標題為「Deepfake攪動政局？微軟推出最新檢測工具，助力美國大選免遭虛假信息威脅」