深度偽造視頻帶來的威脅日益加劇
作者:星期二, 九月 3, 20190

深度偽造 (Deepfake) 視頻帶來的威脅日益嚴重。它們主要是一種社會工程工具。這意味著它們將被人們利用,越來越多地用于網絡釣魚攻擊、BEC 攻擊、聲譽攻擊和公眾輿論攻擊(如干預選舉)中。所有這些領域現有的方法已經取得了成功;但深度偽造視頻的出現將把它們升級到一個不同的水平。

深度偽造是通過人工智能技術將一個人(比如目標公司的CFO)視頻中的頭像幾乎完美嫁接到另一個視頻中的人(比如假的演員)身上。目標的視頻圖像可以由靜止的照片構成,然后疊加到假的運動圖像上。深度偽造音頻也類似,是通過人工智能技術利用目標對象現有的錄音制作而成。因此,制作任何人說任何話的視頻都是有可能的。通過基于文本的 BEC 攻擊,有人在 2018 年成功竊取了 13 億美元的資金,而該公司 CEO 要求迅速將資金轉移到新 “供應商” 那里的視頻將更加引人注目。

有證據表明,這種形式的欺詐已經開始了。今年 7 月,賽門鐵克 (Symantec) 表示,他們已經發現了三起只播放音頻的深度欺詐案件。Axios 報道:每一起案件中,一家公司的 “首席執行官” 都會給一位高級財務官打電話,要求進行緊急轉賬……每家公司都有數百萬美元被盜,但涉及的公司名稱還沒有被透露。

ZeroFOX 首席研究工程師 Matt Price 在博客中寫道:

深度造假代表著真正的風險。虛假并購公告、道德越界、種族主義言論等行為造成的后果,可能會在還沒辨別出這些信息是否虛假之前就迅速爆發。一個事件可以瞬間損害一個公司的價值、品牌和商譽,或者破壞一個政治候選人的好名聲。

例如,2019年6月,Facebook 首席執行官 Mark Zuckerberg 在 Instagram 上發布了一段假視頻,視頻中他發表了一篇關于 Facebook 力量的演講,還說了一些他從未真正說過的話。

影響成本的不對稱加劇了這一問題。O’Reilly Media 首席數據科學家 Ben Lorica 表示:你不需要是一個民族國家,也不需要擁有深厚的資源來利用技術和工具生成虛假媒體,此外,很多平臺都有可以實現病毒式營銷的工具。因此,創建虛假內容不僅容易,而且傳播起來也容易得多。

Price補充道:使用云服務制作深度偽造視頻已經很便宜了,大概在 100 到 500 美元。你需要的絕大多數代碼都是開源的,打包工作做得相當好。

使這種情況變得更加嚴重的是,Lorica 補充道,數字取證之父 Hany Farid 指出:“做視頻合成工作的人數與檢測工作的人數比例是100比1”。

Price 和 ZeroFOX 是致力于深度偽造檢測的公司之一。該公司于 2019 年 8 月宣布在其安全平臺上增加了深度偽造檢測的業務。Price 解釋了目前在制作以假亂真的深度偽造視頻方面存在的技術難題,以及其檢測功能是如何尋找真偽線索的。

在進攻方面,創建一個高質量的深度偽造視頻,你必須做的一件關鍵事情就是為你的 AI 訓練獲取正確的數據集。所以,無論你想深度偽造誰,這都意味著你要確保能捕捉到正確的圖像。

人們說話時會眨眼,但是人們在網上發布的照片不會眨眼。為了解決這一問題,攻擊者需要目標眨眼的其他數據源。根據目標的公開程度,這可能很容易,也可能很困難。一般來說,要找到目標閉著眼睛的圖像,必須至少找到一個那個人的視頻,然后提取他們真正眨眼的幀。如果目標只有靜態的照片,他們就不太可能眨眼或閉上眼睛。因此,目標的資料越公開,就越容易制造深度偽造視頻。目標越注重隱私,難度就越大。

第二個難點是你需要確保照明條件和背景至少在某種程度上類似于目標視頻。如果照明條件不佳,或者背景場景沒有對齊,很容易讓人覺得最終的視頻是假的,因為視頻看起來就不對勁。

第三,他說道,當你將目標面部的特定區域疊加到假視頻時,需要進行縮放和旋轉。這一點加上疊加后的眨眼,是檢測的關鍵區域之一。拿張嘴來說,攻擊者需要旋轉和縮放嘴巴來適應視頻圖像。當偽造者執行縮放和旋轉等操作時,在圖像的像素中會留下一些證據,表明進行了旋轉。這就是防御者試圖檢測的東西。

但深度偽造是一種新的攻擊技術,就像網絡安全領域的其他所有技術一樣,它帶來了一種新的競賽。攻擊者落后一步。像 ZeroFOX 這樣的防御者,正在發展檢測能力對其做出響應。攻擊者將試圖擊敗這種檢測。我們也不知道未來深度偽造的發展方向。社會工程相關的各種應用的出現是顯而易見的。但其他衍生產品呢?Deepfake 技術是否最終能擊敗人臉識別驗證?

Price 表示,它正在朝那個方向發展。目前 Deepfake 技術不會通過任何生物識別標準,但隨著我們不斷前進,技術不斷改進,這可能會成為一個問題。

Lorica 表示,雖然還沒有看到任何工具或研究論文顯示 Deepfake 能夠做到繞過生物身份認證,但有很多組織機構正在研究和投資 Deepfake 技術。因此,我們會很自然地認為一些團隊已經開始研究這個問題了。情報和安全部門需要對這種可能性保持警惕,并有權要求提供資源。我們正處于一場軍備競賽中,而在深度偽造上投入的資源和人力數量遠遠超過了其同行在檢測上的投入。

可以肯定的是深度偽造帶來的威脅在可預見的未來依然存在,而在短期內還會愈演愈烈。

相關閱讀

 

毒數據:深度虛假Deepfake威脅網絡安全

Deepfake:一款與核武器同樣危險的軟件工具

 

 


相關文章

寫一條評論

 

 

0條評論