上海居住證積分：AI換臉人眼難辨 瑞萊智慧推出深度偽造檢測平臺長期對抗

　　7月12日電（鄭瑩瑩）信息爆炸時代，“眼見未必為實”。人工智能技術(shù)在帶來新一輪發(fā)展機遇的同時，也存在諸如“AI換臉”之類的潛在安全隱患。

　　8日至10日在上海舉行的2021世界人工智能大會上，依托清華大學人工智能研究院設(shè)立的人工智能企業(yè)――北京瑞萊智慧科技有限公司（簡稱“RealAI”或瑞萊智慧）推出“DeepReal深度偽造檢測平臺”，致力補漏洞、長期對抗深度偽造技術(shù)帶來的潛在風險。

　　――“三大潛在風險”讓擁抱人工智能有難度

　　“深度學習模型本身是黑盒，或者通俗來說，即便是開發(fā)者也難以明白它具體是怎么運作的，相應(yīng)地，它一定存在難以被發(fā)現(xiàn)的漏洞；我們關(guān)注的AI內(nèi)生安全就是希望去發(fā)現(xiàn)這些漏洞，并彌補這些漏洞。”瑞萊智慧副總裁唐家渝在受訪時說。

　　他介紹，隨著人工智能的廣泛應(yīng)用，整個產(chǎn)業(yè)面臨的三大困境逐漸浮現(xiàn)，瑞萊智慧致力于解決這些困境。

　　第一是算法可靠問題，深度學習算法缺乏可理解的決策邏輯和依據(jù)，無法量化不同決策的可靠程度，導致難以落地于醫(yī)療、自動駕駛等高可靠性要求場景；同時，基于對抗樣本攻擊技術(shù)可以破解安防監(jiān)控、手機刷臉解鎖、人臉識別閘機等識別系統(tǒng)，實現(xiàn)身份偽裝或隱身逃逸，為個人財產(chǎn)安全與社會公共安全帶來全新挑戰(zhàn)。

　　第二是數(shù)據(jù)安全問題，提升AI能力需要挖掘數(shù)據(jù)價值，但在特定AI應(yīng)用場景中，所需要用到的數(shù)據(jù)往往涉及個人隱私信息，簡單明文數(shù)據(jù)傳輸和利用很可能導致隱私泄露；而有價值的數(shù)據(jù)分散形成數(shù)據(jù)孤島，在打破數(shù)據(jù)孤島的過程中，數(shù)據(jù)用途和用量難以控制，存在被濫用和復制的可能，同時數(shù)據(jù)權(quán)屬不明確，數(shù)據(jù)收益不清晰。

　　第三是應(yīng)用可控問題，AI算法偏差導致不公平性風險，比如人臉識別算法存在種族歧視與性別歧視，AI信貸模型對特定地域人群的歧視等，缺乏有效衡量算法公平性的方法和工具；同時，AI技術(shù)的濫用引發(fā)道德倫理風險，比如深度偽造技術(shù)的濫用帶來的個人和社會風險問題。

　　――人眼難辨  深度偽造需要依靠技術(shù)檢測

　　在應(yīng)用安全問題方面，深度偽造技術(shù)的大規(guī)模濫用蘊含著巨大的潛在危害，將人工智能的負面作用推向了社會輿論的風口浪尖。

　　比如，在Tik Tok上受到關(guān)注度極高的湯姆?克魯斯的偽造視頻，肉眼來看已經(jīng)難以辨別是假的了。在人眼難辨的情況下，對于深度偽造的虛假內(nèi)容，需要依靠技術(shù)進行檢測。

　　瑞萊智慧基于團隊深厚的AI技術(shù)積累以及基于實戰(zhàn)需求對產(chǎn)品不斷迭代，正式推出業(yè)界真正可落地的深度偽造檢測平臺DeepReal。唐家渝介紹，該平臺擁有工業(yè)級的檢測性能，以及應(yīng)對實網(wǎng)環(huán)境對抗變化的檢測能力。平臺支持對視頻和圖片進行批量檢測，全界面化操作。他介紹，在目前所開源的所有學術(shù)數(shù)據(jù)集上，該平臺的檢測準確率均超過99%，同時，在百萬規(guī)模的實網(wǎng)深度偽造測試集上達世界頂尖水平。平臺對于單張圖像的檢測耗時不到30毫秒，支持橫向擴展與集群部署，適用于大規(guī)模實網(wǎng)落地。針對互聯(lián)網(wǎng)環(huán)境中眾多的深度偽造類型，平臺也進行了全面的覆蓋，包括針對真實人物的面部替換、表情操縱，以及完全合成的虛假人物等。

　　――長期對抗 應(yīng)對“不斷進化的”深度偽造

　　唐家渝介紹，依靠機器檢測的過程其實是一個長期對抗的過程。這里的對抗性主要體現(xiàn)在兩個方面。

　　第一個方面是新的造假算法在不斷豐富，偽造圖像越發(fā)逼真。舉兩個典型的例子，最初的偽造視頻其實是有一些反常識的特征的，比如一段1分鐘的視頻中，人沒有眨一次眼睛，于是可以基于人體的生理特征去對人物的真假進行判定。但造假者隨后就實現(xiàn)了在視頻中隨機生成眨眼動作，很大程度上逃避了這種檢測方式。第二個例子，通常深度偽造視頻為了讓人物與背景有比較好的融合，會對邊緣進行簡單的高斯模糊處理，而當檢測算法“捕捉”到這樣的特征后，偽造算法也會升級，對人臉邊緣做更精細化的處理。

　　第二個方面是可利用深度學習的缺陷繞過檢測算法。目前的檢測算法仍然是基于深度學習框架，存在結(jié)構(gòu)性缺陷。以典型的對抗樣本攻擊為例，通過在圖片或視頻上添加對抗樣本噪音，可以使偽造內(nèi)容躲避自動檢測。

　　唐家渝表示，實網(wǎng)環(huán)境中的偽造視頻不斷變化，需要有強對抗的手段加以遏制。為此，瑞萊智慧推出的檢測平臺主要從兩方面進行了應(yīng)對：一為了能夠快速即時應(yīng)對新型的深度偽造類型，利用了貝葉斯深度學習，另外加上小樣本增量學習的方法，使得在初期見到少量新型偽造數(shù)據(jù)時，便能迅速學習到偽造特征從而進行有效檢出。二在對抗環(huán)境中使用對抗學習技術(shù)，提升算法魯棒性，有效應(yīng)對惡意攻擊。

　　除了上述有代表性的兩個方面外，瑞萊智慧也進行了全面的技術(shù)布局。比如實戰(zhàn)環(huán)境中有音視頻數(shù)據(jù)，所以會利用多模態(tài)分析算法綜合分析；利用貝葉斯深度學習，將偽造視頻的先驗知識進行融合，輸出更加準確的置信度，增加對預測結(jié)果確定性的預判，再結(jié)合具有可解釋性的數(shù)據(jù)集標注和構(gòu)建，保證檢測結(jié)果可信服。除此，瑞萊智慧也布局了溯源技術(shù)，進一步提升檢測結(jié)果的可解釋性與可靠性。

　　唐家渝說，“針對深度偽造的風險，一定是需要從監(jiān)管到研究再到落地實戰(zhàn)進行全方位的治理，技術(shù)防范是其中的基礎(chǔ)。”因此，目前瑞萊智慧也已經(jīng)與工信部、公安部等監(jiān)管部門、科研機構(gòu)、實戰(zhàn)部門等進行合作，共建深度偽造治理生態(tài)。（完）

中新網(wǎng)上海新聞   

編輯：鄭瑩瑩