“AI換臉”人眼難辨 瑞萊智慧推出“深度偽造檢測(cè)平臺(tái)”長(zhǎng)期對(duì)抗?jié)撛陲L(fēng)險(xiǎn)

　　中新網(wǎng)上海新聞7月12日電（鄭瑩瑩）信息爆炸時(shí)代，“眼見(jiàn)未必為實(shí)”。人工智能技術(shù)在帶來(lái)新一輪發(fā)展機(jī)遇的同時(shí)，也存在諸如“AI換臉”之類的潛在安全隱患。

　　8日至10日在上海舉行的2021世界人工智能大會(huì)上，依托清華大學(xué)人工智能研究院設(shè)立的人工智能企業(yè)――北京瑞萊智慧科技有限公司（簡(jiǎn)稱“RealAI”或瑞萊智慧）推出“DeepReal深度偽造檢測(cè)平臺(tái)”，致力補(bǔ)漏洞、長(zhǎng)期對(duì)抗深度偽造技術(shù)帶來(lái)的潛在風(fēng)險(xiǎn)。

　　――“三大潛在風(fēng)險(xiǎn)”讓擁抱人工智能有難度

　　“深度學(xué)習(xí)模型本身是黑盒，或者通俗來(lái)說(shuō)，即便是開(kāi)發(fā)者也難以明白它具體是怎么運(yùn)作的，相應(yīng)地，它一定存在難以被發(fā)現(xiàn)的漏洞；我們關(guān)注的AI內(nèi)生安全就是希望去發(fā)現(xiàn)這些漏洞，并彌補(bǔ)這些漏洞。”瑞萊智慧副總裁唐家渝在受訪時(shí)說(shuō)。

　　他介紹，隨著人工智能的廣泛應(yīng)用，整個(gè)產(chǎn)業(yè)面臨的三大困境逐漸浮現(xiàn)，瑞萊智慧致力于解決這些困境。

　　第一是算法可靠問(wèn)題，深度學(xué)習(xí)算法缺乏可理解的決策邏輯和依據(jù)，無(wú)法量化不同決策的可靠程度，導(dǎo)致難以落地于醫(yī)療、自動(dòng)駕駛等高可靠性要求場(chǎng)景；同時(shí)，基于對(duì)抗樣本攻擊技術(shù)可以破解安防監(jiān)控、手機(jī)刷臉解鎖、人臉識(shí)別閘機(jī)等識(shí)別系統(tǒng)，實(shí)現(xiàn)身份偽裝或隱身逃逸，為個(gè)人財(cái)產(chǎn)安全與社會(huì)公共安全帶來(lái)全新挑戰(zhàn)。

　　第二是數(shù)據(jù)安全問(wèn)題，提升AI能力需要挖掘數(shù)據(jù)價(jià)值，但在特定AI應(yīng)用場(chǎng)景中，所需要用到的數(shù)據(jù)往往涉及個(gè)人隱私信息，簡(jiǎn)單明文數(shù)據(jù)傳輸和利用很可能導(dǎo)致隱私泄露；而有價(jià)值的數(shù)據(jù)分散形成數(shù)據(jù)孤島，在打破數(shù)據(jù)孤島的過(guò)程中，數(shù)據(jù)用途和用量難以控制，存在被濫用和復(fù)制的可能，同時(shí)數(shù)據(jù)權(quán)屬不明確，數(shù)據(jù)收益不清晰。

　　第三是應(yīng)用可控問(wèn)題，AI算法偏差導(dǎo)致不公平性風(fēng)險(xiǎn)，比如人臉識(shí)別算法存在種族歧視與性別歧視，AI信貸模型對(duì)特定地域人群的歧視等，缺乏有效衡量算法公平性的方法和工具；同時(shí)，AI技術(shù)的濫用引發(fā)道德倫理風(fēng)險(xiǎn)，比如深度偽造技術(shù)的濫用帶來(lái)的個(gè)人和社會(huì)風(fēng)險(xiǎn)問(wèn)題。

　　――人眼難辨  深度偽造需要依靠技術(shù)檢測(cè)

　　在應(yīng)用安全問(wèn)題方面，深度偽造技術(shù)的大規(guī)模濫用蘊(yùn)含著巨大的潛在危害，將人工智能的負(fù)面作用推向了社會(huì)輿論的風(fēng)口浪尖。

　　比如，在Tik Tok上受到關(guān)注度極高的湯姆?克魯斯的偽造視頻，肉眼來(lái)看已經(jīng)難以辨別是假的了。在人眼難辨的情況下，對(duì)于深度偽造的虛假內(nèi)容，需要依靠技術(shù)進(jìn)行檢測(cè)。

　　瑞萊智慧基于團(tuán)隊(duì)深厚的AI技術(shù)積累以及基于實(shí)戰(zhàn)需求對(duì)產(chǎn)品不斷迭代，正式推出業(yè)界真正可落地的深度偽造檢測(cè)平臺(tái)DeepReal。唐家渝介紹，該平臺(tái)擁有工業(yè)級(jí)的檢測(cè)性能，以及應(yīng)對(duì)實(shí)網(wǎng)環(huán)境對(duì)抗變化的檢測(cè)能力。平臺(tái)支持對(duì)視頻和圖片進(jìn)行批量檢測(cè)，全界面化操作。他介紹，在目前所開(kāi)源的所有學(xué)術(shù)數(shù)據(jù)集上，該平臺(tái)的檢測(cè)準(zhǔn)確率均超過(guò)99%，同時(shí)，在百萬(wàn)規(guī)模的實(shí)網(wǎng)深度偽造測(cè)試集上達(dá)世界頂尖水平。平臺(tái)對(duì)于單張圖像的檢測(cè)耗時(shí)不到30毫秒，支持橫向擴(kuò)展與集群部署，適用于大規(guī)模實(shí)網(wǎng)落地。針對(duì)互聯(lián)網(wǎng)環(huán)境中眾多的深度偽造類型，平臺(tái)也進(jìn)行了全面的覆蓋，包括針對(duì)真實(shí)人物的面部替換、表情操縱，以及完全合成的虛假人物等。

　　――長(zhǎng)期對(duì)抗 應(yīng)對(duì)“不斷進(jìn)化的”深度偽造

　　唐家渝介紹，依靠機(jī)器檢測(cè)的過(guò)程其實(shí)是一個(gè)長(zhǎng)期對(duì)抗的過(guò)程。這里的對(duì)抗性主要體現(xiàn)在兩個(gè)方面。

　　第一個(gè)方面是新的造假算法在不斷豐富，偽造圖像越發(fā)逼真。舉兩個(gè)典型的例子，最初的偽造視頻其實(shí)是有一些反常識(shí)的特征的，比如一段1分鐘的視頻中，人沒(méi)有眨一次眼睛，于是可以基于人體的生理特征去對(duì)人物的真假進(jìn)行判定。但造假者隨后就實(shí)現(xiàn)了在視頻中隨機(jī)生成眨眼動(dòng)作，很大程度上逃避了這種檢測(cè)方式。第二個(gè)例子，通常深度偽造視頻為了讓人物與背景有比較好的融合，會(huì)對(duì)邊緣進(jìn)行簡(jiǎn)單的高斯模糊處理，而當(dāng)檢測(cè)算法“捕捉”到這樣的特征后，偽造算法也會(huì)升級(jí)，對(duì)人臉邊緣做更精細(xì)化的處理。

　　第二個(gè)方面是可利用深度學(xué)習(xí)的缺陷繞過(guò)檢測(cè)算法。目前的檢測(cè)算法仍然是基于深度學(xué)習(xí)框架，存在結(jié)構(gòu)性缺陷。以典型的對(duì)抗樣本攻擊為例，通過(guò)在圖片或視頻上添加對(duì)抗樣本噪音，可以使偽造內(nèi)容躲避自動(dòng)檢測(cè)。

　　唐家渝表示，實(shí)網(wǎng)環(huán)境中的偽造視頻不斷變化，需要有強(qiáng)對(duì)抗的手段加以遏制。為此，瑞萊智慧推出的檢測(cè)平臺(tái)主要從兩方面進(jìn)行了應(yīng)對(duì)：一為了能夠快速即時(shí)應(yīng)對(duì)新型的深度偽造類型，利用了貝葉斯深度學(xué)習(xí)，另外加上小樣本增量學(xué)習(xí)的方法，使得在初期見(jiàn)到少量新型偽造數(shù)據(jù)時(shí)，便能迅速學(xué)習(xí)到偽造特征從而進(jìn)行有效檢出。二在對(duì)抗環(huán)境中使用對(duì)抗學(xué)習(xí)技術(shù)，提升算法魯棒性，有效應(yīng)對(duì)惡意攻擊。

　　除了上述有代表性的兩個(gè)方面外，瑞萊智慧也進(jìn)行了全面的技術(shù)布局。比如實(shí)戰(zhàn)環(huán)境中有音視頻數(shù)據(jù)，所以會(huì)利用多模態(tài)分析算法綜合分析；利用貝葉斯深度學(xué)習(xí)，將偽造視頻的先驗(yàn)知識(shí)進(jìn)行融合，輸出更加準(zhǔn)確的置信度，增加對(duì)預(yù)測(cè)結(jié)果確定性的預(yù)判，再結(jié)合具有可解釋性的數(shù)據(jù)集標(biāo)注和構(gòu)建，保證檢測(cè)結(jié)果可信服。除此，瑞萊智慧也布局了溯源技術(shù)，進(jìn)一步提升檢測(cè)結(jié)果的可解釋性與可靠性。

　　唐家渝說(shuō)，“針對(duì)深度偽造的風(fēng)險(xiǎn)，一定是需要從監(jiān)管到研究再到落地實(shí)戰(zhàn)進(jìn)行全方位的治理，技術(shù)防范是其中的基礎(chǔ)。”因此，目前瑞萊智慧也已經(jīng)與工信部、公安部等監(jiān)管部門、科研機(jī)構(gòu)、實(shí)戰(zhàn)部門等進(jìn)行合作，共建深度偽造治理生態(tài)。（完）

注：請(qǐng)?jiān)谵D(zhuǎn)載文章內(nèi)容時(shí)務(wù)必注明出處！   

編輯：鄭瑩瑩