聯(lián)想集團(tuán)在最新宣傳片《用AI守護(hù)AI》中,推出AI 防詐技術(shù)-“Deepfake深度偽造技術(shù)檢測(cè)器”。
眼見不一定為實(shí)。
當(dāng)前,AI換臉詐騙作為一種新興的、極具隱蔽性和危害性的手段,正逐漸成為網(wǎng)絡(luò)安全領(lǐng)域的一大挑戰(zhàn)。
AI換臉本質(zhì)上是生成式AI的一種創(chuàng)新應(yīng)用,它借助深度學(xué)習(xí)技術(shù),能夠生成高度逼真的虛假視頻或圖像。
在眾多AI換臉技術(shù)中,Deepfake(深度偽造)是發(fā)展最為成熟的代表項(xiàng)目之一。Deepfake由Deep learning(深度學(xué)習(xí))和Fake(偽造)組合而成,精準(zhǔn)地概括了這項(xiàng)技術(shù)的本質(zhì)特征。而隨著AI技術(shù)的迅速演進(jìn),有關(guān)DeepFake的討論也愈演愈烈。
聯(lián)想的“Deepfake深度偽造技術(shù)檢測(cè)器”基于DeepSeek開源大模型構(gòu)建,可部署在AI PC本地運(yùn)行,強(qiáng)化AI PC個(gè)人數(shù)據(jù)和隱私安全保護(hù)。
同時(shí),聯(lián)想也在宣傳片中展示了該技術(shù)的更多細(xì)節(jié),其能夠在5秒內(nèi)精準(zhǔn)識(shí)別各種Deepfake換臉偽造,檢測(cè)精準(zhǔn)率高達(dá)96%,遏制AI欺詐行為。
在技術(shù)原理上,該檢測(cè)器運(yùn)用深度學(xué)習(xí)算法,對(duì)圖像和視頻中的細(xì)微特征進(jìn)行深入分析;通過構(gòu)建神經(jīng)網(wǎng)絡(luò)模型,該檢測(cè)器能夠?qū)W習(xí)到真實(shí)人臉和Deepfake偽造人臉之間的微妙差異,從而準(zhǔn)確判斷出視頻或圖像是否經(jīng)過AI換臉處理。
在功能實(shí)現(xiàn)方面,該檢測(cè)器能在在線會(huì)議場(chǎng)景中實(shí)時(shí)對(duì)參會(huì)人員進(jìn)行AI偽造檢測(cè);在社交媒體瀏覽過程中,該技術(shù)可以自動(dòng)對(duì)視頻內(nèi)容進(jìn)行掃描,標(biāo)記出疑似 AI換臉的視頻;當(dāng)用戶使用AI PC時(shí),系統(tǒng)能夠?qū)崟r(shí)感知AI換臉安全風(fēng)險(xiǎn),并及時(shí)向用戶發(fā)出預(yù)警。
目前,該檢測(cè)器可在筆記本電腦、臺(tái)式機(jī)、平板電腦和手機(jī)等多種設(shè)備中運(yùn)行。
而為規(guī)范應(yīng)用人臉識(shí)別技術(shù)處理人臉信息活動(dòng)、保護(hù)個(gè)人信息權(quán)益,近期國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部聯(lián)合公布《人臉識(shí)別技術(shù)應(yīng)用安全管理辦法》,對(duì)應(yīng)用人臉識(shí)別技術(shù)處理人臉信息的基本要求和處理規(guī)則、人臉識(shí)別技術(shù)應(yīng)用安全規(guī)范、監(jiān)督管理職責(zé)等作出了規(guī)定,辦法將于2025年6月1日起施行。
截至目前,四川省反詐中心、騰訊云、奇安信等政府機(jī)構(gòu)、云計(jì)算服務(wù)及網(wǎng)絡(luò)安全廠商已經(jīng)加入聯(lián)想的AI反詐倡議。
反詐行動(dòng)的是場(chǎng)攻防拉鋸戰(zhàn),聯(lián)想集團(tuán)也表示:想贏,就不能單打獨(dú)斗,聯(lián)想期待與更多技術(shù)合作伙伴一起,給數(shù)字世界筑起安全防線。