Deepfake利用生成對抗網(wǎng)絡(luò )(GAN)強大的圖像生成能力,可以將任意的現有圖像和視頻組合并疊加到源圖像和視頻上,它可以記錄一個(gè)人面部的細節。經(jīng)過(guò)多年的發(fā)展,Deepfake技術(shù)已經(jīng)可以進(jìn)行實(shí)時(shí)換臉,并且毫無(wú)違和感。
不過(guò),在視頻時(shí), Deepfakes 難以為面部動(dòng)態(tài)表情制作高置信度動(dòng)畫(huà),視頻中的要么就從不眨眼,或者眨眼過(guò)于頻繁或不自然。而且音頻與假人圖像也會(huì )配合的不夠自然。
所以這種視頻持續10秒就會(huì )讓人懷疑,面試全程時(shí)間會(huì )比較長(cháng),更加容易露出破綻。
科學(xué)技術(shù)的進(jìn)步和變革是一把雙刃劍。人工智能技術(shù)雖然為我們提供了海量的便利,但同時(shí)也可能帶來(lái)的安全、倫理、隱私等一系列問(wèn)題。人工智能發(fā)展的本質(zhì)是通過(guò)算法、算力和數據去解決完全信息和結構化環(huán)境下的確定性問(wèn)題。在這個(gè)數據支撐的時(shí)代,人工智能面臨諸多的安全風(fēng)險。
人工智能不可避免地會(huì )引入網(wǎng)絡(luò )連接,人工智能技術(shù)本身也能夠提升網(wǎng)絡(luò )攻擊的智能化水平,進(jìn)而進(jìn)行數據智能竊取和數據勒索攻擊或者自動(dòng)生成大量虛假威脅情報,對分析系統實(shí)施攻擊。