據(jù)國外媒體報道,你的臉正快速成為通往數(shù)字世界的鑰匙。計算機(jī)、手機(jī)甚至在線商店正開始使用你的臉作為密碼。但來自卡內(nèi)基梅隆大學(xué)的最新研究顯示,面部識別軟件遠(yuǎn)不安全。在上月末的一個安全大會上,研究人員展示其論文,顯示他們能夠誘騙AI臉部識別系統(tǒng)錯誤識別臉部——讓攝像頭前的人顯示成為另一個人,甚至使得系統(tǒng)認(rèn)不出他是人。憑借一副特制的眼鏡框,該團(tuán)隊迫使商用級臉部識別軟件誤認(rèn)人臉的成功率達(dá)到100%。研究人員在阿里巴巴用于支付寶人臉識別的軟件上也取得了同樣的成果。

人臉識別很強大?一副眼鏡就能讓它認(rèn)錯人

現(xiàn)代臉部識別軟件依賴于深度神經(jīng)網(wǎng)絡(luò)——一種從大量信息中學(xué)習(xí)模式的人工智能技術(shù)。在被呈現(xiàn)過數(shù)百萬張人臉之后,該類軟件就能習(xí)得臉部概念,懂得如何分辨不同的臉。

該類軟件在學(xué)習(xí)人臉的模樣時,它非常依靠于特定的細(xì)節(jié),如鼻子和眉毛的形狀?？▋?nèi)基梅隆大學(xué)打造的眼鏡并不只是覆蓋那些臉部細(xì)節(jié),還會印上被計算機(jī)認(rèn)為是人臉細(xì)節(jié)的圖案。

為了展開測試,研究人員開發(fā)了一個先進(jìn)的面部識別系統(tǒng)。在測試中,作為測試對象的一位白人男士戴著特制的眼鏡,在系統(tǒng)中被識別成演員米拉?喬沃維奇(Milla Jovovich)的概率高達(dá)87.57%。一位同樣佩戴特制眼鏡的亞洲女士被系統(tǒng)算法認(rèn)為是中東男士的概率也達(dá)到87.57%。其他臉部被“盜”的名人包括卡森?戴利(Carson Daly)、科林?鮑威爾(Colin Powell)和約翰?馬爾科維奇(John Malkovich)。對于這些人,研究人員分別使用了40張他們的照片來做出用于鑒別出他們的眼鏡。

該測試并非理論性的——卡內(nèi)基梅隆大學(xué)用光滑的照片紙打印出了那些眼鏡,在攝像頭之前戴上它們,以模擬進(jìn)入一座有臉部識別系統(tǒng)提供保護(hù)的建筑的場景。那些眼鏡的制造成本為每副0.22美元。當(dāng)研究人員用他們的眼鏡設(shè)計針對商用臉部識別系統(tǒng)Face 進(jìn)行測試時,他們能夠做出測試中能100%冒充別人的眼鏡。Face 目前的企業(yè)合作伙伴包括聯(lián)想和英特爾,且被阿里巴巴用于安全支付。然而,那種測試是以數(shù)字形式進(jìn)行的——研究人員是將眼鏡編輯到照片上,因此在現(xiàn)實生活中躲過系統(tǒng)的成功率可能會低一些。

卡內(nèi)基梅隆大學(xué)的研究是基于谷歌、OpenAI和賓夕法尼亞州大學(xué)之前的研究成果,后者發(fā)現(xiàn)深度神經(jīng)網(wǎng)絡(luò)受訓(xùn)練的方式存在系統(tǒng)性缺陷。通過利用那些缺陷,比如借助被稱作對抗樣本的有目的性的惡意數(shù)據(jù),就像卡內(nèi)基梅隆大學(xué)研究中打印在眼鏡上的圖像,研究人員能夠迫使AI作出它原本不會作的決策。

在實驗室中,這意味著一位40歲的白人女士研究人員被識別成約翰·馬爾科維奇,不過該研究的成果也有可能會被試圖侵入建筑或者從計算機(jī)竊取文件的人取得。