隨著人工智能(AI)技術持續(xù)進步,圖像辨識系統(tǒng)已經廣泛的在生活中存在,一些設備也開始運用了臉部辨識技術來進行身份認證,但這項技術的安全性真的是無懈可擊嗎?

正如同先前迷幻貼紙、棉花田演唱會圖片的研究,研究人員正試圖透過測試任何潛在的黑客手段,讓圖像辨識技術能夠更加安全,而來自中美兩國研究團隊近日則在 arXiv 平臺上公布了一篇論文,詳細介紹了他們發(fā)現(xiàn)如何欺騙“臉部辨識”應用的細節(jié)。

▲ 帽子中放置的紅外線 LED。(Source:Zhe Zhou)

其實團隊的概念非常簡單,要欺騙臉部辨識應用,最直接的就是為受辨識者“替換”一張臉。為了達成這一點,團隊先是運用深度神經網絡解讀一些人物臉部圖像,再透過棒球帽中連接的微型紅外線 LED,將解讀過的人臉圖像運用無數(shù)個紅外線光點投射到受辨識者臉上,進而達成掩蓋身份的效果。

而當然,由于投射的是其他人的臉孔,只要概念成功,在以臉部辨識系統(tǒng)做為身份認證的前提下,讓受辨識者冒充他人身份也是可以做到的。

為了檢驗這項理論,研究團隊選擇了 4 張隨機照片嘗試欺騙臉部辨識軟件,其中也包含了美國音樂人魔比(Moby)的照片。研究人員在實驗中發(fā)現(xiàn),只要受辨識者與投射臉孔來源長相有些微的相似,這個欺騙臉部辨識系統(tǒng)的成功率約可達到 70%。

▲ 下方第一列數(shù)字指的是受辨識者與投射臉孔來源對象的距離,第二列則是理論上應用后的差距,第三列則是實際差距

由于紅外線(Infrared)是一種非可見光,人們單憑肉眼并無法察覺,同時貼在帽沿內側的 LED 體積也非常小,甚至也可以藏在其他穿戴物中使用,即使有著人類保全也很難察覺系統(tǒng)被欺騙的情況,這讓被利用的可能性又更加提升。

當然必須提及的是,這只是一個小型研究還未經過同行評審,因此可能存在一些爭議,但基于這些研究結果和測試,團隊認為以身份認證或監(jiān)控關鍵場景的需求來說,現(xiàn)今的臉部辨識技術距離安全可靠還有很長一段距離。

“相關研究者應該更加關注紅外線的威脅性?！?

來源：Technews科技新報