新智元推薦

本文由微信公眾號 「AI 前線」原創(chuàng),(ID:ai-front)

作者:Debra 編輯:Natalie

【新智元導(dǎo)讀】近日,二十多家機構(gòu)聯(lián)名向亞馬遜 CEO 貝索斯上書,抗議該公司將人臉識別技術(shù)出售給警方。人們之所以如此憤怒的原因在于,人臉識別技術(shù)在執(zhí)法部門的使用權(quán)限和用途并沒有明確的法律規(guī)定,毫不諷刺地說,執(zhí)法的警察本身就是在做一件無法可依的事。大數(shù)據(jù)時代,當(dāng)隱私保護成為一個比解開畢達哥拉斯定理更困難的事時,我們除了無奈郁悶罵幾聲之外,還能怎么做?

為人們所熟知的亞馬遜是那個自稱可以在這里“買到一切”的網(wǎng)上商城,但最近,人們了解到這家公司還有另外一些很少有人知道的商品——警方花錢從亞馬遜買進人臉識別技術(shù)Rekognition,可以實時從數(shù)百萬張人臉中識別出警方在尋找的人。

早在 2012 年,Rekognition 就由中國留學(xué)生王盟和劉天強創(chuàng)立的 Orbeus 公司開發(fā)推出,后來被亞馬遜收購,成立了日后的 Amazon Rekognition team?？赡苁且驗槊绹碾[私政策限制,這項技術(shù)并沒有被美國警察部門大規(guī)模使用。

事實上,亞馬遜并不是唯一一家提供類似“公共場所服務(wù)”的公司,位于馬薩諸塞州的MorphoTrust 就被曝光向 FBI 和其他執(zhí)法部門提供人臉識別技術(shù)。底特律也向 Data Works Plus購買類似的技術(shù),以在加油站錄像中識別暴力犯罪人員。但為什么亞馬遜會成為聲討的對象呢?因為亞馬遜是第一家向執(zhí)法部門提供人臉識別技術(shù)的大公司。

在 ACLU(美國公民自由協(xié)會,American Civil Liberties Union,現(xiàn)有會員超過50萬)曝光了這樁買賣之后,包括 ACLU 在內(nèi)的二十多家非盈利性組織即向亞馬遜 CEO 杰夫·貝索斯上書,要求他停止向警察銷售此系統(tǒng)。

這封信中說,該技術(shù)將不可避免被當(dāng)局濫用,并指控亞馬遜提供“強大的監(jiān)控系統(tǒng)會違反人權(quán),對社區(qū)形成巨大威脅,包括有色人種和移民。警方可能會利用其追蹤抗議者或其他被警方列為嫌疑人的目標(biāo),而不僅僅是罪犯”。

聯(lián)名信原文鏈接:

https://www.aclunc.org/docs/20180522_AR_Coalition_Letter.pdf

亞馬遜回應(yīng):并未向警方提供特殊服務(wù)

據(jù)《紐約時報》報道,這項技術(shù)上線一周后即顯神效,抓到了一個從商店偷盜 5000 美元的小偷,而且這個系統(tǒng)成本很低,花費 400 美元搭建之后每月只用花幾美元進行維護。

對于來勢洶洶的聲討,亞馬遜作出了略顯雞肋的回應(yīng):

亞馬遜所有的顧客都需要遵守法律規(guī)定并負(fù)責(zé)任。亞馬遜并沒有向執(zhí)法部門提供任何有區(qū)別于其他客戶的服務(wù)。

在一份聲明中,亞馬遜一位發(fā)言人強調(diào)該公司向大眾提供的這種“通用”的圖像識別技術(shù)可以自動識別人、物體和活動,機構(gòu)采用該技術(shù)尋找丟失兒童、識別婚宴來賓等。

亞馬遜官方還在此前上傳至 YouTube 的一則亞馬遜 Rekognition 總經(jīng)理講解這一服務(wù)的視頻評論區(qū)發(fā)出聲明,稱該 GM 的講解有誤,奧蘭多警方只是在進行該服務(wù)的內(nèi)部測試,并沒有在全城安裝攝像頭或使用該產(chǎn)品,并為此造成的誤解向公眾道歉。

沒有監(jiān)管的法外之地

執(zhí)法機關(guān)與人臉識別的“媾合”:你能想象執(zhí)法機關(guān)把你當(dāng)成潛在罪犯,每天早上出門上班開始你的臉就被瞄準(zhǔn)框鎖定,監(jiān)視你的一舉一動嗎?

這次的爭議引發(fā)了一個質(zhì)疑:警方使用人臉識別技術(shù)有什么法律規(guī)定進行監(jiān)管和約束嗎?我們得到的答案是:幾乎沒有。

在美國,聯(lián)邦和州政府通常被授予行使從公共攝像頭手機的人臉信息中搜索視頻和圖像的權(quán)利。城市和當(dāng)?shù)夭块T可以制定本地政策和指導(dǎo)方針,但是早期的人臉識別技術(shù)采用部門并沒有系統(tǒng)制定的規(guī)則。

ACLU 公布的文件顯示,亞馬遜和奧蘭多和佛羅里達合作,構(gòu)建了一個用八臺公共攝像頭捕捉警方“感興趣目標(biāo)”的系統(tǒng)。當(dāng)被問到該系統(tǒng)運行是否遵有法可依時,一位發(fā)言人稱,“由于這是個試點項目,目前還未制定相關(guān)政策”。

據(jù)公開的文件顯示,奧蘭多警察局長稱該系統(tǒng)使用之前曾經(jīng)過測試,證明該系統(tǒng)可以提高公眾安全,并提高執(zhí)法效率。但奧蘭多一位發(fā)言人稱,這只是早期的測試,他們并沒有數(shù)據(jù)證明該系統(tǒng)確實有效,并稱還未用于調(diào)查和從公共場合取像。

文件還顯示,警局工作人員中其實有人對將市民人臉圖像存放在亞馬遜云中的做法存疑,這一行為被視為“政府與大數(shù)據(jù)的媾合”。

“在美國的憲法中沒有提及大數(shù)據(jù),但也沒有對人臉識別提供庇護,”亞利桑那大學(xué)的法學(xué)教授 Jane Bambauer 說道?！爸莘赏瑯右矝]有關(guān)于警方使用人臉識別的規(guī)定?！?

對此,ACLU 科技與公民自由主任 Nicole Ozer 稱,目前只能寄希望于向亞馬遜、執(zhí)法部門和當(dāng)?shù)厣鐓^(qū)施壓,制定自己的規(guī)則?！俺雠_法律的速度太慢了,趕不上形勢的需求?！?

電子前線基金會的高級律師 Jennifer Lynch 稱,“這是一個科技走在法律之外的典型例子,根本沒有監(jiān)管存在?！?

也許有一天一位黑人朋友在大街上悠閑地嗦著冰淇淋,就被一群警察帶走了,然后他們發(fā)現(xiàn),搞錯了...

警方使用人臉識別技術(shù)另一個讓人擔(dān)憂的原因是,識別準(zhǔn)確率并沒有想象中高,并不是在所有執(zhí)法情境中都好用。據(jù) FBI 2017 年公布的資料顯示,該機構(gòu)使用算法從大數(shù)據(jù)中挑選的 50 多個最接近“嫌疑目標(biāo)”的識別率為 85%,去年英國南威爾士警方在一次足球比賽中的識別準(zhǔn)確率更慘,只有 8%。

在性別和種族識別上,這項技術(shù)也并不完美。麻省理工學(xué)院的一份調(diào)查顯示,黑皮膚的女性被人臉識別軟件錯誤識別的幾率高達 35%。

有人認(rèn)為,警方應(yīng)該公布人臉識別系統(tǒng)的具體數(shù)據(jù),包括在不同種族人身上識別的表現(xiàn),并認(rèn)為警方現(xiàn)在對人臉識別的無依據(jù)使用不會持續(xù)太久。

無處不在的監(jiān)控,真實的《楚門的世界》

想想著名的“魔鬼魚”事件吧。在美國,聯(lián)邦和州的執(zhí)法機構(gòu)使用一種俗稱為“魔鬼魚”的設(shè)備大量獲取用戶信息。這種強大的監(jiān)控工具通過模擬手機訊號侵入不知情的公民的手機,借此追蹤這些手機的地理位置,甚至截取手機用戶的通信內(nèi)容。

如此堂而皇之地竊取用戶信息,這個前車之鑒讓人不免擔(dān)心人臉識別技術(shù)避免不了被濫用的命運,在這種技術(shù)以合法的面目公然出現(xiàn)在大街小巷時,所有的人都將活在警察局的監(jiān)視器中,無處躲藏,儼然將上演真實版的《楚門的世界》。

人臉識別技術(shù)的忠實粉絲將之視為抓捕罪犯的強有力武器,但是不看好它的人卻嗅到了大規(guī)模監(jiān)控帶來的隱憂。據(jù)喬治敦大學(xué)法學(xué)院隱私和技術(shù)中心數(shù)據(jù)顯示,在美國,面部識別技術(shù)不僅將罪犯列為識別對象,超過1.3億美國成年人都在犯罪搜索數(shù)據(jù)庫中。

當(dāng)人臉識別與政府“媾合”時,無人可逃。

在美國,競賽場上會用人臉識別揪出賽事中鬧事的人,國安局用它來識別在機場逗留過久的外國游客。

商店里裝有識別顧客的智能攝像頭。

美國可能離國人有點遠,那近一點看看國內(nèi),其實人臉識別的普遍程度遠超我們的想象。

人臉識別中國式過馬路,可謂是聲名遠播四海。

靈隱寺、天壇試點刷臉取廁紙。

政府機構(gòu)在街道、地鐵站、機場、海關(guān)安裝智能人臉識別攝像頭。

不知道上面那位對著機器刷臉取廁紙的妹子當(dāng)時是什么心情,看起來好像對這個東西挺新奇的,也許是如廁事大,她并沒有選擇......

但新奇感過后,這件事卻讓人驚出一層冷汗:當(dāng)我們做其他的事情也被迫要交出自己的個人信息時,比如抬頭可見的監(jiān)控天網(wǎng)呢,你會選擇沉默嗎?還是會嘗試爭取一下自己的利益(雖然很難)?這并不是空穴來風(fēng)的焦慮,而是大數(shù)據(jù)時代日益嚴(yán)峻的隱私保護問題。

以上驚悚的事情不只發(fā)生在《楚門的世界》,現(xiàn)實生活中已經(jīng)在不斷上演,也許不久的將來,也許現(xiàn)在,你就正在被政府的無數(shù)雙“眼睛”盯著。是不是聽起來毛骨悚然?但這并不夸張。

國人的隱私觀和現(xiàn)狀

這還不是最讓人窒息的,因為作為國情特殊的大國,我國人民向來享受著來自政府部門的“特別關(guān)愛”,在隱私這一問題上也不例外,還曾無奈地“被認(rèn)為不重要”。

比如亞馬遜這次和執(zhí)法部門的合作有人覺得不合理就去抗議,雖然還不知道亞馬遜會采取什么具體應(yīng)對措施,會不會迫于壓力終止這次合作,但起碼這家巨頭迅速做出了回應(yīng),并向公眾道歉。換成在國內(nèi),或許連一點浪花都掀不動。

關(guān)于中國人對于隱私的看法,相信大多數(shù)人的觀點都是一樣的:隱私被侵犯了,生氣,但是除了生氣還能怎么辦?

以上是網(wǎng)友關(guān)于亞馬遜與警方合作的觀點,歸結(jié)下來大概分為兩大類:

• 感嘆國內(nèi)與國外隱私保護差距的
• 大數(shù)據(jù)時代沒有隱私可言,自由與安全不可兼得

這些評論雖然并不能概括出國人對于隱私的重視程度幾何,但多少能反映出人們普遍存在的心理。

總而言之,中國是目前人臉識別技術(shù)政府部門采用最廣泛的國家之一,將來會迎來更多關(guān)于隱私的問題和討論,憤怒沒有用,我們應(yīng)該做的,是如何在這種已然形成的大環(huán)境下盡量地保留最后的尊嚴(yán)。

(本文授權(quán)轉(zhuǎn)載自AI前線)

來源：AI前線