亞馬遜積極向美國警方推銷自己的人臉識別產(chǎn)品, 引發(fā)了美國社會大規(guī)?？棺h。亞馬遜員工也給CEO貝佐斯寫公開信:請停止武器化我們的技術(shù)!

《黑鏡》中政府使用交通攝像頭就能識別你的面部特征并且跟蹤你這個人的情形可能不太遠了。

亞馬遜有一款名為Amazon Rekognition的產(chǎn)品,這將你最糟糕的噩夢。

這款產(chǎn)品可以實時識別,跟蹤和分析人員,并在單幅圖像中識別多達100個人。它還可以快速掃描收集的信息,與數(shù)據(jù)庫數(shù)千萬張面孔進行比對。

亞馬遜正在為政府和警察部門推銷Rekognition——根據(jù)亞馬遜的市場推廣資料,Rekognition可以監(jiān)控“團體照片、擁擠人群以及機場等公共場所中的所有面孔”。除了其他功能之外,材料中還將“人員跟蹤”描述為一種調(diào)查和監(jiān)控人“簡單而準確”的方式。

消息公布后引發(fā)了美國民眾極其強烈的反響。美國公民自由聯(lián)盟(ACLU)最近領(lǐng)導30多個民權(quán)組織聯(lián)合舉行抗議活動,反對美國政府使用人臉識別技術(shù),要求亞馬遜CEO貝索斯停止向政府出售Rekognition。

他們的主張是:“公民應(yīng)該可以自由地走在街上而不被政府監(jiān)視?！倍四樧R別技術(shù)威脅到了這一點。

雖然亞馬遜并不是唯一與警方合作的技術(shù)公司,但亞馬遜的規(guī)模、影響力和能力讓人覺得Amazon Rekognition將有很大可能被廣泛采用。

ACLU在聲明中表示,“通過Rekognition,政府現(xiàn)在可以構(gòu)建一個自動識別和跟蹤任何人的系統(tǒng)。如果警察配備的隨身攝像頭配備了人臉識別裝置,那么原本用于執(zhí)法透明和問責制的裝置將轉(zhuǎn)變?yōu)獒槍姷谋O(jiān)視器。

通過這項技術(shù),警察將能夠確定誰參加了抗議活動。 ICE(美國移民海關(guān)執(zhí)法Immigration and Customs Enforcement)可以在移民開始新生活后持續(xù)監(jiān)控這些移民。無論是否有理由懷疑犯罪活動,政府都可以定期追蹤自己的居民?！?

即使在擁擠的場所,亞馬遜Rekognition也能檢索和識別出多達100張臉孔

內(nèi)部員工的公開信:請停止武器化我們的技術(shù)!

在美國,目前無證移民的數(shù)量和由于種族貌相而遭到非法監(jiān)禁的受害人越來越多,包括《紐約時報》、《大西洋月刊》在內(nèi)的眾多媒體都發(fā)文質(zhì)問:是否該采用這項技術(shù)?更進一步來說,這項技術(shù)真的必要嗎?

今年6月,在一片抗議聲中,奧蘭多警察局放棄了對亞馬遜Rekognition人臉識別試點項目的計劃。

人臉識別公司Kairos的首席執(zhí)行官Brian Brakeen更是公開表示,他的公司不會將這項技術(shù)出售給政府。

Brakeen寫道:“在政府監(jiān)督計劃和執(zhí)法機構(gòu)的手中,根本無法確保人臉識別軟件不會用于傷害公民。”

抗議并非全都來自外部。亞馬遜內(nèi)部員工也站起來表示抗議,他們加入股東,民權(quán)團體和有關(guān)消費者的行列,將亞馬遜的面部監(jiān)控技術(shù)稱為:對公民權(quán)利,特別是對移民和人民的獨特威脅。

這種強烈的反對在內(nèi)部逐漸蔓延開來。

今年6月,亞馬遜內(nèi)部的100多名員工,包括高級工程師,給自己的老板、亞馬遜CEO杰夫·貝索斯(Jeff Bezos)寫了一封公開信,要求公司停止向ICE和其他執(zhí)法機構(gòu)出售侵入性和違憲的Rekognition面部識別技術(shù)。

他們在信中說道:“我們公司不應(yīng)該從事監(jiān)控業(yè)務(wù); 我們不應(yīng)該從事警務(wù)業(yè)務(wù); 我們不應(yīng)該支持那些監(jiān)督和壓迫邊緣人群的人?！?

亞馬遜CEO杰夫·貝索斯

加利福尼亞州ACLU技術(shù)和公民自由主任尼科爾·奧澤爾說:“我們支持這些員工呼吁貝索斯先生做正確的事,亞馬遜必須停止向政府提供危險的面部監(jiān)視?！?

除了要求停止出售Rekognition之外,亞馬遜員工在信中還呼吁公司停止對數(shù)據(jù)分析公司Palantir提供支持。

Palantir是Peter Thiel于2003年創(chuàng)立的大數(shù)據(jù)公司,為執(zhí)法部門提供預測性警務(wù)工具,并通過亞馬遜網(wǎng)絡(luò)服務(wù)公司與ICE簽訂了大量合同(Thiel曾秘密資助了一起導致Gizmodo的前母公司Gizker Media破產(chǎn)的訴訟)。

亞馬遜態(tài)度并未妥協(xié)

盡管面對內(nèi)部與外部的雙重抗議,但是亞馬遜回應(yīng)態(tài)度依然是捍衛(wèi)Rekognition的。他們聲明:不能因為技術(shù)可能會被濫用就限制其進步。

聲明中說:“如果我們?nèi)【喰录夹g(shù),我們的生活質(zhì)量會更糟,因為有些人會選擇濫用這項技術(shù)?！?

“想象一下,如果客戶無法購買計算機,因為有可能將該計算機用于非法目的嗎?亞馬遜要求客戶遵守法律并在使用AWS服務(wù)時負責。當我們發(fā)現(xiàn)AWS服務(wù)正在使用時被客戶濫用,我們暫停該客戶使用我們服務(wù)的權(quán)利?！?

此前,谷歌員工已經(jīng)成功的阻止了自己的公司參與到一項軍事競標中。該競標是美國五角大樓利用人工智能技術(shù)通過無人機進行攻擊,并且另外一個項目也被迫暫停。

對比而言,亞馬遜的態(tài)度,不妥協(xié),挺強硬。

此外,根據(jù)今天的最新消息,奧蘭多警察局計劃重新啟動人臉識別軟件測試。

奧蘭多警察局局長John Mina在一份聲明中表示:“我們在測試這項技術(shù)方面取得了很大進展,并認為繼續(xù)對其進行評估是非常重要的,這個評估將確定人臉識別是否能夠在公民隱私和增強城市公共安全使命間權(quán)衡,從而增加不可估量的價值?！?

從商業(yè)方面考慮,亞馬遜的技術(shù)與市場策略也無可厚非,但是,我們?nèi)匀幌Ｍ髽I(yè)將安全與隱私作為自己商業(yè)布局的前提,并為此做出一些改變。

原文標題:【亞馬遜人臉識別噩夢】貝索斯將AI武器化遭大規(guī)模抗議

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。