亞馬遜面對(duì)三方的重重壓力 人臉識(shí)別技術(shù)或?qū)⒃馔Ｓ?/h1>
時(shí)間：2019-01-09 14:47:30點(diǎn)擊：370次
奧蘭多市與奧蘭多警察局發(fā)布聲明稱,已于上周停止使用亞馬遜深度學(xué)習(xí)人臉識(shí)別技術(shù)——Rekognition,從去年12月份開始為期6個(gè)月的合同已經(jīng)到期,目前不再續(xù)約。聲明中還稱,工作人員將繼續(xù)討論和評(píng)估未來能否重啟該項(xiàng)技術(shù),而目前評(píng)估工作仍在進(jìn)行中,說明奧蘭多市仍可能在今后對(duì)亞馬遜“敞開大門”。
RekogniTIon雖然已經(jīng)被Pinterest、C-SPAN等公司使用,但是在ACLU(美國公民自由聯(lián)盟)調(diào)查了6個(gè)月之后發(fā)現(xiàn)亞馬遜至少跟兩家執(zhí)法機(jī)構(gòu)“秘密”合作。奧蘭多市布局公共安全監(jiān)視網(wǎng)絡(luò),亞馬遜RekogniTIon的負(fù)責(zé)人Ranju Das稱,“亞馬遜會(huì)從攝像頭反饋的圖像與執(zhí)法部門的尋人照片進(jìn)行對(duì)照,一有進(jìn)展就立即通知執(zhí)法部門。RekogniTIon的重要性在于從大量數(shù)據(jù)庫中鎖定目標(biāo)并進(jìn)行追蹤,做到實(shí)時(shí)反饋。”除了奧蘭多警察局,華盛頓警長辦公室也使用了該項(xiàng)技術(shù),用于搜索身份不明的嫌疑犯。
奧蘭多政府恐侵犯人權(quán),已停止使用亞馬遜人臉識(shí)別技術(shù)
雖然奧蘭多市很看好與亞馬遜的合作,表示“一直在尋求保障當(dāng)?shù)鼐用窈屯鈦砣藛T安全的新舉措。在不違反隱私權(quán)的情況下,與亞馬遜這樣具有創(chuàng)新性的公司合作,有助于推進(jìn)社區(qū)安全?！蓖瑫r(shí)承諾不會(huì)用人臉識(shí)別技術(shù)追蹤正常居民。但是ACLU對(duì)奧蘭多市給出理由并不買賬,聲明“RekogniTIon技術(shù)的廣泛使用會(huì)給有色人種、非法入境移民、抗議示威民眾帶來可怕的后果?！?
ACLU在6月25日給奧蘭多市長Buddy Dyer和議會(huì)發(fā)郵件,要求他們立即停止使用人臉識(shí)別監(jiān)視技術(shù)。郵件中還稱,人臉識(shí)別系統(tǒng)威脅到公民的自由,尤其是政府機(jī)構(gòu)在未經(jīng)社區(qū)討論、未經(jīng)地方立法監(jiān)督、沒有防止濫用的規(guī)則出臺(tái)的情況下就“秘密”實(shí)施。這為奧蘭多市的居民造成了極大的威脅,而這來源于亞馬遜技術(shù)的支持。
亞馬遜面對(duì)來自員工、投資人、人權(quán)組織的三方壓力
針對(duì)奧蘭多和華盛頓的情況,上個(gè)月ACLU位于加利福尼亞、俄勒岡、佛羅里達(dá)的多個(gè)分會(huì)就聯(lián)合給亞馬遜寫信要求其停止向政府機(jī)構(gòu)銷售Rekognition,超過40個(gè)民主組織簽署表示支持ACLU的提議。亞馬遜股東上周致信貝佐斯表示,如果Rekognition被濫用,極有可能侵犯人權(quán),并銷售到國外的專制政權(quán),同時(shí)對(duì)公司股票產(chǎn)生負(fù)面影響。亞馬遜員工也寫請(qǐng)?jiān)笗筘愖羲共粌H停止與執(zhí)法機(jī)構(gòu)的Rekognition合作,同時(shí)停止與ICE和Palantir的合作。請(qǐng)?jiān)笗袑懙?“作為有正義感和道德感的亞馬遜人,對(duì)生產(chǎn)面向市場(chǎng)的產(chǎn)品有選擇權(quán),對(duì)其如何被使用有話語權(quán)。以史為鑒,IBM在二戰(zhàn)期間為德國提供其特有的穿孔卡技術(shù)屠殺猶太人,而我們無法允許那樣的事情再發(fā)生?！?
人臉識(shí)別技術(shù)是否真的準(zhǔn)備好應(yīng)用于執(zhí)法工作中
為了維持Rekognition在執(zhí)法機(jī)構(gòu)的訂單,亞馬遜表示一旦發(fā)現(xiàn)用戶違反法律便會(huì)立即停止提供服務(wù),用戶在使用Rekognition時(shí)要有底線,必須遵循法律對(duì)自己的行為負(fù)責(zé)。上個(gè)月,亞馬遜曾對(duì) Gizmodo 說,Rekognition的確做了一些好事,幫助執(zhí)法部門抓住盜竊犯、找到被綁架的受害者、找到游樂場(chǎng)失散的兒童。雖然亞馬遜一再強(qiáng)調(diào)科技的重要性,“如果因?yàn)榧夹g(shù)會(huì)被濫用就取締它,那么如今的生活質(zhì)量只會(huì)變得更差?！钡巧鐣?huì)似乎更關(guān)心科技是否會(huì)助紂為虐。
喬治敦大學(xué)法隱私和技術(shù)中心的助理Clare Garvie說道,實(shí)施面部識(shí)別的部分問題是其對(duì)言論自由的潛在影響。好比在游行示威中,面部識(shí)別就如同警方在隊(duì)伍中穿行,要求在場(chǎng)的每個(gè)人都出示身份證明。加之亞馬遜在科技領(lǐng)域的影響力,會(huì)有更多執(zhí)法機(jī)構(gòu)愿意參與進(jìn)來。Kairos(人臉識(shí)別及AI技術(shù)初創(chuàng)公司)的CEO Brian Brackeen發(fā)表了一篇反對(duì)將人臉識(shí)別應(yīng)用在執(zhí)法工作中的文章。文章中寫道,在種族歧視嚴(yán)重的美國,非白人受到更嚴(yán)格的審查,人臉識(shí)別只會(huì)加重“不平等”。在數(shù)據(jù)庫還不夠完善的當(dāng)下,讓技術(shù)去“指認(rèn)”一個(gè)人是否犯了罪是極其不負(fù)責(zé)任的。
言語之中可以聽出亞馬遜的無奈,但是如此多的“反對(duì)聲”說明人臉識(shí)別技術(shù)還不夠成熟,很多弊端沒有應(yīng)對(duì)之策,想要應(yīng)用在執(zhí)法工作中目前來看或許還行不通。
- 標(biāo)簽:
奧蘭多市與奧蘭多警察局發(fā)布聲明稱,已于上周停止使用亞馬遜深度學(xué)習(xí)人臉識(shí)別技術(shù)——Rekognition,從去年12月份開始為期6個(gè)月的合同已經(jīng)到期,目前不再續(xù)約。聲明中還稱,工作人員將繼續(xù)討論和評(píng)估未來能否重啟該項(xiàng)技術(shù),而目前評(píng)估工作仍在進(jìn)行中,說明奧蘭多市仍可能在今后對(duì)亞馬遜“敞開大門”。
RekogniTIon雖然已經(jīng)被Pinterest、C-SPAN等公司使用,但是在ACLU(美國公民自由聯(lián)盟)調(diào)查了6個(gè)月之后發(fā)現(xiàn)亞馬遜至少跟兩家執(zhí)法機(jī)構(gòu)“秘密”合作。奧蘭多市布局公共安全監(jiān)視網(wǎng)絡(luò),亞馬遜RekogniTIon的負(fù)責(zé)人Ranju Das稱,“亞馬遜會(huì)從攝像頭反饋的圖像與執(zhí)法部門的尋人照片進(jìn)行對(duì)照,一有進(jìn)展就立即通知執(zhí)法部門。RekogniTIon的重要性在于從大量數(shù)據(jù)庫中鎖定目標(biāo)并進(jìn)行追蹤,做到實(shí)時(shí)反饋。”除了奧蘭多警察局,華盛頓警長辦公室也使用了該項(xiàng)技術(shù),用于搜索身份不明的嫌疑犯。
奧蘭多政府恐侵犯人權(quán),已停止使用亞馬遜人臉識(shí)別技術(shù)
雖然奧蘭多市很看好與亞馬遜的合作,表示“一直在尋求保障當(dāng)?shù)鼐用窈屯鈦砣藛T安全的新舉措。在不違反隱私權(quán)的情況下,與亞馬遜這樣具有創(chuàng)新性的公司合作,有助于推進(jìn)社區(qū)安全?！蓖瑫r(shí)承諾不會(huì)用人臉識(shí)別技術(shù)追蹤正常居民。但是ACLU對(duì)奧蘭多市給出理由并不買賬,聲明“RekogniTIon技術(shù)的廣泛使用會(huì)給有色人種、非法入境移民、抗議示威民眾帶來可怕的后果?！?
ACLU在6月25日給奧蘭多市長Buddy Dyer和議會(huì)發(fā)郵件,要求他們立即停止使用人臉識(shí)別監(jiān)視技術(shù)。郵件中還稱,人臉識(shí)別系統(tǒng)威脅到公民的自由,尤其是政府機(jī)構(gòu)在未經(jīng)社區(qū)討論、未經(jīng)地方立法監(jiān)督、沒有防止濫用的規(guī)則出臺(tái)的情況下就“秘密”實(shí)施。這為奧蘭多市的居民造成了極大的威脅,而這來源于亞馬遜技術(shù)的支持。
亞馬遜面對(duì)來自員工、投資人、人權(quán)組織的三方壓力
針對(duì)奧蘭多和華盛頓的情況,上個(gè)月ACLU位于加利福尼亞、俄勒岡、佛羅里達(dá)的多個(gè)分會(huì)就聯(lián)合給亞馬遜寫信要求其停止向政府機(jī)構(gòu)銷售Rekognition,超過40個(gè)民主組織簽署表示支持ACLU的提議。亞馬遜股東上周致信貝佐斯表示,如果Rekognition被濫用,極有可能侵犯人權(quán),并銷售到國外的專制政權(quán),同時(shí)對(duì)公司股票產(chǎn)生負(fù)面影響。亞馬遜員工也寫請(qǐng)?jiān)笗筘愖羲共粌H停止與執(zhí)法機(jī)構(gòu)的Rekognition合作,同時(shí)停止與ICE和Palantir的合作。請(qǐng)?jiān)笗袑懙?“作為有正義感和道德感的亞馬遜人,對(duì)生產(chǎn)面向市場(chǎng)的產(chǎn)品有選擇權(quán),對(duì)其如何被使用有話語權(quán)。以史為鑒,IBM在二戰(zhàn)期間為德國提供其特有的穿孔卡技術(shù)屠殺猶太人,而我們無法允許那樣的事情再發(fā)生?！?
人臉識(shí)別技術(shù)是否真的準(zhǔn)備好應(yīng)用于執(zhí)法工作中
為了維持Rekognition在執(zhí)法機(jī)構(gòu)的訂單,亞馬遜表示一旦發(fā)現(xiàn)用戶違反法律便會(huì)立即停止提供服務(wù),用戶在使用Rekognition時(shí)要有底線,必須遵循法律對(duì)自己的行為負(fù)責(zé)。上個(gè)月,亞馬遜曾對(duì) Gizmodo 說,Rekognition的確做了一些好事,幫助執(zhí)法部門抓住盜竊犯、找到被綁架的受害者、找到游樂場(chǎng)失散的兒童。雖然亞馬遜一再強(qiáng)調(diào)科技的重要性,“如果因?yàn)榧夹g(shù)會(huì)被濫用就取締它,那么如今的生活質(zhì)量只會(huì)變得更差?！钡巧鐣?huì)似乎更關(guān)心科技是否會(huì)助紂為虐。
喬治敦大學(xué)法隱私和技術(shù)中心的助理Clare Garvie說道,實(shí)施面部識(shí)別的部分問題是其對(duì)言論自由的潛在影響。好比在游行示威中,面部識(shí)別就如同警方在隊(duì)伍中穿行,要求在場(chǎng)的每個(gè)人都出示身份證明。加之亞馬遜在科技領(lǐng)域的影響力,會(huì)有更多執(zhí)法機(jī)構(gòu)愿意參與進(jìn)來。Kairos(人臉識(shí)別及AI技術(shù)初創(chuàng)公司)的CEO Brian Brackeen發(fā)表了一篇反對(duì)將人臉識(shí)別應(yīng)用在執(zhí)法工作中的文章。文章中寫道,在種族歧視嚴(yán)重的美國,非白人受到更嚴(yán)格的審查,人臉識(shí)別只會(huì)加重“不平等”。在數(shù)據(jù)庫還不夠完善的當(dāng)下,讓技術(shù)去“指認(rèn)”一個(gè)人是否犯了罪是極其不負(fù)責(zé)任的。
言語之中可以聽出亞馬遜的無奈,但是如此多的“反對(duì)聲”說明人臉識(shí)別技術(shù)還不夠成熟,很多弊端沒有應(yīng)對(duì)之策,想要應(yīng)用在執(zhí)法工作中目前來看或許還行不通。
- 標(biāo)簽: