微軟兩個月前呼吁通過立法監(jiān)管人臉識別軟件,該公司現(xiàn)在又開始進(jìn)行游說,支持其所在的華盛頓州的首部相關(guān)法案?，F(xiàn)在的問題在于,與之同在西雅圖的亞馬遜是否會支持這一行為。

亞馬遜已經(jīng)請求該議案的提案人、華盛頓州參議員盧文·卡里勒(Reuven Carlyle)澄清一些問題,并對一些內(nèi)容進(jìn)行調(diào)整,例如,這部議案要求號稱能識別人臉的人工智能軟件商向有意對其進(jìn)行測試的第三方開放其產(chǎn)品。卡里勒已經(jīng)評估了各方的許多修改請求,其中也包括亞馬遜。他也在周四提交了修訂版的議案。

“公正地說,亞馬遜對人臉識別施加有意義的限制持有深深的懷疑和擔(dān)憂。這顯然是他們長期商業(yè)戰(zhàn)略的一項核心技術(shù)?！笨ɡ锢照f,這位民主黨人代表了西雅圖的部分地區(qū),其中也包括亞馬遜的總部所在地。

他認(rèn)為,該公司希望保留創(chuàng)新能力。不過,“他們也明確表示其目標(biāo)是能夠找到一種合適的狀態(tài),讓他們可以支持這項立法?！?

人工智能軟件在美國和中國的頂尖科技公司中扮演越來越重要的角色。一些公司和游說組織對該技術(shù)表達(dá)擔(dān)憂,尤其是那些通過面部特征對人進(jìn)行追蹤和歸類的產(chǎn)品,因為這類產(chǎn)品可能存在偏見,還有可能破壞隱私。亞馬遜就曾與批評其軟件的研究人員展開過爭論?，F(xiàn)在,許多政府開始著手監(jiān)管這項技術(shù)。

微軟總裁兼首席法務(wù)官布拉德·史密斯(Brad Smith)接受采訪時表示,向第三方開放軟件,以供測試之用,是這部立法提案的關(guān)鍵部分之一。他認(rèn)為,任何開發(fā)這種軟件的公司都應(yīng)該支持這種做法。

反對這種測試“就像汽車企業(yè)反對氣囊測試一樣”。史密斯說:“一家公司為什么要反對讓公眾有能力知道某項服務(wù)是否運轉(zhuǎn)良好?公眾有權(quán)評估這些服務(wù),相關(guān)企業(yè)也應(yīng)該認(rèn)識到這種第三方測試的重要性?！?

亞馬遜拒絕對是否支持這項立法發(fā)表評論,因為具體的議案仍在調(diào)整修改過程中。該公司周四發(fā)布一篇博文,闡述了他們認(rèn)為人臉識別軟件應(yīng)該通過何種方式進(jìn)行監(jiān)管。例如,該公司表示,當(dāng)執(zhí)法部門使用軟件時,這些部門應(yīng)該有人來評估結(jié)果,確保公民自由不被破壞。亞馬遜還表示,他們支持對面部識別軟件的標(biāo)準(zhǔn)化測試。

“任何立法都必須保護(hù)公民權(quán)利,還要允許持續(xù)的創(chuàng)新,讓技術(shù)可以實際應(yīng)用?！眮嗰R遜網(wǎng)絡(luò)服務(wù)(AWS)全球公共政策副總裁邁克爾·龐克(Michael Punke)說。

這項議案還有幾項要求也遵循了史密斯去年12月在博客中的建議,包括用直白的語言闡述程序會采取什么措施,并且在軟件對客戶進(jìn)行分析時向其發(fā)送明確通知。此外,當(dāng)據(jù)此作出的最終決策會對消費者產(chǎn)生法律影響,或者類似的重大影響時,還應(yīng)該對這些決策展開有意義的人工評估。

該法案還禁止在沒有獲得法院命令的情況下使用軟件展開持續(xù)監(jiān)控,除非是可能危及生命安全或產(chǎn)生嚴(yán)重傷害的緊急情況。

卡里勒認(rèn)為,相關(guān)行為應(yīng)該獲得用戶的明確許可,而不應(yīng)該隱藏在格式條款中,誘騙用戶點擊確認(rèn)。

卡里勒計劃下周召開一次會議來討論這項議案,并邀請企業(yè)和游說團(tuán)體參會。他希望能在下周末將議案提交給委員會審議。

雖然該立法提案僅在華盛頓州討論,但其影響范圍卻不僅限于亞馬遜和微軟這些總部位于該州的公司,還包括所有在該州開展業(yè)務(wù)的企業(yè),以及處理消費者數(shù)據(jù)達(dá)到或超過10萬人或者有半數(shù)營收營收來自個人數(shù)據(jù)銷售的企業(yè)。此外,即使該議案最終無法通過,其他州也有可能以此為樣本。

值得一提的是,已經(jīng)有第三方機構(gòu)對亞馬遜和微軟的人臉識別人工智能程序進(jìn)行測試,包括麻省理工學(xué)院媒體實驗室和美國公民自由聯(lián)盟。

在發(fā)現(xiàn)自家人臉識別軟件在膚色較黑的圖像上表現(xiàn)糟糕時(女性尤其明顯),微軟CEO薩提亞·納德拉(Satya Nadella)下令研究人員和工程師解決這個問題。亞馬遜則對相關(guān)報道提出反駁,他們認(rèn)為研究人員并沒有采用合適的測試方法,或者測試場景不夠精確。

“如果議案獲得通過,就向著構(gòu)建人臉識別技術(shù)的監(jiān)管基礎(chǔ)邁出了重要且急需的一步,而且創(chuàng)造了一種可供其他州或國家參考的模式?！笔访芩拐f。

原文標(biāo)題:GGAI 頭條 | 華盛頓人臉識別監(jiān)管議案獲微軟支持:亞馬遜態(tài)度曖昧

文章出處:【微信號:ggservicerobot,微信公眾號:高工智能未來】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。