新智元報(bào)道

來源：外媒

編輯：小勻、LQ

【新智元導(dǎo)讀】面部識(shí)別技術(shù)最初用于刑事調(diào)查和監(jiān)控，受到政府的支持和推廣，但現(xiàn)在已經(jīng)發(fā)展成為無所不知的資本主義廣告定位機(jī)器，最近一項(xiàng)對(duì)過去43年面部識(shí)別訓(xùn)練數(shù)據(jù)集的研究，顯示了深度學(xué)習(xí)的興起在何種程度上助長(zhǎng)了隱私的喪失。

在科幻小說中，面部識(shí)別技術(shù)是威權(quán)社會(huì)的標(biāo)志。關(guān)于它是如何被創(chuàng)造出來的，以及今天它是如何被使用的，真相都令人驚奇。

Mozilla的Deborah Raji和AI Now的Genevieve Fried在arXiv上發(fā)表了一篇論文About Face: A Survey of Facial Recognition Evaluation，在這篇論文中，作者對(duì)1976-2019年間收集的100多個(gè)用于訓(xùn)練面部識(shí)別系統(tǒng)的數(shù)據(jù)集進(jìn)行了調(diào)查。

從中得出的最廣泛的啟示是，隨著對(duì)更多數(shù)據(jù)(即照片)需求的增加，研究人員不再費(fèi)心去征求用作數(shù)據(jù)的照片本人的同意。

《麻省理工學(xué)院技術(shù)評(píng)論》發(fā)文This is how we lost control of our faces，稱該論文是「有史以來最大的面部識(shí)別數(shù)據(jù)研究，顯示了深度學(xué)習(xí)的興起在何種程度上助長(zhǎng)了隱私的喪失」。

在這項(xiàng)關(guān)于面部識(shí)別數(shù)據(jù)集進(jìn)化的追蹤調(diào)查中，有一些歷史時(shí)刻和揭示這項(xiàng)技術(shù)發(fā)展的事實(shí)，它們展示了面部識(shí)別的本質(zhì)：當(dāng)應(yīng)用于現(xiàn)實(shí)世界時(shí)，它是一項(xiàng)有缺陷的技術(shù)，創(chuàng)建的明確目的是擴(kuò)大監(jiān)控狀態(tài)，結(jié)果是侵犯我們的隱私。

以下是43年面部識(shí)別研究得出的9個(gè)令人驚訝又可怕的結(jié)果。

1 面部識(shí)別在學(xué)術(shù)環(huán)境與現(xiàn)實(shí)世界應(yīng)用之間存在巨大的鴻溝

作者進(jìn)行這項(xiàng)研究的原因之一就是想要了解為什么在測(cè)試中準(zhǔn)確率接近100%的面部識(shí)別系統(tǒng)，在現(xiàn)實(shí)世界中應(yīng)用時(shí)卻有很大的缺陷。

例如，紐約市的大都會(huì)運(yùn)輸署在面部識(shí)別的錯(cuò)誤率達(dá)到100%后，停止試點(diǎn)項(xiàng)目。

面部識(shí)別在識(shí)別黑人和棕色人種時(shí)的準(zhǔn)確率較低，最近，三名黑人男子被面部識(shí)別技術(shù)錯(cuò)誤識(shí)別并被捕。

2 美國(guó)國(guó)防部對(duì)這一技術(shù)的最初繁榮負(fù)有責(zé)任

雖然開發(fā)面部識(shí)別技術(shù)的努力始于學(xué)術(shù)界，但1996年美國(guó)國(guó)防部和美國(guó)國(guó)家標(biāo)準(zhǔn)和技術(shù)研究所（NIST）撥款650萬美元建立了迄今為止最大的數(shù)據(jù)集，這一技術(shù)開始起步。

政府對(duì)這一領(lǐng)域產(chǎn)生了興趣，因?yàn)樗捎糜趯?shí)施監(jiān)控，不像指紋識(shí)別那樣需要人們積極參與。

3 早期用于創(chuàng)建面部識(shí)別數(shù)據(jù)的照片來自于人像拍攝，這就產(chǎn)生了很大缺陷

這看起來有點(diǎn)古怪，但大概在2005之前，研究人員建立數(shù)據(jù)庫(kù)的方式是讓人們坐著拍攝個(gè)人照。

因?yàn)榻裉斓囊恍┗A(chǔ)性的面部識(shí)別技術(shù)就來自于這些數(shù)據(jù)集，所以人像技術(shù)的缺陷可以產(chǎn)生共鳴的，比如，參與者類型單一，以及不能準(zhǔn)確反映真實(shí)世界狀況的現(xiàn)場(chǎng)設(shè)置。

4 當(dāng)人像拍攝不夠的時(shí)候，研究人員就開始Google，也不再征求同意

是的，當(dāng)研究人員不再滿足于添加人像到數(shù)據(jù)集的時(shí)候，事實(shí)確實(shí)是這樣。

2007年的一個(gè)名為 「Labeled Faces in the Wild」的數(shù)據(jù)集搜刮了谷歌、Flickr、YouTube和其他在線照片庫(kù)。其中包括兒童的照片。雖然這極大地豐富了數(shù)據(jù)庫(kù)，但卻拋棄了照片主體的隱私權(quán)。

5 面部識(shí)別的下一次繁榮來自Facebook

研究人員引用了面部識(shí)別的一個(gè)轉(zhuǎn)折點(diǎn)，即Facebook在2014年公布了其DeepFace數(shù)據(jù)庫(kù)的創(chuàng)建。

Facebook展示了如何用收集到的數(shù)百萬張照片創(chuàng)建神經(jīng)網(wǎng)絡(luò)，這些神經(jīng)網(wǎng)絡(luò)在面部識(shí)別上的表現(xiàn)遠(yuǎn)優(yōu)于之前的系統(tǒng)，這使得深度學(xué)習(xí)成為現(xiàn)代面部識(shí)別技術(shù)的基石。

6 令人意外的是，F(xiàn)acebook大規(guī)模的面部識(shí)別做法侵犯了用戶的隱私。

由于Facebook使用了用戶上傳的照片來用作面部識(shí)別，但卻沒有征得用戶的正面同意，F(xiàn)acebook被美國(guó)聯(lián)邦貿(mào)易委員會(huì)罰款，并向伊利諾伊州支付了一筆賠償金。DeepFace通過「標(biāo)簽建議」(Tag Suggestions) ，這個(gè)功能向你推薦照片中想要標(biāo)記的人。

接受或拒絕標(biāo)記又讓Facebook的系統(tǒng)變得更加智能。標(biāo)簽建議是可以選擇退出的，這意味著參與這項(xiàng)技術(shù)是默認(rèn)的。

7 面部識(shí)別系統(tǒng)已經(jīng)在1770萬人的臉上進(jìn)行了訓(xùn)練--這還只是在公共數(shù)據(jù)集中。

事實(shí)上，我們并不知道有多少人的照片使在不知不覺中參與了面部識(shí)別技術(shù)的開發(fā)，也不知道這些參與者的身份。

8 面部識(shí)別的自動(dòng)化導(dǎo)致了令人反感的標(biāo)簽系統(tǒng)和不平等的代表性。

面部識(shí)別系統(tǒng)的發(fā)展已經(jīng)超出了識(shí)別一張臉或一個(gè)人的范圍。它們還可以以攻擊性的方式給人及其屬性貼標(biāo)簽。

「這些標(biāo)簽包括關(guān)于體型的問題和潛在的侮辱性標(biāo)簽--"胖子"、"雙下巴"--或不恰當(dāng)?shù)姆N族特征，如亞洲受試者的"蒼白皮膚"、"尖鼻子"、"細(xì)長(zhǎng)眼睛"，以及許多黑人受試者的"大鼻子"和"大嘴唇"。此外，還有怪異的概念，如"眼袋"、"胡茬"和客觀上不可能一致定義的標(biāo)簽，如"吸引力"。」

訓(xùn)練集的默認(rèn)值識(shí)別對(duì)象是 「西方人」的面孔，而其他明確為增加多樣性而創(chuàng)建的數(shù)據(jù)集本身也存在問題。

其中一個(gè)系統(tǒng)的目的是 「訓(xùn)練無偏見和能夠辨別歧視意識(shí)的人臉識(shí)別算法」，但研究人員指出，它只 「將人類的種族起源劃分為三類」。

這些毛病不僅僅是令人反感。研究表明，人工智能中的歧視會(huì)強(qiáng)化現(xiàn)實(shí)世界中的歧視。

9 今天，面部識(shí)別技術(shù)的應(yīng)用范圍從政府監(jiān)控?cái)U(kuò)展到廣告定位。

面部識(shí)別不僅保持了它的本來面目，又?jǐn)U大了范圍，超出了1970年代其創(chuàng)造者的想象。

「我們可以從歷史背景中看到，政府從一開始就推廣和支持這項(xiàng)技術(shù)，目的是為了實(shí)現(xiàn)刑事調(diào)查和監(jiān)控。」作者寫道。

例如，亞馬遜已經(jīng)將其有問題的Rekognition技術(shù)賣給了數(shù)不清的警察部門。

另一方面，一些訓(xùn)練集承諾，它可以幫助開發(fā)系統(tǒng)來分析購(gòu)物者的情緒，更好地跟蹤和了解潛在客戶。

哪個(gè)更荒誕？利用面部識(shí)別實(shí)施監(jiān)視的國(guó)家還是無所不知的資本主義廣告機(jī)器? 你來決定。

參考鏈接：

https://mashable.com/article/facial-recognition-databases-privacy-study/

論文鏈接 https://arxiv.org/pdf/2102.00813.pdf

關(guān)鍵詞： 最大 面部 識(shí)別 數(shù)據(jù)