近年來，人工智能已經(jīng)取得了長足的進(jìn)步，但正如許多人工智能使用者所表明的那樣，人工智能仍然容易出現(xiàn)一些人類并不會犯的驚人錯誤。雖然這些錯誤有時可能是人工智能進(jìn)行學(xué)習(xí)時不可避免的后果，但越來越明顯的是，一個比我們意想中嚴(yán)重得多的問題正帶來越來越大的風(fēng)險：對抗性數(shù)據(jù)。

對抗性數(shù)據(jù)描述了這樣一種情況，人類用戶故意向算法提供已損壞的信息，損壞的數(shù)據(jù)打亂了機(jī)器學(xué)習(xí)過程，從而欺騙算法得出虛假的結(jié)論或不正確的預(yù)測。

作為一名生物醫(yī)學(xué)工程師，筆者認(rèn)為對抗數(shù)據(jù)是一個值得關(guān)注的重要話題。最近，加州大學(xué)伯克利分校(UC Berkeley)教授唐恩·宋(Dawn Song)“欺騙”了一輛自動駕駛汽車，讓它以為停車標(biāo)志上的限速是每小時45英里。

這種性質(zhì)的惡意攻擊很容易導(dǎo)致致命的事故。同樣地，受損的算法數(shù)據(jù)可能導(dǎo)致錯誤的生物醫(yī)學(xué)研究，重則危及生命或影響醫(yī)學(xué)事業(yè)的創(chuàng)新發(fā)展。

直到最近，人們才意識到對抗性數(shù)據(jù)的威脅，我們不能再忽視它了。

關(guān)鍵詞：