人臉識別越來越常見，今年春運已經(jīng)能刷臉進站，iPhone的相冊就能用人臉分類照片，社交網(wǎng)站上能根據(jù)人臉標(biāo)記照片。然而如同央視315提醒的那樣，這項技術(shù)距離無懈可擊還有一段距離。 比如說，一副成本1塊錢的眼鏡，就能騙過人臉識別的AI。 一個能夠愚弄人臉識別AI的眼鏡 來自卡內(nèi)基梅隆大學(xué)(CMU)的研究人員表示，佩戴專門設(shè)計過的眼鏡架，可以愚弄最先進的面部識別軟件。一副眼鏡，不單可以讓佩戴者消失在人工智能識別系統(tǒng)之中，而且還能讓AI把佩戴者誤以為是別人。 一副眼鏡能有如此奇效，正是利用了機器理解人臉的漏洞。面部識別軟件通?；谏疃葘W(xué)習(xí)系統(tǒng)，通過大量的數(shù)據(jù)訓(xùn)練來尋找模式。 與人類對人臉的理解相比，機器對人臉的識別發(fā)生在抽象層面。電腦不是用人類的方式認臉，只是在像素中尋找模式。如果你知道這些機器在尋找哪種模式，就能輕易的愚弄這些人工智能系統(tǒng)，這正是CMU研究員們所做的事情。 首先，他們找到了與特定面孔相關(guān)的圖案，然后把這些圖案打印到一副寬邊眼鏡上。然后在測試中，機器對戴上眼鏡的研究人員“視若無睹“。不僅如此，眼鏡還能用來冒充別人。 一位41歲的白人男性研究員，僅憑一副眼鏡，就能冒充女演員““準(zhǔn)確率87.87%。 當(dāng)然這個研究也有明顯的局限。比如不同的距離、不同的照明條件下，效果會有差異。最重要的是，實驗室的測試并不代表在現(xiàn)實中總是可行。 不過無論如何，如果你想保護隱私，戴這種眼鏡，總比畫上一個CVDazzle妝要省事兒。什么是CVDazzle?貼幾張圖給大家看看““ 機器會認錯的，不只是人臉 顯然，在認人這件事上，有很多種方法可以騙過機器。那么，機器在識別其他物體的時候，還會被騙嗎? 也會。比如說： 這是什么? 作為人類，我們只看到不同顏色相間的波紋。 但是來自Google、Facebook、Mobileye的圖片軟件們不約而同地說：這是海星啊! “這種感覺就像各家神經(jīng)網(wǎng)絡(luò)坐在一起吐槽：長得多標(biāo)準(zhǔn)的一個海星啊，這些愚蠢的人類怎么就看不出來呢?“論文《DeepNeuralNetworksareEasilyFooled》的作者之一、懷俄明大學(xué)的助理教授JeffClune說。 這篇論文發(fā)表在2015年的計算機視覺頂級學(xué)術(shù)會議CVPR上，還獲得了CommunityTopPaper獎。 Clune在論文中提到，很多在人類看來毫無意義的圖片，輸入到神經(jīng)網(wǎng)絡(luò)中，會被分類為某種物體。 比如說，上圖左側(cè)的8張圖片，在人類看來都是電視機雪花屏的圖案，但是在神經(jīng)網(wǎng)絡(luò)看來，這里面包含了燕雀、犰狳、小熊貓、獵豹甚至菠蘿蜜““ 你說是熊貓?機器說是長臂猿 人類看起來毫無異樣的圖片，到了機器那里也可能會被錯認。 比如說在人類眼中，上圖左右兩邊都是熊貓;但計算機就會認為，左邊的(可能)是熊貓，而右邊的是長臂猿。 這張圖片，來自IanGoodfellow發(fā)表在ICLR2015的論文ExplainingandHarnessingAdversarialExamples。 其實早在2013年和2014年，科研人員們就在討論這類問題。Goodfellow在2014年曾經(jīng)發(fā)表了一篇關(guān)于反例攻擊(AdversarialExamples)的論文。去年10月一篇題為《UniversalAdversarialPerturbations》則提出了一種通用的“擾動“方式，可以導(dǎo)致各種神經(jīng)網(wǎng)絡(luò)將圖片誤分類。 Goodfellow在OpenAI工作期間，還發(fā)文介紹在反例攻擊和防御策略，量子位曾經(jīng)進行了編譯。 AI的判定邊界 現(xiàn)在，人類的科學(xué)家還沒有完全搞清楚，這些騙過機器的方式為什么會有效，在什么情況下會失敗。 一種常見的解釋是，它們利用了AI系統(tǒng)中的“判定邊界“。 所謂“判定邊界“，是指機器區(qū)分兩類物體所用的一組隱形的規(guī)則。比如說我們設(shè)計了一個非常簡單的分類器，用來區(qū)分獅子和獵豹，經(jīng)過一段時間的訓(xùn)練之后，機器會創(chuàng)造出一個X-Y平面，右上方是獵豹、左下方是獅子，而獅子和獵豹之間的分界線，就是“判定邊界“。 Clune認為，會出現(xiàn)上面這些“騙過圖像識別系統(tǒng)“的方法，是因為判定邊界過于武斷?！澳銓ι窠?jīng)網(wǎng)絡(luò)所做的，就是訓(xùn)練他們在數(shù)據(jù)的集群之間劃定界限，而不是對什么是獵豹、什么是獅子進行深入的建模?！癈lune說，他認為解決這個問題，需要讓圖像分類器能夠得出“我不知道這張圖片是什么“的結(jié)果，而不是強行將它歸為某一類。

« 高通反訴蘋果：當(dāng)創(chuàng)新屈從于高利潤會怎樣？ | 華爾街愛用加密軟件聊業(yè)內(nèi)八卦 公司政府都很頭疼 »