CNN是否能夠?qū)ξ⑿∽兓瘜?dǎo)致錯(cuò)誤分類的技巧保持健壯？

解答動(dòng)態(tài)

• 

  這些被稱為對(duì)抗性攻擊，而被錯(cuò)誤分類的具體示例被稱為對(duì)抗性示例。
  在尋找對(duì)抗性示例和使CNN更強(qiáng)大（即不易受到這些攻擊）方面有相當(dāng)大的工作量。一個(gè)例子是DeepFool算法，它可以用來發(fā)現(xiàn)可能導(dǎo)致標(biāo)簽改變的數(shù)據(jù)擾動(dòng)。
  文獻(xiàn)中有幾種技術(shù)用于對(duì)抗對(duì)抗性攻擊。這是一個(gè)選擇：
  增加具有各種隨機(jī)擾動(dòng)的訓(xùn)練數(shù)據(jù)。這是為了使該模型對(duì)典型的敵方攻擊更具魯棒性，其中隨機(jī)噪聲被添加到圖像中。文[1]中討論了這種方法的一個(gè)例子。
  在輸入CNN之前構(gòu)造某種模型來對(duì)輸入進(jìn)行去噪。這方面的一個(gè)例子是Defense GAN[2]，它使用一個(gè)生成性對(duì)抗模型，對(duì)“真實(shí)”圖像分布進(jìn)行建模，并找到更接近真實(shí)分布的輸入近似值。
  References [1]Ian J.Goodfello、Jonathon Shlens和Christian Szegedy。解釋和利用對(duì)手的例子。ICLR（2015年）。網(wǎng)址：
  [2]Pouya Samangouei，Maya Kabkab，Rama Chellappa。防御：使用生成模型保護(hù)分類器免受對(duì)手攻擊。ICLR（2018年）。這些例子被稱為對(duì)抗性例子。我認(rèn)為重要的是要理解為什么CNN可以像這樣“被欺騙”那就是：我們經(jīng)常當(dāng)模型具有類似人的性能時(shí)，期望有類似人的行為。這與CNNs類似。我們期望他們像我們一樣做出決定，也就是說，我們尋找物體的形狀。然而，正如CNN上的各種實(shí)驗(yàn)所顯示的那樣，情況并非如此。有線電視新聞網(wǎng)（CNN）也在尋找其他的特寫。它試圖最小化損失函數(shù)。而最快的方法往往不是預(yù)期的方法。E、 你認(rèn)為一頭牛有四條腿和特定形狀的頭。CNN可能會(huì)認(rèn)為，如果有一個(gè)有4條腿和綠色背景的東西就足夠了（因?yàn)橛?xùn)練數(shù)據(jù)集中10個(gè)圖像中有9個(gè)是這樣的）。因此，在大多數(shù)情況下，CNN通過這些特征識(shí)別奶牛時(shí)表現(xiàn)良好。
  Geirhos在“Imagenet訓(xùn)練的CNN偏向紋理；增加形狀偏差可提高準(zhǔn)確性和魯棒性”中做了一個(gè)實(shí)驗(yàn)；。他展示了一張CNN的圖片，這些圖片可以分為a和B兩類，比如這張圖片，取自上面蓋爾斯的。在大多數(shù)情況下，一個(gè)普通的CNN說這不是貓。它是一頭大象！
  
  或Wang等人的另一個(gè)類似實(shí)驗(yàn)：“高頻成分有助于解釋卷積神經(jīng)網(wǎng)絡(luò)的泛化�！�；。他們發(fā)現(xiàn)，普通的CNN可以“正確”地對(duì)圖像進(jìn)行分類，盡管該圖像中的低頻率（即，這些頻率包含形狀信息）已從圖像中移除。
  在另一個(gè)實(shí)驗(yàn)中，Brendel&；Bethge in“用bag of localfeatures模型近似CNN的效果出奇地好imagenet重新設(shè)計(jì)了CNN，使其無法通過設(shè)計(jì)使用全局形狀信息。他們的CNN也表現(xiàn)得像人類。那么，為什么其他CNN不應(yīng)該使用這個(gè)網(wǎng)絡(luò)所使用的功能呢？
  進(jìn)入問題的第二部分：為了使CNN更加健壯，您需要向CNN提供只包含您希望它學(xué)習(xí)的功能的圖像。這對(duì)圖像來說很困難。通過應(yīng)用樣式轉(zhuǎn)移移除紋理信息是一種選擇。想想你想讓網(wǎng)絡(luò)學(xué)習(xí)什么而不是什么。然后嘗試移除/隱藏/抑制你不想讓它學(xué)習(xí)的東西。其他答案中給出了詳細(xì)信息。
  還有一種稱為特征可視化的方法，它嘗試生成CNN識(shí)別的特征的可視化。然而，天真的技術(shù)幾乎是無用的，因?yàn)檫@些可視化往往是由噪音之類的東西主導(dǎo)。（除了CNN的極小部分）這可能表明CNN不關(guān)注全局形狀信息（因?yàn)榭梢暬�不是尖銳的形狀，而是高頻紋理）比特：怎么樣深層神經(jīng)網(wǎng)絡(luò)很容易被愚弄嗎？第2頁
• End