隨著深度學(xué)習(xí)研究的深入，相關(guān)應(yīng)用已經(jīng)在許多領(lǐng)域展現(xiàn)出驚人的表現(xiàn)。一方面，深度學(xué)習(xí)的強(qiáng)大能力著實吸引著學(xué)術(shù)界和產(chǎn)業(yè)界的眼球。另外一方面，深度學(xué)習(xí)的安全問題也開始引起廣泛地關(guān)注。對于一個給定的深度神經(jīng)網(wǎng)絡(luò)，經(jīng)過訓(xùn)練，它可能在具體任務(wù)上（例如圖像識別）表現(xiàn)出較高的準(zhǔn)確率。但是在原本能夠被正確分類的圖像中引入稍許（人眼不易察覺）擾動，神經(jīng)網(wǎng)絡(luò)模型就可能被誤導(dǎo)，從而得出錯誤的分類結(jié)果。例如，下圖中最左側(cè)的熊貓圖片本來可以被正確分類，向其中加入一定的擾動，結(jié)果會得到右側(cè)的熊貓圖片。在人眼看來，它仍然是熊貓，但是神經(jīng)網(wǎng)絡(luò)模型卻以相當(dāng)高的置信率將其識別成了長臂猿。最右側(cè)這個經(jīng)過精心調(diào)整的能夠誤導(dǎo)神經(jīng)網(wǎng)絡(luò)模型的圖像就被稱為是惡意樣本（Adversarial Example），或簡稱AE。

本文主要介紹兩種最基本也最流行的惡意樣本（Adversarial Example）的生成算法，我們將在理解原理的基礎(chǔ)上用Python編程實現(xiàn)它們。環(huán)境是Ubuntu 18.04，深度學(xué)習(xí)模型以殘差神經(jīng)網(wǎng)絡(luò)ResNet為例。歡迎關(guān)注白馬負(fù)金羈的博客 ，為保證公式、圖表得以正確顯示，強(qiáng)烈建議你從該地址（http://blog.csdn.net/baimafujinji）上查看原版博文。本博客主要關(guān)注方向包括：數(shù)字圖像處理、算法設(shè)計與分析、數(shù)據(jù)結(jié)構(gòu)、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、統(tǒng)計分析方法、自然語言處理。
?

---

Fast gradient sign method (FGSM)

我們在之前的文章（文章鏈接）里曾經(jīng)介紹過一些關(guān)