神經網絡后門攻擊與防御綜述

摘要： 當前，深度神經網絡(Deep Neural Network, DNN)得到了迅速發(fā)展和廣泛應用，由于其具有數(shù)據(jù)集龐大、模型架構復雜的特點，用戶在訓練模型的過程中通常需要依賴數(shù)據(jù)樣本、預訓練模型等第三方資源.然而，不可信的第三方資源為神經網絡模型的安全帶來了巨大的威脅，最典型的是神經網絡后門攻擊.攻擊者通過修改數(shù)據(jù)集或模型的方式實現(xiàn)向模型中植入后門，該后門能夠與樣本中的觸發(fā)器（一... （共31頁）