Impact of reverberation through deep neural networks on adversarial perturbations
| Autor: | Cohendet, Romain, Solinas, Miguel, Bernhard, Rémi, Reyboz, Marina, Moellic, Pierre-Alain, Bourrier, Yannick, Mermillod, Martial |
|---|---|
| Přispěvatelé: | Cohendet, Romain, MIAI @ Grenoble Alpes - - MIAI2019 - ANR-19-P3IA-0003 - P3IA - VALID, Commissariat à l'énergie atomique et aux énergies alternatives (CEA), Laboratoire de Psychologie et NeuroCognition (LPNC ), Université Savoie Mont Blanc (USMB [Université de Savoie] [Université de Chambéry])-Centre National de la Recherche Scientifique (CNRS)-Université Grenoble Alpes (UGA), ANR-19-P3IA-0003,MIAI,MIAI @ Grenoble Alpes(2019), CEA, Contributeur MAP, Université Grenoble Alpes (UGA), Laboratoire Intelligence Intégrée Multi-capteurs (LIIM), Université Grenoble Alpes (UGA)-Département Systèmes et Circuits Intégrés Numériques (DSCIN), Laboratoire d'Intégration des Systèmes et des Technologies (LIST (CEA)), Direction de Recherche Technologique (CEA) (DRT (CEA)), Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Direction de Recherche Technologique (CEA) (DRT (CEA)), Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Laboratoire d'Intégration des Systèmes et des Technologies (LIST (CEA)), Commissariat à l'énergie atomique et aux énergies alternatives (CEA)-Commissariat à l'énergie atomique et aux énergies alternatives (CEA), Département Systèmes (DSYS), Commissariat à l'énergie atomique et aux énergies alternatives - Laboratoire d'Electronique et de Technologie de l'Information (CEA-LETI) |
| Jazyk: | angličtina |
| Rok vydání: | 2021 |
| Předmět: |
adversarial examples
[INFO.INFO-AI] Computer Science [cs]/Artificial Intelligence [cs.AI] reverberation [SCCO.COMP] Cognitive science/Computer science hybrid deep neural network [INFO.INFO-DS]Computer Science [cs]/Data Structures and Algorithms [cs.DS] [SCCO.COMP]Cognitive science/Computer science adversarial perturbation [INFO.INFO-DS] Computer Science [cs]/Data Structures and Algorithms [cs.DS] reinjection [INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI] |
| Zdroj: | ICMLA 2021-20th IEEE International Cconference on Machine Learning and Applications ICMLA 2021-20th IEEE International Cconference on Machine Learning and Applications, Dec 2021, Pasadena (Virtual event), United States |
| Popis: | International audience; The vulnerability of Deep Neural Network (DNN) modelsto maliciously crafted adversarial perturbations is acritical topic considering their ongoing large-scale deployment.In this work, we explore an interesting phenomenonthat occurs when an image is reinjected multiple timesinto a DNN, according to a procedure (called reverberation)that has been first proposed in cognitive psychology toavoid the catastrophic forgetting issue, through its impacton adversarial perturbations. We describe reverberation invanilla autoencoders and propose a new reverberant architecturecombining a classifier and an autoencoder that allowsthe joint observation of the logits and reconstructedimages. We experimentally measure the impact of reverberationon adversarial perturbations placing ourselves in ascenario of adversarial example detection. The results showthat clean and adversarial examples even with small levelsof perturbation behave very differently throughout reverberation.While computationally efficient (reverberationis only based on inferences), our approach yields promisingresults for adversarial examples detection, consistentacross datasets, adversarial attacks and DNN architectures. |
| Databáze: | OpenAIRE |
| Externí odkaz: |
|