Dans l'entraînement contradictoire, les données d'entraînement sont complétées par des échantillons « adversaires » générés à l'aide d'un algorithme d'attaque Si l'attaquant utilise un algorithme d'attaque similaire pour générer des exemples contradictoires, les réseau peut être assez robuste à l'attaque.
Comment fonctionne l'apprentissage contradictoire ?
L'apprentissage automatique contradictoire est une technique d'apprentissage automatique qui tente de tromper les modèles en fournissant des données trompeuses. … La plupart des techniques d'apprentissage automatique ont été conçues pour fonctionner sur des ensembles de problèmes spécifiques dans lesquels les données d'entraînement et de test sont générées à partir de la même distribution statistique (IID).
Comment fonctionnent les exemples contradictoires ?
Les exemples contradictoires sont les entrées de modèles d'apprentissage automatique qu'un attaquant a intentionnellement conçues pour provoquer une erreur du modèle; ce sont comme des illusions d'optique pour les machines.… Une entrée contradictoire, superposée à une image typique, peut amener un classificateur à catégoriser à tort un panda comme un gibbon.
Qu'est-ce que la formation contradictoire dans l'apprentissage en profondeur ?
Une attaque contradictoire peut impliquer la présentation d'un modèle d'apprentissage automatique avec des données inexactes ou fausses lors de l'entraînement, ou l'introduction de données conçues de manière malveillante pour tromper un modèle déjà entraîné en lui faisant commettre des erreurs.
Qu'est-ce que l'auto-entraînement ?
Pour renforcer davantage la capacité de défense, un entraînement contradictoire auto-supervisé est proposé, qui maximise l'information mutuelle entre les représentations des exemples originaux et les exemples contradictoires correspondants.
