Selon Todd Myers, de l’Agence Nationale du Renseignement Géospatial américain, la Chine mettrait en œuvre des technologies de Réseaux Antagonistes Génératifs (ou GAN en Anglais) afin de leurrer les ordinateurs chargés de l’imagerie satellites.
Alors que les IA surgissent sur l’ensemble de l’écosystème de défense, on pourrait parfois croire qu’on finit par réinventer la roue. La technologie des GAN, introduite en 2014 par un groupe de chercheur (GoodFellow & al, 2014), permet de générer des images truquées ou fictives. Elle est capable de faire apparaître un pont voir d’implanter un site de lancement de missiles qui n’existent pas sur une image.
Pourtant les implications des GAN déployés par la Chine sont bien plus profondes. Cette technologie a d’ailleurs été qualifiée d’idée la plus intéressante des 10 dernières années dans le domaine du Machine Learning par le français Yann Lecun lauréat du prestigieux prix Turing et directeur de la Recherche en IA de Facebook. A l’inverse des systèmes neuronaux artificiels utilisés pour vérifier l’authenticité d’une image, les GAN permettent de générer des images altérées capables de duper ces premiers. De façon schématique, la technologie des GAN est constituée de deux réseaux de neurones, le premier chargé de générer ici une image (le générateur) et le second programmé pour éprouver sa vraisemblance (le discriminateur), d’où leur qualification d’« antagonistes ». En conséquence, l’image produite ayant déjà réussie à convaincre le discriminateur, devrait théoriquement tromper n’importe quel autre logiciel.
En cela, les GAN incarnent une menace plus poussée que les simples fakes-new ou les images retouchées. Pour les services de renseignement et l’armée, le défi n’est pas insurmontable mais nécessite des processus de vérifications chronophages et très couteux. Par contre, déployés sur de la donnée en source ouverte à destination du grand public, ce seront les entreprises privées, les journalistes, les ONGs et l’ensemble des citoyens qui n’auront plus accès à une information véridique voir même vérifiable. De même, à une époque où les projets de véhicules autonomes deviennent une réalité, on comprend l’importance d’outils de cartographie privés fiables.
Comme toute technologie, elle n’est par essence ni bonne ni mauvaise. Tel Janus elle préfigure autant de risques que d’opportunités. La France dispose de faibles quantités de données comparée aux Etats-Unis ou à la Chine pour conduire ses recherches sur l’IA. Les GAN, capables de générer des données réalistes à partir d’un stock faible pourrait constituer une alternative souveraine pour compenser ce manque.
Да уђемо дубље у тему
Тхибауд Маттеи