Laut Todd Myers von der US-amerikanischen National Geospatial Intelligence Agency implementiert China GAN-Technologien (Generative Antagonist Network), um die für Satellitenbilder verantwortlichen Computer zu täuschen.
Wenn die KI im gesamten Verteidigungsökosystem auftaucht, könnte man manchmal denken, dass man das Rad neu erfindet. Die 2014 von einer Gruppe von Forschern eingeführte GAN-Technologie (GoodFellow & al, 2014) ermöglicht die Erzeugung gefälschter oder fiktiver Bilder. Sie ist in der Lage, eine Brücke erscheinen zu lassen oder sogar einen Raketenstartort zu implantieren, der auf einem Bild nicht vorhanden ist.
Pourtant les implications des GAN déployés par la Chine sont bien plus profondes. Cette technologie a d’ailleurs été qualifiée d’idée la plus intéressante des 10 dernières années dans le domaine du Machine Learning par le français Yann Lecun lauréat du prestigieux prix Turing et directeur de la Recherche en IA de Facebook. A l’inverse des systèmes neuronaux artificiels utilisés pour vérifier l’authenticité d’une image, les GAN permettent de générer des images altérées capables de duper ces premiers. De façon schématique, la technologie des GAN est constituée de deux réseaux de neurones, le premier chargé de générer ici une image (le générateur) et le second programmé pour éprouver sa vraisemblance (le discriminateur), d’où leur qualification d’« antagonistes ». En conséquence, l’image produite ayant déjà réussie à convaincre le discriminateur, devrait théoriquement tromper n’importe quel autre logiciel.
En cela, les GAN incarnent une menace plus poussée que les simples fakes-new ou les images retouchées. Pour les services de renseignement et l’armée, le défi n’est pas insurmontable mais nécessite des processus de vérifications chronophages et très couteux. Par contre, déployés sur de la donnée en source ouverte à destination du grand public, ce seront les entreprises privées, les journalistes, les ONGs et l’ensemble des citoyens qui n’auront plus accès à une information véridique voir même vérifiable. De même, à une époque où les projets de véhicules autonomes deviennent une réalité, on comprend l’importance d’outils de cartographie privés fiables.
Comme toute technologie, elle n’est par essence ni bonne ni mauvaise. Tel Janus elle préfigure autant de risques que d’opportunités. La France dispose de faibles quantités de données comparée aux Etats-Unis ou à la Chine pour conduire ses recherches sur l’IA. Les GAN, capables de générer des données réalistes à partir d’un stock faible pourrait constituer une alternative souveraine pour compenser ce manque.
Um tiefer in das Thema einzusteigen
Thibaud Mattei