据美国国家地理空间情报局的托德迈尔斯称，中国正在实施生成对抗网络 (GAN) 技术来欺骗负责卫星图像的计算机。
随着人工智能在整个国防生态系统中涌现，您有时可能会认为自己最终会重新发明轮子。 GAN 技术由一组研究人员 (GoodFellow & al, 2014) 于 2014 年推出，可以生成虚假或虚构的图像。 她能够使桥梁出现，甚至植入图像上不存在的导弹发射场。
Pourtant les implications des GAN déployés par la Chine sont bien plus profondes. Cette technologie a d’ailleurs été qualifiée d’idée la plus intéressante des 10 dernières années dans le domaine du Machine Learning par le français Yann Lecun lauréat du prestigieux prix Turing et directeur de la Recherche en IA de Facebook. A l’inverse des systèmes neuronaux artificiels utilisés pour vérifier l’authenticité d’une image, les GAN permettent de générer des images altérées capables de duper ces premiers. De façon schématique, la technologie des GAN est constituée de deux réseaux de neurones, le premier chargé de générer ici une image (le générateur) et le second programmé pour éprouver sa vraisemblance (le discriminateur), d’où leur qualification d’« antagonistes ». En conséquence, l’image produite ayant déjà réussie à convaincre le discriminateur, devrait théoriquement tromper n’importe quel autre logiciel.
En cela, les GAN incarnent une menace plus poussée que les simples fakes-new ou les images retouchées. Pour les services de renseignement et l’armée, le défi n’est pas insurmontable mais nécessite des processus de vérifications chronophages et très couteux. Par contre, déployés sur de la donnée en source ouverte à destination du grand public, ce seront les entreprises privées, les journalistes, les ONGs et l’ensemble des citoyens qui n’auront plus accès à une information véridique voir même vérifiable. De même, à une époque où les projets de véhicules autonomes deviennent une réalité, on comprend l’importance d’outils de cartographie privés fiables.
Comme toute technologie, elle n’est par essence ni bonne ni mauvaise. Tel Janus elle préfigure autant de risques que d’opportunités. La France dispose de faibles quantités de données comparée aux Etats-Unis ou à la Chine pour conduire ses recherches sur l’IA. Les GAN, capables de générer des données réalistes à partir d’un stock faible pourrait constituer une alternative souveraine pour compenser ce manque.
深化主题
蒂博·马太伊