Según Todd Myers, de la Agencia Nacional de Inteligencia Geoespacial de EE. UU., China está implementando tecnologías Generative Antagonist Network (GAN) para engañar a las computadoras responsables de las imágenes satelitales.
A medida que la IA surge en todo el ecosistema de defensa, a veces puede pensar que termina reinventando la rueda. La tecnología GAN, introducida en 2014 por un grupo de investigadores (GoodFellow & al, 2014), permite generar imágenes falsas o ficticias. Ella es capaz de hacer aparecer un puente o incluso implantar un sitio de lanzamiento de misiles que no existe en una imagen.
Sin embargo, las implicaciones de las GAN desplegadas por China son mucho más profundas. Esta tecnología también ha sido calificada como la idea más interesante de los últimos 10 años en el campo del Machine Learning por el francés Yann Lecun, ganador del prestigioso Premio Turing y director de AI Research en Facebook. A diferencia de los sistemas neuronales artificiales utilizados para verificar la autenticidad de una imagen, las GAN permiten generar imágenes alteradas capaces de engañar a las primeras. Esquemáticamente, la tecnología GAN está compuesta por dos redes neuronales, la primera encargada de generar una imagen (el generador) y la segunda programada para probar su plausibilidad (el discriminador), de ahí su calificación de “antagonistas”. Por lo tanto, una vez que la imagen producida haya logrado convencer al discriminador, en teoría debería engañar a cualquier otro software.
De esta manera, las GAN encarnan una amenaza más avanzada que simples noticias falsas o imágenes retocadas. Para los servicios de inteligencia y el ejército, el desafío no es insuperable, pero requiere procesos de verificación que requieren mucho tiempo y son muy costosos. Por otro lado, desplegados sobre datos de fuente abierta destinados al público en general, serán las empresas privadas, los periodistas, las ONG y todos los ciudadanos los que ya no tendrán acceso a información veraz o incluso verificable. Asimismo, en un momento en el que los proyectos de vehículos autónomos se están volviendo realidad, entendemos la importancia de contar con herramientas cartográficas privadas confiables.
Como toda tecnología, no es inherentemente ni buena ni mala. Como Jano, prefigura tantos riesgos como oportunidades. Francia dispone de pequeñas cantidades de datos en comparación con Estados Unidos o China para realizar sus investigaciones sobre IA. Las GAN, capaces de generar datos realistas a partir de un stock reducido, podrían constituir una alternativa soberana para compensar esta falta.
Para profundizar en el tema
Thibaud Mattei