Secondo Todd Myers, della US National Geospatial Intelligence Agency, la Cina sta implementando le tecnologie del Generative Antagonist Network (GAN) per ingannare i computer responsabili delle immagini satellitari.
Mentre l'IA si diffonde nell'intero ecosistema della difesa, a volte potresti pensare di finire per reinventare la ruota. La tecnologia GAN, introdotta nel 2014 da un gruppo di ricercatori (GoodFellow & al, 2014), consente di generare immagini false o fittizie. È in grado di far apparire un ponte o addirittura impiantare un sito di lancio di missili che non esiste su un'immagine.
Tuttavia, le implicazioni dei GAN utilizzati dalla Cina sono molto più profonde. Questa tecnologia è stata definita anche l’idea più interessante degli ultimi 10 anni nel campo del Machine Learning dal francese Yann Lecun, vincitore del prestigioso Premio Turing e direttore della ricerca sull’intelligenza artificiale di Facebook. A differenza dei sistemi neurali artificiali utilizzati per verificare l’autenticità di un’immagine, i GAN consentono di generare immagini alterate in grado di ingannare la prima. Schematicamente, la tecnologia GAN è composta da due reti neurali, la prima responsabile della generazione di un'immagine (il generatore) e la seconda programmata per testarne la plausibilità (il discriminatore), da qui la loro qualifica di "antagonisti". Di conseguenza, l'immagine prodotta essendo già riuscita a convincere il discriminatore, dovrebbe teoricamente ingannare qualsiasi altro software.
In questo modo, i GAN rappresentano una minaccia più avanzata rispetto alle semplici notizie false o alle immagini ritoccate. Per i servizi segreti e l’esercito la sfida non è insormontabile ma richiede processi di verifica lunghi e molto costosi. D’altro canto, utilizzando dati open source destinati al grande pubblico, saranno le aziende private, i giornalisti, le ONG e tutti i cittadini a non avere più accesso a informazioni veritiere o addirittura verificabili. Allo stesso modo, in un momento in cui i progetti di veicoli autonomi stanno diventando una realtà , comprendiamo l’importanza di strumenti di mappatura privati ​​affidabili.
Come tutta la tecnologia, non è intrinsecamente né buona né cattiva. Come Janus, prefigura tanti rischi quanto opportunità . La Francia dispone di piccole quantità di dati rispetto agli Stati Uniti o alla Cina per condurre le proprie ricerche sull’intelligenza artificiale. I GAN, in grado di generare dati realistici da uno stock basso, potrebbero costituire un’alternativa sovrana per compensare questa mancanza.
Per approfondire l'argomento
Thibaud Mattei