Podľa Todda Myersa z Americkej národnej agentúry pre geopriestorové spravodajstvo by Čína implementovala technológie Generative Adversarial Network (alebo GAN), aby oklamala počítače zodpovedné za satelitné snímky.
Keď sa AI objavuje v celom obrannom ekosystéme, niekedy by sme mohli veriť, že končíme pri objavovaní kolesa. Technológia GAN, ktorú v roku 2014 predstavila skupina výskumníkov (GoodFellow & al, 2014), umožňuje vytvárať falošné alebo fiktívne obrázky. Je schopná vytvoriť most alebo dokonca vytvoriť miesto na odpálenie rakiet, ktoré na obrázku neexistuje.
Dôsledky GAN nasadených Čínou sú však oveľa hlbšie. Túto technológiu označil Francúz Yann Lecun, víťaz prestížnej Turingovej ceny a riaditeľ výskumu AI na Facebooku, za najzaujímavejší nápad za posledných 10 rokov v oblasti strojového učenia. Na rozdiel od umelých neurónových systémov používaných na overenie pravosti obrazu, GAN umožňujú vytvárať pozmenené obrazy schopné oklamať prvý. Schematicky sa technológia GAN skladá z dvoch neurónových sietí, z ktorých prvá je zodpovedná za generovanie obrazu (generátor) a druhá je naprogramovaná tak, aby testovala jeho vierohodnosť (diskriminátor), a preto sú kvalifikovaní ako „antagonisti“. V dôsledku toho vytvorený obraz, ktorý už dokázal presvedčiť diskriminátora, by mal teoreticky oklamať akýkoľvek iný softvér.
Týmto spôsobom GAN stelesňujú pokročilejšiu hrozbu ako jednoduché falošné správy alebo retušované obrázky. Pre spravodajské služby a armádu táto výzva nie je neprekonateľná, vyžaduje si však časovo náročné a veľmi nákladné overovacie procesy. Na druhej strane pri nasadení na open source dátach určených pre širokú verejnosť to budú súkromné firmy, novinári, mimovládne organizácie a všetci občania, ktorí už nebudú mať prístup k pravdivým či dokonca overiteľným informáciám. Podobne v čase, keď sa projekty autonómnych vozidiel stávajú realitou, chápeme dôležitosť spoľahlivých súkromných mapovacích nástrojov.
Ako každá technológia, nie je vo svojej podstate ani dobrá, ani zlá. Rovnako ako Janus, aj ona predznamenáva toľko rizík ako príležitostí. Francúzsko má v porovnaní so Spojenými štátmi alebo Čínou malé množstvo údajov na vykonávanie výskumu AI. GAN, schopné generovať realistické údaje z nízkej zásoby, by mohli predstavovať suverénnu alternatívu na kompenzáciu tohto nedostatku.
Aby sme sa dostali hlbšie do témy
Thibaud Mattei