L’Agence Innovation Défense a officialisé la création d’une équipe singulière par le Document de l’orientation de l’innovation de la Défense : la Red Team. Cette entité se composera de cinq membres au parcours atypique. Il s’agit de réunir des professeurs de sciences mais également des auteurs de science-fiction afin d’anticiper les révolutions technologiques. Les membres de la Red Team seront des futurologues devant établir des scénarii aboutissant à des « capacités disruptives ou à s’en prémunir ».
Absurde ? Loin de là. La science-fiction a depuis longtemps prouvé sa capacité d’anticipation sur les technologies. Isaac Asimov (1920-1992) reste une figure fondamentale en matière d’Intelligence Artificielle. Lors de son célèbre cycle des robots, cet auteur a posé les trois lois fondamentales de la robotique, donc des IA. D’abord, un robot ne peut pas agir de manière contraire à l’intégrité de l’homme. Ensuite, il doit obéir aux ordres donnés par l’humain sauf si ceux-ci sont contraires à à la première loi. Enfin, un robot protège son intégrité sauf si cela est contraire à l’une des deux premières lois.
Les développeurs d’IA ayant majoritairement grandi avec ces références, ces trois lois restent intemporelles pour le moment. Par exemple, la résistance aux SALA tire son origine de cette référence culturelle. De même, les lignes directrices en matière d’éthique pour une IA de confiance rédigées par le groupe d’experts indépendants de haut niveau sur l’IA mandaté par la Commission européenne s’inscrit dans l’héritage des lois d’Asimov.
Trente ans après la publication du cycle d’Asimov, la réflexion de l’auteur reste prégnante et perspicace.
Toutefois, l’AID ne fait pas figure d’exception en créant la Red Team. L’Australie a émis le 15 juillet 2019 un appel d’offres afin de recevoir le maximum de scénarii d’anticipation possibles afin de renforcer ses armées. De même, il a été reconnu que la DARPA a impliqué I.Asimov afin d’optimiser les processus de création dans les années 1950. In fine, La course à la maîtrise de l’IA est entamée depuis plusieurs années et ne cesse de se renforcer. Il est donc essentiel pour chaque acteur souhaitant être une puissance en matière d’IA d’anticiper les futurs impacts et utilisations de cette technologie. Il ne faut cependant pas négliger l’impact des différences culturelles dans cette littérature. La Russie semble moins sensible à l’interdiction de l’armement des SALA comme en témoigne son prochain drone kamikaze ZALA AERO destiné à voler en essaim grâce à l’IA.
Sans surprise, les travaux de la Red Team resteront confidentiels afin de ne pas avantager de « potentiels adversaires », aussi bien étatiques que non-étatiques. En effet, la Red Team devra proposer des usages innovants des technologies actuelles, tel que l’implication de l’IA dans les systèmes d’armements. Les travaux de cette entité seront amenés à être communiqués aux autres services armés afin de diffuser cette capacité d’anticipation. La conséquence probable est de pouvoir enrichir les travaux déjà élaborés par l’apport des réflexions des autres services.
Romain Hénaff – Spécialiste IA