АИ демистификована: АИ и одбрана

#АИ овде, АИ тамо, АИ, изволи…
Последњих месеци, термин „АИ“ (вештачка интелигенција) је напао свет аеронаутике и одбране. Али шта је то тачно?

Било би дрско желети да покријемо све аспекте у вези са променама које је донела вештачка интелигенција. Ово није циљ ове серије од 2 чланка.
Исто тако, занемарићу одређене саставне аспекте АИ (нпр.: неуронски систем, итд.), али који нису важни за предмет ових чланака.

Des logiciels de CAO à Terminator, en passant par votre Smartphone et DeepBlue ou AlphaGo, il existe de nombreux modes d’IA.
L’objet de ces 2 articles est bien là : re-vulgariser ce qui se cache derrière l’emploi tous azimuts du terme flou, sinon obscur, de IA.

En introduction, rappelons que l’intérêt porté à l’IA n’est pas propre à l’Aéronautique et Défense, mais l’avènement de plusieurs concours :

• La puissance de calcul des systèmes
• La volumétrie de données à disposition (#BigData)
• L’inter-connexion des différents systèmes (#IoT)
• Des langages de programmation avancés
• La recherche fondamentale

Ainsi, l’IA n’est pas une notion récente.
Mais, tout comme ces vecteurs cités ci-dessus évoluent tous de manière exponentielle, l’IA est « emportée » dans cette course infinie et ses vecteurs permettent aujourd’hui des niveaux de complexité qui n’étaient pas possibles précédemment.

L’intelligence est la capacité de compréhension de son environnement et d’adaptation.

1er Article : l’IA et la Défense

увод

Avant de commencer, fermons la porte à une idée reçue : Терминатор.

Контрола.
Comme le rappelait à juste titre Jospeh Henrotin, une armée cherche en premier lieu à contrôler son environnement (d’où la grande efficacité des modes de « guérilla » pour mettre à mal ces armées régulières).
Les aléas n’y ont pas leur place ; et s’ils ne peuvent être supprimés, ils nécessitent alors une réponse plus complexe et moins optimale. De fait, comme les « élections libres », des robots autonomes dans leur processus de décision, tels que Terminator, n’ont pas leur place.

Pas de Terminator. Mais alors, qu’est-ce que l’IA et pourquoi ?
S’il est vrai que le terme de #IntelligenceArtificielle se rapporte dans sa théorie la plus pure à une machine dotée d’intelligence et d’interaction, la course à cette notion d’ « intelligence » fait que certains ont inventé des IA dites « faibles », qui n’ont plus grand chose à voir avec l’intelligence proprement dite :

• L’intelligence est la capacité de compréhension de son environnement et d’adaptation (de soi à cet environnement et/ou de cet environnement à soi) découlant sur un учење (Retex).
• Or, une bonne part d’IA « faibles » ne sont en fait que des algorithmes dits « complexes », mais n’offrant aucune capacité d’apprentissage à la machine
  (ex : A l’inverse de AlphaGo, DeepBlue n’avait aucune faculté d’apprentissage, mais étudiait un éventail de possibilités… Ironiquement, c’est le coup où l’ordinateur n’a pas su trouver de « meilleure possibilité » et en choisi une au hasard qu’il a déstabilisé Kasparov et ainsi battu)
• Ensuite, une machine est souvent un système de systèmes ; l’IA peut être appliquée seulement à un sous-système ou un processus particulier.
  (ex : les lance-leurres d’un appareil ; ainsi, le NH90 est capable de prendre le pas sur le pilote et optimiser une réponse à une menace connue ; il n’est pas pour autant capable de remplacer le pilote pour l’ensemble des actions)

Big Data, données fermées ou ouvertes, l’Internet des Objets, reconnaissance de formes ou d’objets… IA faible, forte… La notion d’IA est aussi vague qu’elle est vaste, du fait de cette course à l’obtention du sacro-saint titre qui eut pour conséquence de le galvauder.
Pour simplifier, je vais recentrer le sujet autour de 3 axes :

• Tout d’abord, si l’on reprend l’aspect « pur » de l’Intelligence Artificielle, on peut alors distinguer 2 facteurs :
  • Сензибилитет (ou le Machine Learning), qui est la capacité de compréhension et d’apprentissage. Cette capacité peut elle-même être distinguée en 3 parties :
    • Aucune capacité d’apprentissage
    • La capacité à enrichir son domaine de compréhension
    • La capacité à apprendre, soit développer ses propres enseignements
  • Интеракције, qui permettent une perception de l’environnement (1ère étape vers la compréhension qui est la traduction de ces perceptions)
    • Passives (réception, mais pas d’émission) ou Actives (émission d’actions / prise de décisions)
    • Digitalisées (échange de données) ou avec le Réel
• Les vecteurs d’IA, tels que le BigData, l’IoT, qui concourent à l’IA mais ne sont pas eux-mêmes de l’IA à proprement parler.

Rentrons dans le vif du sujet :
Qu’entendent les acteurs de la Défense derrière « IA » ?

Le Ministère des Armées a axé son saut digital autour de 6 axes :

• l’aide à la décision et à la planification
• le renseignement
• le combat collaboratif
• la robotique
• les opérations dans le cyberespace
• la logistique et la maintenance

1. Une IA fonctionnelle et non globale

C’est le premier point :
Comme évoqué lors de l’introduction, l’IA (ou autre évolution approchante) peut ne concerner qu’une fonctionnalité. On n’est pas là sur une IA globale, commandant un système de systèmes, mais une IA dédiée à une fonction, permettant d’assister l’utilisateur en automatisant tout ou partie d’un processus.

Les systèmes étant de plus en plus complexes, ils nécessitent de plus en plus de tâches.
Ainsi, les personnels à bord d’un #hélicoptère sont passés de 2 à 3 et même désormais 4, pour effectuer le même type de mission, mais avec une profondeur exacerbée.
Il convient donc, pour modérer cet effet, d’automatiser certains processus :

• Non critiques
• Standardisés et/ou systématiques
• Ou pour améliorer le temps de réponse

Les personnels à bord d’un hélicoptère sont passés de 2 à 3 et même désormais 4 …

2. Le saut générationnel

Si l’ #Aéronautique et #Défense a une réputation d’excellence technologique de par la complexité physique de ses systèmes, elle a néanmoins accumulé un retard dans les « soft tech » au point que, au cours des années 2000, une donne a changée :
L’innovation technologique ne venait plus des référents de l’A&D pour s’étendre à l’univers public, mais l’inverse : ainsi, des start-up et d’autres acteurs du monde civil ont peu à peu envahi la chasse gardée de salons tels que SOFINS ou celui du Bourget, ou encore l’attrait de la #DGA.

Разлог ?
Côté Défense, la raison est assez simple : les précédents matériels, et même les doctrines, étaient issus de la Guerre Froide, au mieux de Retex des conflits en Afrique.

• Côté doctrines, les récents conflits très asymétriques tels que l’Afghanistan ont obligé à revoir bien des aspects.
• Du côté des matériels, la donne est plus simple : ceux issus de la guerre froide sont maintenant arrivés en bout de vie et doivent donc être retirés et remplacés ou non par des matériels répondant aux nouvelles doctrines.

Ce renouvellement de matériels, coincidant avec les changements de doctrines et l’arrivée de start-up redéfinissant ou réapprochant les problématiques (#ThinkOutOfTheBox), est une aubaine dont la Défense aurait en effet tort de se priver.
Il n’est pas différent des autres sauts générationnels, qui ont chacuns eu aussi leurs mots-clés d’engouements :

• 1800 : l’artillerie
• 1870 : le train + la fiabilité des fusils
• WW-I : l’aviation + la chimie
• WW-II : la mécanique + l’industrialisation
• Guerre Froide : l’électronique + les capteurs
• 2019 : les drones + l’IA ?

Cette première phase sera plus l’utilisation des vecteurs de l’IA que de l’IA elle-même

Si chaque saut technologique a eu son/ses « driver(s)« , ceux-ci ont réellement vu leur essor à mi-vie, les premières versions étant plus une validation des solutions à développer.
Pour autant, ces sauts technologiques ont été aussi fortement supportés par l’arrivée à maturité des technologies précédentes. C’est l’effet de Roue de Deming grimpant une loi normale de l’amélioration.

Cette première phase d’engouement dans l’IA sera donc plus l’utilisation des vecteurs d’IA afin de lancer la roue de l’évolution afin d’atteindre à mie-vie cette vision.

Je gage par ailleurs que nous vivons là sans doute la dernière rupture technologique et allons quitter ce principe pour nous orienter vers un système analogue au POOGI (et le #FCAS, s'il est bien pensé en amont, pourrait tout à fait exploiter la méthode POOGI).
... Mais je m'éloigne du sujet...

3. Le rattrapage d’un retard digital

J’ai fait un rapide tableau confrontant les principales solutions technologiques face aux 6 domaines prioritaires identifiés par le Ministère des Armées :
(les réponses ne sont pas exclusives ; il s’agit des principales solutions adaptées à chaque domaine)

Comme on peut le voir, les réponses à apporter relèvent moins de l’IA que de solutions existant pour une bonne part depuis 1 à 2 décennies :

• Des outils « traditionnels » :
  • des applications d’aide utilisateurs
  • du Business Intelligence
• Des outils liés à la Data :
  • du Big-Data
  • et l’échange de celle-ci (IoT)
• Quelques solutions liées à de l’IA
  • principalement pour de la reconnaissance de forme et du tracking de trajectoires

Il s’agit en bonne part donc moins d’IA que de ses vecteurs que sont :

• Le Big-Data
• Le #InternetOfThings (Internet des Objets / Objets Connectés)
• Le Business Intelligence, soit l’analyse (statistique) de données
• J’ajouterais également la modélisation « neuronale » de systèmes (qui, selon moi, devrait émerger dans la décennie à venir)

L’Analytics.
BigData, IoT, BI, modélisation neuronale… Tous ces vecteurs sont des outils servant à l’analyse de données et de relations entre ces données. Car le coeur du sujet est bien là :
A l’instar de Google, l’Armée cherche à contrôler au maximum son environnement et réduire donc les aléas. Cela suppose donc une grande capacité et profondeur dans l’analyse de données afin de comprendre son environnement et pouvoir influer dessus en toute maitrise.
Aide à la Décision et à la Planification… Renseignement… Maintenance… Tous ces domaines font appel à l’exploitation analytique de données.

BigData, IoT, modélisation neuronale...
C'est aussi : information, échange, structuration systémique...
C'est pourquoi, à titre personnel, plus qu'une révolution d'Intelligence Artificielle, j'augure une révolution en #Systèmes de Systèmes et #Networkability (soit l'habileté à fonctionner en réseau, de manière intégrée).
A ce titre, les projets #Scorpion (Armée de Terre) et #FCAS (Armée de l'Air) sont deux premiers pas sur le chemin de la Networkability.

4. De l’IA « faible »

L’IA faible n’est pas intelligente : ce sont ses concepteurs qui l’ont été.

J’ai présenté durant l’introduction la notion d’IA « faible », qui n’a d’intelligent que la conception de ses algorithmes.
En d’autres termes, l’IA faible n’est pas intelligente : ce sont ses concepteurs qui l’ont été.

Comme évoqué dans cette même introduction, l’IA pose un problème de compatibilité avec son contrôle. Et même une IA faible n’y échappe pas :
Ainsi, DeepBlue a gagné grâce à un bug, donc une faille se traduisant par une perte de contrôle, au point que Kasparov a cru qu’un humain commandait les décisions de DeepBlue.

Le défi que j’ai toujours associé à l’IA est le théorème de #Gödel :
Un système complet est inconsistant et, de fait, un système cohérent est incomplet. Tout le problème va donc être d’avoir le système le plus complet possible tout en assurant sa cohérence sans quoi cela entrainera immanquablement à un bug de l’IA ou une IA hors de contrôle. C’est un peu ce qu’a vécu DeepBlue.

Le défi que j’ai toujours associé à l’IA est le théorème de Gödel.

Voici un tableau synthétisant cette problématique :

Comme illustré, l’intelligence possible pour l’IA sera inversement proportionnelle à son niveau d’interactions, avec le Réel en premier lieu, mais aussi en terme d’échange de données (IoT).

Et, toujours en sus, l’humain devra conserver le pouvoir de décision finale :

• En ayant la possibilité d’éteindre cette IA (cf. cas 737 MAX)
• Ou de l’ajuster, dans les cas d’apprentissage par renforcements
• Et en conservant un avis critique (pas de confiance à l’aveugle).

Ce dernier point peut paraitre évident, ou futile, et pourtant :
IA ou pas, tout système d’exploitation de données ne donne un résultat pertinent que tout relatif, au regard de la qualité de ses données d’entrées et des bugs qu’il contient.
Cette remarque vous semble superflue ? 3 exemples :

• Le drone Harfang : … faute de mieux il a servi, mais n’a pas brillé par sa fiabilité
• Valeo & SAP : suite à son passage à SAP, mal implémenté (en choix d’architecture de données et en qualité des données), Valeo a bien failli faire faillite. Il fut sauvé par ses clients qui lui ont apporté leur expérience en matière de SAP.
• A titre personnel, j’ai eu l’occasion de découvrir un bug critique dans un logiciel de GPAO de renom en son temps (pré-SAP), bug qui avait pour conséquence de démultiplier les quantités de besoins.

Pas de Terminator, mais bien l’humain au coeur de l’intelligence.

u закључку

Cet article avait juste pour but de remettre en perspective et relativiser la notion d’IA par rapport aux projets en matière de Défense.
Pas de Terminator, bien loin de là, et même l’humain encore au coeur de l’intelligence, да ли је par les opérationnels dans la décision finale, ou des concepteurs de solutions algorithmiques.

Mais alors, pourquoi tant mettre en avant l’IA ?
Comme évoqué dans le chapitre sur les sauts générationnels, c’est pour donner un cap, une vision ; ne pas se contraindre ou s’imposer de limites prématurées.

Јулиен Маире.