AI demistificat: AI și Apărare

#AI aici, AI acolo, AI, iată...
În ultimele luni, termenul „AI” (Inteligenta Artificială) a invadat lumea Aeronauticii și Apărării. Dar ce este mai exact?

Ar fi prezumtuos să dorim să acoperim toate aspectele legate de schimbările aduse de AI. Acesta nu este scopul acestei serii de 2 articole.
La fel, voi ignora anumite aspecte constitutive ale AI (ex: sistemul neuronal etc.) dar care nu sunt importante pentru subiectul acestor articole.

De la software CAD la Terminator, de la smartphone la DeepBlue sau AlphaGo, există multe moduri de AI.
Scopul acestor 2 articole este acolo: să re-popularizeze ceea ce se ascunde în spatele folosirii în totalitate a termenului vag, dacă nu chiar obscur, AI.

În introducere, să reamintim că interesul pentru IA nu este specific Aeronauticii și Apărării, ci apariția mai multor competiții:

• Puterea de calcul a sistemelor
• Volumul de date disponibile (#BigData)
• Interconectarea diferitelor sisteme (#IoT)
• Limbaje de programare avansate
• Cercetare de baza

Deci, AI nu este un concept recent.
Dar, așa cum acești vectori menționați mai sus evoluează exponențial, AI este „dusă” în această cursă infinită, iar vectorii săi permit astăzi niveluri de complexitate care nu erau posibile anterior.

Inteligența este capacitatea de a înțelege mediul și de a se adapta.

Articolul 1: IA și apărare

Introducere

Înainte de a începe, să închidem ușa unei idei preconcepute: Terminator.

Control.
După cum s-a subliniat pe bună dreptate Joseph Henrotin, o armată caută în primul rând să-și controleze mediul înconjurător (de aici și marea eficacitate a metodelor „guerrilă” în subminarea acestor armate regulate).
Hazardele nu au locul acolo; iar dacă nu pot fi îndepărtate, atunci necesită un răspuns mai complex și mai puțin optim. De fapt, precum „alegerile libere”, roboții autonomi în procesul lor de luare a deciziilor, precum Terminator, nu au locul.

Fără Terminator. Dar atunci, ce este AI și de ce?
Dacă este adevărat că termenul de #InteligentăArtificială se referă în cea mai pură teorie la o mașină înzestrată cu inteligență și interacțiune, cursa pentru această noțiune de „inteligență” înseamnă că unii au inventat așa-numitele „AI slabe”, care nu mai sunt au mult de-a face cu inteligența strict vorbind:

• Inteligența este capacitatea de a înțelege mediul și de a se adapta (de la sine în acest mediu și/sau din acest mediu către sine) apărute pe a învățare (Retex).
• Cu toate acestea, o bună parte din IA „slabă” sunt de fapt doar așa-numiții algoritmi „complexi”, dar care nu oferă fără capacități de învățare automată
  (ex: Spre deosebire de AlphaGo, DeepBlue nu avea nicio capacitate de învățare, dar a studiat o serie de posibilități... În mod ironic, acesta este punctul în care computerul nu a reușit să găsească „cea mai bună posibilitate” și a ales una la întâmplare pe care l-a destabilizat pe Kasparov și astfel bate)
• Apoi, o mașină este adesea un sistem de sisteme; AI poate fi aplicat numai unui anumit subsistem sau proces.
  (de exemplu, lansatoarele de momeală ale unei aeronave; astfel, NH90 este capabil să aibă prioritate față de pilot și să optimizeze răspunsul la o amenințare cunoscută; totuși nu este capabil să înlocuiască pilotul pentru toate acțiunile)

Big Data, date închise sau deschise, internetul lucrurilor, recunoașterea formelor sau a obiectelor... AI slabă, puternică... Noțiunea de IA este pe cât de vagă, pe atât de vastă, datorită acestei curse pentru obținerea sacrosantului titlu ceea ce a avut drept consecinţă a-l păta.
Pentru a simplifica, voi reorienta subiectul în jurul a 3 axe:

• În primul rând, dacă luăm aspectul „pur” al inteligenței artificiale, putem distinge 2 factori:
  • Sensibilitatea (sau Machine Learning), care este capacitatea de a înțelege și de a învăța. Această capacitate poate fi distinsă în 3 părți:
    • Fără capacitate de învățare
    • Capacitatea de a-și îmbogăți zona de înțelegere
    • Capacitatea de a învăța, adică de a-și dezvolta propriile lecții
  • Interacțiunile, care permit o percepție a mediului (primul pas spre înțelegerea care este traducerea acestor percepții)
    • Pasiv (primirea, dar nu transmiterea) sau Activ (transmiterea acțiunilor / luarea deciziilor)
    • Digitalizat (schimb de date) sau cu Realitatea
• vectori AI, cum ar fi BigData, IoT, care contribuie la AI, dar nu sunt ei înșiși AI strict vorbind.

Să intrăm în miezul subiectului:
Ce înseamnă părțile interesate din Apărare în spatele „AI”?

Ministerul Forțelor Armate și-a concentrat saltul digital în jurul a 6 axe:

• suport decizional și planificare
• inteligenta
• lupta de colaborare
• robotica
• operațiuni în spațiul cibernetic
• logistică și întreținere

1. O IA funcțională și non-globală

Acesta este primul punct:
După cum sa menționat în introducere, AI (sau alte dezvoltări similare) pot viza doar o singură funcționalitate. Nu suntem aici pe o IA globală, comandând un sistem de sisteme, dar un AI dedicat unei funcții, permițând utilizatorului să fie asistat prin automatizarea integrală sau parțială a unui proces.

Pe măsură ce sistemele devin din ce în ce mai complexe, ele necesită din ce în ce mai multe sarcini.
Astfel, personalul de la bordul unui #elicopter a crescut de la 2 la 3 și acum chiar 4, pentru a îndeplini același tip de misiune, dar cu adâncime sporită.
Pentru a modera acest efect, este, prin urmare, adecvată automatizarea anumitor procese:

• Nu este critic
• Standardizat și/sau sistematic
• Sau pentru a îmbunătăți timpul de răspuns

Personalul de la bordul unui elicopter a crescut de la 2 la 3 iar acum chiar 4...

2. Saltul generațional

Dacă #Aeronautica și #Apărarea are o reputație de excelență tehnologică datorită complexității fizice a sistemelor sale, a rămas totuși în urmă în „soft tech” până la punctul în care, în anii 2000, o situație s-a schimbat :
Inovația tehnologică nu a mai venit de la referenții A&D pentru a se extinde în universul public, ci invers: astfel, start-up-urile și alți actori din lumea civilă au invadat treptat rezervația unor târguri precum SOFINS sau cea a Le Bourget, sau chiar atracția #DGA.

Motivul?
Pe partea Apărării, motivul este destul de simplu: echipamentele anterioare, și chiar doctrinele, proveneau din Războiul Rece, în cel mai bun caz de la Retex din conflictele din Africa.

• În ceea ce privește doctrina, recentele conflicte foarte asimetrice, precum Afganistanul, ne-au forțat să revizuim multe aspecte.
• În ceea ce privește echipamentul, situația este mai simplă: cei din Războiul Rece au ajuns acum la sfârșitul vieții și, prin urmare, trebuie să fie retrași și înlocuiți sau nu cu echipamente care să respecte noile doctrine.

Această reînnoire a echipamentelor, care coincide cu schimbările de doctrină și cu sosirea start-up-urilor care redefinireau sau abordează din nou problemele (#ThinkOutOfTheBox), este un avantaj de care Apărarea ar fi într-adevăr greșit să se lipsească.
Nu este diferit de alte salturi generaționale, care aveau, de asemenea, propriile cuvinte la modă:

• 1800: artilerie
• 1870: trenul + fiabilitatea puștilor
• WW-I: aviație + chimie
• Al Doilea Război Mondial: mecanică + industrializare
• Războiul Rece: electronică + senzori
• 2019: drone + AI?

Această primă fază va fi mai mult utilizarea vectorilor AI decât a AI în sine

Dacă fiecare salt tehnologic a avut „ șofer(i)„, acestea chiar și-au văzut creșterea la mijlocul vieții, primele versiuni fiind mai mult o validare a soluțiilor de dezvoltat.
Cu toate acestea, aceste salturi tehnologice au fost susținute puternic și de maturitatea tehnologiilor anterioare. Acesta este efectul roții Deming urcând o lege naturală a îmbunătățirii.

Această primă fază de entuziasm în IA va fi, prin urmare, mai mult utilizarea vectorilor AI pentru a lansa roata evoluției pentru a realiza această viziune la mijlocul vieții.

Je gage par ailleurs que nous vivons là sans doute la dernière rupture technologique et allons quitter ce principe pour nous orienter vers un système analogue au POOGI (et le #FCAS, s'il est bien pensé en amont, pourrait tout à fait exploiter la méthode POOGI).
... Mais je m'éloigne du sujet...

3. Revenirea din urmă cu întârzierea digitală

Am realizat un tabel rapid care compară principalele soluții tehnologice față de cele 6 domenii prioritare identificate de Ministerul Forțelor Armate:
(răspunsurile nu sunt exclusive; acestea sunt principalele soluții adaptate fiecărei zone)

După cum putem vedea, răspunsurile care trebuie furnizate se referă mai puțin la AI decât la soluții care au existat în cea mai mare parte de 1 până la 2 decenii:

• Instrumente „tradiționale”:
  • aplicații de ajutor pentru utilizator
  • de Business Intelligence
• Instrumente legate de date:
  • Date mare
  • și schimbul acestora (IoT)
• Câteva soluții legate de AI
  • în principal pentru recunoașterea formei și urmărirea traiectoriei

Prin urmare, este mult mai puțin despre AI decât vectorii săi ce sunt :

• Date mare
• The #InternetOfThings (Internetul lucrurilor/Obiecte conectate)
• Business Intelligence, adică analiza (statistică) a datelor
• Aș adăuga, de asemenea, modelarea „neurală” a sistemelor (qui, selon moi, devrait émerger dans la décennie à venir)

Analytics.
BigData, IoT, BI, modelare neuronală... Toți acești vectori sunt instrumente folosite pentru analiza datelor și a relațiilor dintre aceste date. Pentru că miezul problemei este acolo:
La fel ca Google, armata caută să-și controleze mediul cât mai mult posibil și, prin urmare, să reducă pericolele. Prin urmare, acest lucru necesită o mare capacitate și profunzime în analiza datelor pentru a înțelege mediul cuiva și a-l putea influența cu control complet.
Suport pentru decizii și planificare... Inteligență... Întreținere... Toate aceste domenii necesită utilizarea analitică a datelor.

BigData, IoT, modélisation neuronale...
C'est aussi : information, échange, structuration systémique...
C'est pourquoi, à titre personnel, plus qu'une révolution d'Intelligence Artificielle, j'augure une révolution en #Systèmes de Systèmes et #Networkability (soit l'habileté à fonctionner en réseau, de manière intégrée).
A ce titre, les projets #Scorpion (Armée de Terre) et #FCAS (Armée de l'Air) sont deux premiers pas sur le chemin de la Networkability.

4. AI „slab”.

AI slabă nu este inteligentă: designerii săi au fost.

În cadrul introducerii, am prezentat noțiunea deAI „slab”, care este inteligent doar în proiectarea algoritmilor săi.
Cu alte cuvinte, AI slabă nu este inteligentă: designerii săi au fost.

După cum s-a menționat în aceeași introducere, AI pune a problemă de compatibilitate cu controlul său. Și chiar și un AI slab nu face excepție:
Astfel, DeepBlue a câștigat datorită unui bug, deci un defect care a dus la pierderea controlului, până la punctul în care Kasparov a crezut că un om controlează deciziile DeepBlue.

Provocarea pe care am asociat-o întotdeauna cu AI este teorema lui #Gödel:
Un sistem complet este inconsecvent și, de fapt, un sistem coerent este incomplet. Întreaga problemă va fi așadar să avem cel mai complet sistem posibil, asigurându-i în același timp consistența, altfel acest lucru va duce inevitabil la un bug AI sau o AI scăpată de sub control. Acest lucru este puțin ca ceea ce a experimentat DeepBlue.

Provocarea pe care am asociat-o întotdeauna cu AI este teorema lui Gödel.

Iată un tabel care rezumă această problemă:

După cum este ilustrat, inteligența posibilă pentru IA va fi invers proporțională cu nivelul său de interacțiuni, cu Realitatea în primul rând, dar și în ceea ce privește schimbul de date (IoT).

Și, întotdeauna în plus, oamenii vor trebui păstrează puterea de decizie finală :

• Având posibilitatea de a opri acest AI (vezi cazul 737 MAX)
• Sau pentru a o ajusta, în cazurile de învățare prin întărire
• Și prin menținerea unei opinii critice (fără încredere oarbă).

Acest ultim punct poate părea evident sau inutil și totuși:
AI sau nu, orice sistem de operare de date oferă doar un rezultat relevant, care este relativ, în ceea ce privește calitatea datelor de intrare și bug-urile pe care le conține.
Ți se pare de prisos această remarcă? 3 exemple:

• Drona Harfang: … din lipsă de ceva mai bun a servit, dar nu s-a remarcat prin fiabilitate
• Valeo & SAP: în urma trecerii sale prost implementate la SAP (în ceea ce privește alegerea arhitecturii și calitatea datelor), Valeo aproape a intrat în faliment. A fost salvat de clienții săi care și-au adus experiența în SAP.
• Personal, am avut ocazia să descopăr un bug critic într-un software CAPM renumit la vremea sa (pre-SAP), un bug care a avut drept consecință înmulțirea cantităților de cerințe.

Fără Terminator, ci umanul în centrul inteligenței.

în concluzie

Acest articol a urmărit pur și simplu să pună în perspectivă noțiunea de IA și să o relativizeze în raport cu proiectele de apărare.
Fără Terminator, departe de asta, și chiar oameni încă în centrul inteligenței, fie că de către personalul operațional în decizia finală, sau proiectanții de soluții algoritmice.

Dar atunci de ce atât de mult evidențiați AI ?
După cum sa menționat în capitolul despre salturile generaționale, este a da o direcție, o viziune ; să nu te constrângi sau să-și impună limite premature.

Julien Maire.