AI demystifikovaná: AI a obrana

#AI sem, AI tam, AI, tu máš...
V posledných mesiacoch prenikol do sveta letectva a obrany pojem „AI“ (umelá inteligencia). Ale čo to vlastne je?

Bolo by trúfalé pokryť všetky aspekty súvisiace so zmenami, ktoré priniesla AI. Toto nie je cieľom tejto série 2 článkov.
Podobne budem ignorovať určité základné aspekty AI (napr. nervový systém atď.), ktoré však nie sú dôležité pre predmet týchto článkov.

Od CAD softvéru po Terminator, od smartfónu po DeepBlue alebo AlphaGo, existuje veľa režimov AI.
Účel týchto 2 článkov je tu: znovu spopularizovať to, čo sa skrýva za úplným používaním vágneho, ak nie nejasného pojmu AI.

Na úvod si pripomeňme, že záujem o AI nie je špecifický pre letectvo a obranu, ale s príchodom niekoľkých súťaží:

• Výpočtový výkon systémov
• Objem dostupných údajov (#BigData)
• Prepojenie rôznych systémov (#IoT)
• Pokročilé programovacie jazyky
• Základný výskum

Umelá inteligencia teda nie je novým konceptom.
Ale rovnako ako sa tieto vyššie uvedené vektory vyvíjajú exponenciálne, AI je „unesená“ v tejto nekonečnej rase a jej vektory dnes umožňujú úrovne zložitosti, ktoré predtým neboli možné.

Inteligencia je schopnosť porozumieť svojmu prostrediu a prispôsobiť sa.

1. článok: AI a obrana

úvod

Skôr ako začneme, zatvorme dvere pred vopred vytvoreným nápadom: terminator.

Ovládanie.
Ako bolo správne zdôraznené Jospeh Henrotinarmáda sa v prvom rade snaží kontrolovať svoje prostredie (preto je veľká účinnosť „partizánskych“ metód pri podkopávaní týchto pravidelných armád).
Nebezpečenstvá tam nemajú miesto; a ak sa nedajú odstrániť, vyžadujú si komplexnejšiu a menej optimálnu reakciu. V skutočnosti, podobne ako „slobodné voľby“, roboty autonómne vo svojom rozhodovacom procese, ako napríklad Terminátor, nemajú miesto.

Žiadny Terminátor. Ale potom, čo je AI a prečo?
Ak je pravda, že výraz #Artificial Intelligence sa vo svojej najčistejšej teórii vzťahuje na stroj vybavený inteligenciou a interakciou, závod o tento pojem „inteligencia“ znamená, že niektorí vynašli takzvané „AI“, ktoré už nie sú majú veľa spoločného s inteligenciou, prísne vzaté:

• Inteligencia je schopnosť porozumieť svojmu prostrediu a prispôsobiť sa (zo seba do tohto prostredia a/alebo z tohto prostredia do seba) vznikajúce na a štúdium (Retex).
• Veľká časť „slabej“ AI sú však v skutočnosti len takzvané „komplexné“ algoritmy, ktoré však neponúkajú žiadne schopnosti strojového učenia
  (napr.: Na rozdiel od AlphaGo nemal DeepBlue žiadnu schopnosť učiť sa, ale študoval celý rad možností... Je iróniou, že toto je bod, keď počítač nedokázal nájsť „najlepšiu možnosť“ a náhodne si vybral jednu, ktorá destabilizovala Kasparova, a teda poraziť)
• Ďalej, stroj je často systém systémov; Umelá inteligencia môže byť aplikovaná iba na konkrétny podsystém alebo proces.
  (napr. návnady lietadla; teda NH90 je schopný mať prednosť pred pilotom a optimalizovať reakciu na známu hrozbu; nie je však schopný nahradiť pilota pri všetkých akciách)

Veľké dáta, uzavreté alebo otvorené dáta, internet vecí, rozpoznávanie tvarov alebo predmetov... Slabá, silná AI... Pojem umelá inteligencia je tak vágny ako rozsiahly, kvôli tomuto závodu o získanie posvätného titulu. čo malo za následok jeho pošpinenie.
Pre zjednodušenie premeriam objekt okolo 3 osí:

• Po prvé, ak vezmeme „čistý“ aspekt umelej inteligencie, potom môžeme rozlíšiť 2 faktory:
  • Citlivosť (alebo Machine Learning), čo je schopnosť porozumieť a učiť sa. Túto kapacitu možno rozdeliť na 3 časti:
    • Žiadna schopnosť učiť sa
    • Schopnosť obohatiť svoju oblasť porozumenia
    • Schopnosť učiť sa, t.j. rozvíjať vlastné lekcie
  • Interakcie, ktoré umožňujú vnímanie prostredia (1. krok k pochopeniu, čo je preklad týchto vnemov)
    • Pasívne (prijímanie, ale nevysielanie) alebo aktívne (vysielanie akcií / prijímanie rozhodnutí)
    • Digitalizované (výmena dát) alebo s Realitou
• vektory AI, ako sú BigData, IoT, ktoré prispievajú k AI, ale samy o sebe nie sú striktne povedané.

Poďme k podstate témy:
Čo znamenajú zainteresované strany v oblasti obrany pod „AI“?

Ministerstvo ozbrojených síl zameralo svoj digitálny skok okolo 6 osí:

• podpora rozhodovania a plánovanie
• inteligenciu
• kolaboratívny boj
• robotika
• operácie v kybernetickom priestore
• logistiky a údržby

1. Funkčná a neglobálna AI

Toto je prvý bod:
Ako už bolo spomenuté v úvode, AI (alebo iný podobný vývoj) sa môže týkať len jednej funkcionality. Nie sme tu na globálnej AI, ktorá ovláda systém systémov, ale AI venovaná funkcii, ktorá umožňuje používateľovi pomáhať automatizáciou celého procesu alebo jeho časti.

Ako sa systémy stávajú čoraz zložitejšími, vyžadujú si stále viac úloh.
Počet zamestnancov na palube helikoptéry sa teda zvýšil z 2 na 3 a teraz dokonca na 4, aby mohli vykonávať rovnaký typ misie, ale s väčšou hĺbkou.
Na zmiernenie tohto efektu je preto vhodné niektoré procesy automatizovať:

• Nie je to kritické
• Štandardizované a/alebo systematické
• Alebo zlepšiť čas odozvy

Personál na palube vrtuľníka sa zvýšil z 2 na 3 a teraz dokonca na 4...

2. Generačný skok

Ak má #Aeronautics and #Defense povesť technologickej dokonalosti kvôli fyzickej zložitosti svojich systémov, napriek tomu zaostáva v „soft tech“ do tej miery, že: v priebehu roku 2000 sa situácia zmenila :
Technologické inovácie už neprichádzali od referentov A&D, aby sa rozšírili do verejného vesmíru, ale naopak: start-upy a ďalší aktéri z civilného sveta postupne prenikli do oblasti veľtrhov ako SOFINS alebo Le Bourget, či dokonca atrakcií #DGA.

Dôvod?
Na strane obrany je dôvod celkom jednoduchý: predchádzajúce vybavenie a dokonca aj doktríny pochádzali zo studenej vojny, v lepšom prípade z Retexu z konfliktov v Afrike.

• Čo sa týka doktrín, nedávne veľmi asymetrické konflikty, ako napríklad Afganistan, nás prinútili preskúmať mnohé aspekty.
• Pokiaľ ide o vybavenie, situácia je jednoduchšia: tie zo studenej vojny už dosiahli koniec svojej životnosti, a preto musia byť stiahnuté a nahradené vybavením, ktoré spĺňa nové doktríny, alebo nie.

Táto obnova vybavenia, ktorá sa zhoduje so zmenami v doktríne a príchodom start-upov, ktoré nanovo definujú alebo približujú problémy (#ThinkOutOfTheBox), je prínosom, o ktorý by sa obrana skutočne mýlila.
Nelíši sa od ostatných generačných skokov, z ktorých každý mal tiež svoje hlášky:

• 1800: delostrelectvo
• 1870: vlak + spoľahlivosť pušiek
• WW-I: letectvo + chémia
• WW-II: mechanika + industrializácia
• Studená vojna: elektronika + senzory
• 2019: drony + AI?

Táto prvá fáza bude viac využívať vektory AI ako samotnú AI

Ak má každý technologický skok svoje „ vodič(i)“, tieto skutočne zaznamenali svoj rast v polovici životnosti, pričom prvé verzie boli skôr overením riešení, ktoré sa majú vyvinúť.
Tieto technologické skoky však výrazne podporila aj vyspelosť predchádzajúcich technológií. Toto je efekt Demingovho kolesa, ktorý stúpa po prirodzenom zákone zlepšovania.

Táto prvá fáza nadšenia v AI bude preto viac využívať vektory AI s cieľom spustiť koleso evolúcie s cieľom dosiahnuť túto víziu v polovici života.

Je gage par ailleurs que nous vivons là sans doute la dernière rupture technologique et allons quitter ce principe pour nous orienter vers un système analogue au POOGI (et le #FCAS, s'il est bien pensé en amont, pourrait tout à fait exploiter la méthode POOGI).
... Mais je m'éloigne du sujet...

3. Dobiehanie digitálneho oneskorenia

Urobil som rýchlu tabuľku porovnávajúcu hlavné technologické riešenia so 6 prioritnými oblasťami, ktoré určilo ministerstvo ozbrojených síl:
(odpovede nie sú exkluzívne; toto sú hlavné riešenia prispôsobené každej oblasti)

Ako vidíme, odpovede, ktoré treba poskytnúť, sa týkajú menej AI ako riešení, ktoré z väčšej časti existujú už 1 až 2 desaťročia:

• "Tradičné" nástroje:
  • aplikácie pomoci pre používateľov
  • Business Intelligence
• Nástroje súvisiace s údajmi:
  • Veľké dáta
  • a ich výmena (IoT)
• Niektoré riešenia spojené s AI
  • hlavne na rozpoznávanie tvarov a sledovanie trajektórie

Ide teda do značnej miery menej o AI ako o jej vektory čo sú :

• Veľké dáta
• #InternetOfThings (internet vecí / pripojené objekty)
• Business Intelligence, t.j. (štatistická) analýza údajov
• Pridal by som aj „neurálne“ modelovanie systémov (qui, selon moi, devrait émerger dans la décennie à venir)

Analytics.
BigData, IoT, BI, neurónové modelovanie... Všetky tieto vektory sú nástrojmi používanými na analýzu dát a vzťahov medzi týmito dátami. Pretože tam je jadro veci:
Podobne ako Google, aj armáda sa snaží čo najviac kontrolovať svoje prostredie, a tým znižovať riziká. To si preto vyžaduje veľkú kapacitu a hĺbku analýzy údajov, aby človek porozumel svojmu prostrediu a mohol ho ovplyvňovať s úplnou kontrolou.
Podpora rozhodovania a plánovanie… Inteligencia… Údržba… Všetky tieto oblasti si vyžadujú analytické využitie údajov.

BigData, IoT, modélisation neuronale...
C'est aussi : information, échange, structuration systémique...
C'est pourquoi, à titre personnel, plus qu'une révolution d'Intelligence Artificielle, j'augure une révolution en #Systèmes de Systèmes et #Networkability (soit l'habileté à fonctionner en réseau, de manière intégrée).
A ce titre, les projets #Scorpion (Armée de Terre) et #FCAS (Armée de l'Air) sont deux premiers pas sur le chemin de la Networkability.

4. „Slabá“ AI

Slabá AI nie je inteligentná: jej dizajnéri boli.

V úvode som predstavil pojem„Slabá“ AI, ktorá je inteligentná len pri návrhu svojich algoritmov.
Inými slovami, slabá AI nie je inteligentná: boli to jej dizajnéri.

Ako bolo uvedené v tom istom úvode, AI predstavuje a problém s kompatibilitou s jeho ovládaním. A dokonca ani slabá AI nie je výnimkou:
DeepBlue teda vyhral vďaka chybe, teda chybe vedúcej k strate kontroly do tej miery, že Kasparov veril, že rozhodnutia DeepBlue riadi človek.

Výzvou, ktorú som vždy spájal s AI, je #Gödelova veta:
Úplný systém je nekonzistentný a koherentný systém je v skutočnosti neúplný. Celý problém teda bude mať čo najúplnejší systém a zároveň zabezpečiť jeho konzistentnosť, inak to nevyhnutne povedie k chybe AI alebo k tomu, že sa AI vymkne kontrole. Toto je trochu podobné tomu, čo zažil DeepBlue.

Výzvou, ktorú som vždy spájal s AI, je Gödelova veta.

Tu je tabuľka zhrňujúca tento problém:

Ako je znázornené, inteligencia je možná AI bude nepriamo úmerná úrovni jej interakcií, pričom Realita je na prvom mieste, ale aj z hľadiska výmeny dát (IoT).

A vždy navyše budú musieť ľudia zachovať si konečnú rozhodovaciu právomoc :

• Vďaka možnosti vypnúť túto AI (pozri prípad 737 MAX)
• Alebo ho upraviť v prípade posilňovacieho učenia
• A udržiavaním kritického názoru (žiadna slepá dôvera).

Tento posledný bod sa môže zdať zrejmý alebo zbytočný, a predsa:
AI alebo nie, každý dátový operačný systém poskytuje iba relevantný výsledok, ktorý je relatívny, pokiaľ ide o kvalitu vstupných údajov a chyby, ktoré obsahuje.
Zdá sa vám táto poznámka zbytočná? 3 príklady:

• Dron Harfang: ... z nedostatku čohokoľvek lepšieho slúžil, ale nevynikal svojou spoľahlivosťou
• Valeo & SAP: po zle implementovanom prechode na SAP (z hľadiska výberu dátovej architektúry a kvality dát) Valeo takmer skrachovalo. Zachránili ho jeho zákazníci, ktorí priniesli svoje skúsenosti v SAP.
• Osobne som mal možnosť objaviť kritickú chybu v renomovanom softvéri CAPM svojho času (pred SAP), chybu, ktorá mala za následok znásobenie množstva požiadaviek.

Žiadny Terminátor, ale človek v srdci inteligencie.

na záver

Tento článok mal jednoducho za cieľ uviesť pojem AI do perspektívy a relativizovať ho vo vzťahu k obranným projektom.
Žiadny Terminátor, ďaleko od toho, a dokonca ľudia sú stále v srdci inteligencie, či prevádzkovým personálom pri konečnom rozhodovaní, prípadne dizajnérmi algoritmických riešení.

Ale prečo potom toľko zvýrazniť AI ?
Ako bolo spomenuté v kapitole o generačných skokoch, je dať smer, víziu ; neobmedzovať sa alebo si klásť predčasné limity.

Julien Maire.