AI avmystifierad: AI och försvar

#IA här, IA där, IA vill du ha lite här ...
Under de senaste månaderna har termen "AI" (artificiell intelligens) invaderat Aeronautics & Defense. Men vad är det exakt?

Det vore förmodigt att vilja ta itu med alla aspekter av de förändringar som AI medför. Detta är inte målet för denna serie med två artiklar.
På samma sätt kommer jag att ignorera vissa konstitutiva aspekter av AI (t.ex. neurala system, etc.) men som inte är viktiga för ämnet för dessa artiklar.

Från CAD-programvara till Terminator, från din smartphone till DeepBlue eller AlphaGo, det finns många lägen för AI.
Syftet med dessa två artiklar är där: att återpopularisera det som döljer sig bakom den totala användningen av den vaga, om inte oklara, termen AI.

Låt oss inledningsvis komma ihåg att intresset för AI inte är specifikt för flygteknik och försvar, utan tillkomsten av flera tävlingar:

• Systemens datorkraft
• Mängden tillgängliga data (#BigData)
• Sammankopplingen av olika system (#IoT)
• Avancerade programmeringsspråk
• Grundforskning

Så AI är inte ett nytt koncept.
Men precis som dessa vektorer som citeras framför allt utvecklas exponentiellt, "förs AI bort" i denna oändliga ras och dess vektorer möjliggör idag komplexitetsnivåer som tidigare inte var möjliga.

Intelligens är förmågan att förstå sin omgivning och anpassa sig.

Första artikeln: AI och försvar

Beskrivning

Innan vi börjar, låt oss stänga dörren till en förutfattad idé: terminator.

Kontrollera.
Som riktigt påpekat Jospeh Henrotin, försöker en armé först och främst kontrollera sin miljö (därav den stora effektiviteten hos "gerilla"metoder för att undergräva dessa reguljära arméer).
Faror har ingen plats där; och om de inte kan tas bort kräver de ett mer komplext och mindre optimalt svar. I själva verket, precis som "fria val", robotar autonoma i sin beslutsprocess, som Terminator, har faktiskt ingen plats.

Ingen Terminator. Men vad är AI och varför?
Om det är sant att termen #ArtificialIntelligence i sin renaste teori hänvisar till en maskin utrustad med intelligens och interaktion, betyder kapplöpningen för detta begrepp om "intelligens" att vissa har uppfunnit så kallade "AIs" som inte längre har mycket med intelligens att göra strikt sett:

• Intelligens är förmågan att förstå sin omgivning och anpassa sig (från sig själv till denna miljö och/eller från denna miljö till sig själv) som uppstår på en lärande (Retex).
• Men en stor del av "svag" AI är faktiskt bara så kallade "komplexa" algoritmer, men som inte erbjuder inga maskininlärningsmöjligheter
  (ex: Till skillnad från AlphaGo hade DeepBlue ingen inlärningsförmåga, men studerade en rad möjligheter... Ironiskt nog är detta punkten där datorn inte kunde hitta en "bästa möjlighet" och valde en slumpmässigt att han destabiliserade Kasparov och därmed slå)
• Därefter är en maskin ofta ett system av system; AI kan endast tillämpas på ett visst delsystem eller en viss process.
  (t.ex. ett flygplans lockutskjutare; sålunda kan NH90 ha företräde framför piloten och optimera ett svar på ett känt hot; den är dock inte kapabel att ersätta piloten för hela aktionen)

Big Data, stängda eller öppna data, Internet of Things, igenkänning av former eller föremål... Svag, stark AI... Begreppet AI är lika vagt som det är stort, på grund av denna kapplöpning om att få den heliga titeln vilket fick till följd att det blev smutsigt.
För att förenkla kommer jag att fokusera om ämnet runt tre axlar:

• Först och främst, om vi tar den "rena" aspekten av artificiell intelligens, kan vi sedan särskilja två faktorer:
  • Känsligheten (eller Machine Learning), vilket är förmågan att förstå och lära. Denna kapacitet kan i sig särskiljas i 3 delar:
    • Ingen inlärningsförmåga
    • Förmågan att berika sitt förståelseområde
    • Förmågan att lära, det vill säga utveckla sina egna lektioner
  • Interaktionerna, som tillåter en uppfattning av omgivningen (första steget mot förståelse vilket är översättningen av dessa uppfattningar)
    • Passiv (ta emot, men inte sända) eller Aktiv (sända åtgärder / fatta beslut)
    • Digitaliserat (datautbyte) eller med Reality
• AI-vektorer, som BigData, IoT, som bidrar till AI men inte själva är AI strikt sett.

Låt oss gå in i kärnan av ämnet:
Vad menar försvarsintressenter bakom "AI"?

Försvarsmakten har fokuserat sitt digitala språng kring 6 axlar:

• beslutsstöd och planering
• intelligens
• samarbetsstrid
• robotiken
• verksamhet i cyberrymden
• logistik och underhåll

1. En funktionell och icke-global AI

Detta är den första punkten:
Som nämnts i inledningen kan AI (eller andra liknande utvecklingar) endast beröra en funktionalitet. Vi är inte här på en global AI, som styr ett system av system, men en AI dedikerad till en funktion, vilket gör att användaren kan få hjälp genom att automatisera hela eller delar av en process.

I takt med att systemen blir mer och mer komplexa kräver de fler och fler uppgifter.
Därmed har personalen ombord på en #helikopter ökat från 2 till 3 och nu till och med 4, för att utföra samma typ av uppdrag, men med ökat djup.
För att dämpa denna effekt är det därför lämpligt att automatisera vissa processer:

• Inte kritiskt
• Standardiserad och/eller systematisk
• Eller för att förbättra svarstiden

Personalen ombord på en helikopter ökade från 2 till 3 och nu till och med 4...

2. Generationssprånget

Om #Aeronautics och #Defense har ett rykte om teknisk excellens på grund av den fysiska komplexiteten i dess system, har de ändå hamnat på efterkälken inom "mjuk teknik" till den grad att, under 2000-talet förändrades en situation :
Teknologisk innovation kom inte längre från A&D-referenser för att sträcka sig till det offentliga universum, utan tvärtom: alltså, nystartade företag och andra aktörer från den civila världen har gradvis invaderat området för mässor som SOFINS eller Le Bourgets, eller till och med attraktionen för #DGA.

Anledningen ?
På försvarssidan är anledningen ganska enkel: den tidigare utrustningen, och till och med doktrinerna, kom från det kalla kriget, i bästa fall från Retex från konflikterna i Afrika.

• På doktrinsidan har nyligen mycket asymmetriska konflikter som Afghanistan tvingat oss att se över många aspekter.
• På utrustningssidan är situationen enklare: de från det kalla kriget har nu nått slutet av sitt liv och måste därför dras tillbaka och ersättas eller inte av utrustning som uppfyller de nya doktrinerna.

Denna förnyelse av utrustning, som sammanfaller med förändringar i doktrinen och ankomsten av nystartade företag som omdefinierar eller omarbetar problemen (#ThinkOutOfTheBox), är en välsignelse som försvaret verkligen skulle göra fel att beröva sig själv.
Det skiljer sig inte från andra generationssprång, som var och en också hade sina egna modeord:

• 1800: artilleri
• 1870: tåget + gevärens tillförlitlighet
• WW-I: flyg + kemi
• WW-II: mekanik + industrialisering
• Kalla kriget: elektronik + sensorer
• 2019: drönare + AI?

Denna första fas kommer att vara mer användning av AI-vektorer än av AI själv

Om varje tekniskt språng har haft sitt " förare", dessa har verkligen sett sin tillväxt i mitten av livet, de första versionerna är mer av en validering av lösningarna som ska utvecklas.
Men dessa tekniska språng stöddes också starkt av mognad av tidigare teknologier. Detta är Deming Wheel-effekten som klättrar en naturlig lag för förbättring.

Denna första fas av entusiasm inom AI kommer därför att vara mer användningen av AI-vektorer för att lansera evolutionens hjul för att uppnå denna vision i mitten av livet.

Je gage par ailleurs que nous vivons là sans doute la dernière rupture technologique et allons quitter ce principe pour nous orienter vers un système analogue au POOGI (et le #FCAS, s'il est bien pensé en amont, pourrait tout à fait exploiter la méthode POOGI).
... Mais je m'éloigne du sujet...

3. Att komma ikapp med digital fördröjning

Jag gjorde en snabb tabell som jämförde de viktigaste tekniska lösningarna mot de 6 prioriterade områdena som identifierats av Försvarsmakten:
(svaren är inte exklusiva, det här är huvudlösningarna anpassade till varje område)

Som vi kan se relaterar svaren som ska tillhandahållas mindre till AI än till lösningar som har funnits för det mesta i 1 till 2 decennier:

• "Traditionella" verktyg:
  • användarhjälpapplikationer
  • av Business Intelligence
• Datarelaterade verktyg:
  • Big Data
  • och utbytet därav (IoT)
• Några lösningar kopplade till AI
  • främst för formigenkänning och banspårning

Det handlar därför mycket mindre om AI än dess vektorer vad är :

• Big Data
• The #InternetOfThings (Internet of Things / Connected Objects)
• Business Intelligence, det vill säga den (statistiska) analysen av data
• Jag skulle också lägga till "neural" modellering av system (qui, selon moi, devrait émerger dans la décennie à venir)

Analytics.
BigData, IoT, BI, neural modellering... Alla dessa vektorer är verktyg som används för analys av data och relationer mellan dessa data. För kärnan i saken finns där:
Precis som Google försöker armén kontrollera sin miljö så mycket som möjligt och därför minska riskerna. Detta kräver därför stor kapacitet och djup i dataanalys för att förstå sin omgivning och kunna påverka den med full kontroll.
Beslutsstöd och planering... Intelligens... Underhåll... Alla dessa områden kräver analytisk användning av data.

BigData, IoT, modélisation neuronale...
C'est aussi : information, échange, structuration systémique...
C'est pourquoi, à titre personnel, plus qu'une révolution d'Intelligence Artificielle, j'augure une révolution en #Systèmes de Systèmes et #Networkability (soit l'habileté à fonctionner en réseau, de manière intégrée).
A ce titre, les projets #Scorpion (Armée de Terre) et #FCAS (Armée de l'Air) sont deux premiers pas sur le chemin de la Networkability.

4. "Svag" AI

Svag AI är inte intelligent: dess designers var.

Under inledningen presenterade jag begreppet"Svag" AI, som bara är intelligent i designen av sina algoritmer.
Med andra ord, svag AI är inte intelligent: dess designers var.

Som nämnts i samma introduktion, utgör AI en kompatibilitetsproblem med dess kontroll. Och även en svag AI är inget undantag:
Således vann DeepBlue tack vare en bugg, därför ett fel som resulterade i en förlust av kontroll, till den grad att Kasparov trodde att en människa kontrollerade DeepBlues beslut.

Utmaningen jag alltid har förknippat med AI är #Gödels teorem:
Ett komplett system är inkonsekvent och i själva verket är ett sammanhängande system ofullständigt. Hela problemet blir därför att ha ett så komplett system som möjligt samtidigt som man säkerställer dess konsistens, annars kommer detta oundvikligen att leda till en AI-bugg eller en AI utom kontroll. Det här är lite som vad DeepBlue upplevde.

Utmaningen jag alltid har förknippat med AI är Gödels sats.

Här är en tabell som sammanfattar problemet:

Som illustreras, intelligensen möjligt för AI kommer att vara omvänt proportionell mot dess nivå av interaktioner, med Reality i första hand, men också när det gäller datautbyte (IoT).

Och alltid dessutom måste människor behålla den slutliga beslutanderätten :

• Genom att ha möjlighet att stänga av denna AI (se fall 737 MAX)
• Eller för att justera det, i fall av förstärkningsinlärning
• Och genom att upprätthålla en kritisk åsikt (ingen blind tillit).

Denna sista punkt kan verka uppenbar eller meningslös, och ändå:
AI eller inte, vilket dataoperativsystem som helst ger bara ett relevant resultat som är relativt, med hänsyn till kvaliteten på dess indata och de buggar det innehåller.
Tycker du att denna kommentar är överflödig? 3 exempel:

• Harfang-drönaren: … i brist på något bättre tjänade den, men stod inte ut för sin tillförlitlighet
• Valeo & SAP: efter sin dåligt implementerade övergång till SAP (när det gäller val av dataarkitektur och datakvalitet) gick Valeo nästan i konkurs. Det räddades av sina kunder som tog med sin erfarenhet av SAP.
• Personligen hade jag möjlighet att upptäcka en kritisk bugg i en välkänd CAPM-mjukvara på sin tid (pre-SAP), en bugg som fick till följd att mängden krav multiplicerades.

Ingen Terminator, utan människan i hjärtat av intelligens.

avslutningsvis

Den här artikeln syftade helt enkelt till att sätta begreppet AI i perspektiv och relativisera det i förhållande till försvarsprojekt.
Ingen Terminator, långt därifrån, och till och med människor fortfarande i hjärtat av intelligens, huruvida av operativ personal i det slutliga beslutet, eller designers av algoritmiska lösningar.

Men varför så mycket då markera AI ?
Som nämnts i kapitlet om generationssprång är det så att ge en riktning, en vision ; att inte begränsa dig själv eller sätta gränser för sig själv i förtid.

Julien Maire.