AI απομυθοποιημένο: AI και Defense

#IA εδώ, IA εκεί, IA θέλεις κάποια εδώ ...
Τους τελευταίους μήνες, ο όρος «AI» (Τεχνητή Νοημοσύνη) εισέβαλε στον κόσμο της Αεροναυτικής & Άμυνας. Αλλά τι ακριβώς είναι;

Θα ήταν αλαζονικό να θέλουμε να αντιμετωπίσουμε όλες τις πτυχές των αλλαγών που επέφερε η AI. Αυτός δεν είναι ο στόχος αυτής της σειράς 2 άρθρων.
Ομοίως, θα αγνοήσω ορισμένες συστατικές πτυχές του AI (π.χ. νευρικό σύστημα, κ.λπ.), αλλά οι οποίες δεν είναι σημαντικές για το αντικείμενο αυτών των άρθρων.

Από το λογισμικό CAD μέχρι το Terminator, από το Smartphone σας μέχρι το DeepBlue ή το AlphaGo, υπάρχουν πολλοί τρόποι τεχνητής νοημοσύνης.
Ο σκοπός αυτών των 2 άρθρων είναι εκεί: να επαναδημοτικοποιηθεί αυτό που κρύβεται πίσω από την πλήρη χρήση του ασαφούς, αν όχι σκοτεινού, όρου AI.

Εισαγωγικά, ας υπενθυμίσουμε ότι το ενδιαφέρον για την τεχνητή νοημοσύνη δεν αφορά αποκλειστικά την Αεροναυπηγική και την Άμυνα, αλλά την εμφάνιση αρκετών διαγωνισμών:

• Η υπολογιστική ισχύς των συστημάτων
• Ο όγκος των διαθέσιμων δεδομένων (#BigData)
• Η διασύνδεση διαφορετικών συστημάτων (#IoT)
• Προηγμένες γλώσσες προγραμματισμού
• Βασική έρευνα

Έτσι, η τεχνητή νοημοσύνη δεν είναι μια πρόσφατη ιδέα.
Όμως, ακριβώς όπως αυτά τα διανύσματα που αναφέρθηκαν παραπάνω εξελίσσονται εκθετικά, η τεχνητή νοημοσύνη «παρασύρεται» σε αυτόν τον άπειρο αγώνα και τα διανύσματά του σήμερα επιτρέπουν επίπεδα πολυπλοκότητας που δεν ήταν προηγουμένως δυνατά.

Η νοημοσύνη είναι η ικανότητα να κατανοεί κανείς το περιβάλλον του και να προσαρμόζεται.

1ο Άρθρο: AI και Άμυνα

Εισαγωγή

Πριν ξεκινήσουμε, ας κλείσουμε την πόρτα σε μια προκατασκευασμένη ιδέα: Terminator.

Ελεγχος.
Όπως σωστά επισημάνθηκε Jospeh Henrotin, ένας στρατός επιδιώκει πρώτα απ' όλα να ελέγξει το περιβάλλον του (εξ ου και η μεγάλη αποτελεσματικότητα των «ανταρτικών» μεθόδων στην υπονόμευση αυτών των τακτικών στρατών).
Οι κίνδυνοι δεν έχουν θέση εκεί. και αν δεν μπορούν να αφαιρεθούν, τότε απαιτούν μια πιο περίπλοκη και λιγότερο βέλτιστη απόκριση. Στην πραγματικότητα, όπως οι «ελεύθερες εκλογές», τα ρομπότ αυτόνομα στη διαδικασία λήψης αποφάσεων, όπως το Terminator, δεν έχουν θέση.

Χωρίς Εξολοθρευτή. Αλλά τότε, τι είναι η AI και γιατί;
Εάν είναι αλήθεια ότι ο όρος #ArtificialIntelligence αναφέρεται στην πιο αγνή θεωρία του σε μια μηχανή προικισμένη με ευφυΐα και αλληλεπίδραση, η κούρσα για αυτήν την έννοια της «νοημοσύνης» σημαίνει ότι κάποιοι έχουν εφεύρει τα λεγόμενα «αδύναμα» AIs έχουν πολύ να κάνουν με την ευφυΐα, αυστηρά:

• Η νοημοσύνη είναι η ικανότητα να κατανοεί κανείς το περιβάλλον του και να προσαρμόζεται (από τον εαυτό του σε αυτό το περιβάλλον και/ή από αυτό το περιβάλλον στον εαυτό του) που προκύπτουν σε α μάθηση (Retex).
• Ωστόσο, ένα μεγάλο μέρος της «αδύναμης» τεχνητής νοημοσύνης είναι στην πραγματικότητα μόνο οι λεγόμενοι «σύνθετοι» αλγόριθμοι, οι οποίοι όμως δεν προσφέρουν δεν υπάρχουν δυνατότητες μηχανικής εκμάθησης
  (π.χ.: Σε αντίθεση με το AlphaGo, το DeepBlue δεν είχε ικανότητα μάθησης, αλλά μελέτησε μια σειρά από δυνατότητες... Κατά ειρωνικό τρόπο, αυτό είναι το σημείο όπου ο υπολογιστής δεν μπόρεσε να βρει μια "καλύτερη πιθανότητα" και επέλεξε τυχαία ότι αποσταθεροποίησε τον Κασπάροφ και έτσι Ρυθμός)
• Στη συνέχεια, μια μηχανή είναι συχνά ένα σύστημα συστημάτων. Το AI μπορεί να εφαρμοστεί μόνο σε ένα συγκεκριμένο υποσύστημα ή διεργασία.
  (π.χ. οι εκτοξευτές δόλωμα ενός αεροσκάφους· επομένως, το NH90 μπορεί να έχει προτεραιότητα έναντι του πιλότου και να βελτιστοποιήσει την απόκριση σε μια γνωστή απειλή· ωστόσο δεν είναι ικανό να αντικαταστήσει τον πιλότο για όλες τις ενέργειες)

Μεγάλα δεδομένα, κλειστά ή ανοιχτά δεδομένα, Διαδίκτυο των πραγμάτων, αναγνώριση σχημάτων ή αντικειμένων... Αδύναμη, ισχυρή τεχνητή νοημοσύνη... Η έννοια της τεχνητής νοημοσύνης είναι τόσο ασαφής όσο και τεράστια, λόγω αυτής της κούρσας για την απόκτηση του ιερού τίτλου που είχε ως συνέπεια να το αμαυρώσει.
Για απλοποίηση, θα εστιάσω ξανά το θέμα γύρω από 3 άξονες:

• Πρώτα απ 'όλα, αν πάρουμε την «καθαρή» πτυχή της Τεχνητής Νοημοσύνης, μπορούμε στη συνέχεια να διακρίνουμε 2 παράγοντες:
  • Η ευαισθησία (ή Machine Learning), που είναι η ικανότητα κατανόησης και μάθησης. Αυτή η χωρητικότητα μπορεί να διακριθεί σε 3 μέρη:
    • Καμία μαθησιακή ικανότητα
    • Η ικανότητα να εμπλουτίζει κανείς την περιοχή κατανόησης
    • Η ικανότητα να μαθαίνει κανείς, δηλαδή να αναπτύσσει τα δικά του μαθήματα
  • Οι αλληλεπιδράσεις, που επιτρέπουν την αντίληψη του περιβάλλοντος (1ο βήμα προς την κατανόηση ποια είναι η μετάφραση αυτών των αντιλήψεων)
    • Παθητική (λήψη, αλλά όχι μετάδοση) ή Ενεργητική (μετάδοση ενεργειών / λήψη αποφάσεων)
    • Ψηφιοποιημένο (ανταλλαγή δεδομένων) ή με την πραγματικότητα
• Διανύσματα AI, όπως τα BigData, IoT, τα οποία συνεισφέρουν στην τεχνητή νοημοσύνη αλλά δεν είναι οι ίδιοι τεχνητή νοημοσύνη, αυστηρά μιλώντας.

Ας μπούμε στην ουσία του θέματος:
Τι εννοούν τα ενδιαφερόμενα μέρη της Άμυνας πίσω από το «AI»;

Το Υπουργείο Ενόπλων Δυνάμεων έχει επικεντρώσει το ψηφιακό του άλμα γύρω από 6 άξονες:

• υποστήριξη και σχεδιασμός αποφάσεων
• νοημοσύνη
• συλλογική μάχη
• η ρομποτική
• επιχειρήσεις στον κυβερνοχώρο
• υλικοτεχνική υποστήριξη και συντήρηση

1. Ένα λειτουργικό και μη παγκόσμιο AI

Αυτό είναι το πρώτο σημείο:
Όπως αναφέρθηκε στην εισαγωγή, η τεχνητή νοημοσύνη (ή άλλες παρόμοιες εξελίξεις) μπορεί να αφορούν μόνο μία λειτουργία. Δεν είμαστε εδώ σε μια παγκόσμια τεχνητή νοημοσύνη, που διοικούμε ένα σύστημα συστημάτων, αλλά μια τεχνητή νοημοσύνη αφιερωμένη σε μια λειτουργία, που επιτρέπει στον χρήστη να βοηθηθεί με την αυτοματοποίηση του συνόλου ή μέρους μιας διαδικασίας.

Καθώς τα συστήματα γίνονται όλο και πιο περίπλοκα, απαιτούν όλο και περισσότερες εργασίες.
Έτσι, το προσωπικό σε ένα #ελικόπτερο έχει αυξηθεί από 2 σε 3 και τώρα ακόμη και 4, για την εκτέλεση του ίδιου τύπου αποστολής, αλλά με αυξημένο βάθος.
Για να μετριαστεί αυτό το αποτέλεσμα, είναι επομένως σκόπιμο να αυτοματοποιηθούν ορισμένες διαδικασίες:

• Όχι επικριτικό
• Τυποποιημένη και/ή συστηματική
• Ή για τη βελτίωση του χρόνου απόκρισης

Το προσωπικό σε ελικόπτερο αυξήθηκε από 2 σε 3 και τώρα ακόμη και 4...

2. Το άλμα γενεών

Αν η #Aeronautics and #Defense έχει τη φήμη της τεχνολογικής υπεροχής λόγω της φυσικής πολυπλοκότητας των συστημάτων της, ωστόσο έχει μείνει πίσω στην «soft tech» σε σημείο που, κατά τη δεκαετία του 2000, η ​​κατάσταση άλλαξε :
Η τεχνολογική καινοτομία δεν προήλθε πλέον από αναφορές A&D για να επεκταθεί στο δημόσιο σύμπαν, αλλά το αντίστροφο: νεοφυείς επιχειρήσεις και άλλοι παράγοντες από τον αστικό κόσμο έχουν εισβάλει σταδιακά στο καταφύγιο εμπορικών εκθέσεων όπως η SOFINS ή αυτή του Le Bourget, ή ακόμα και η έλξη της #DGA.

Ο λόγος ?
Από την πλευρά της Άμυνας, ο λόγος είναι αρκετά απλός: ο προηγούμενος εξοπλισμός, ακόμη και τα δόγματα, προήλθαν από τον Ψυχρό Πόλεμο, στην καλύτερη περίπτωση από το Retex από τις συγκρούσεις στην Αφρική.

• Από την πλευρά του δόγματος, οι πρόσφατες πολύ ασύμμετρες συγκρούσεις όπως το Αφγανιστάν μας ανάγκασαν να αναθεωρήσουμε πολλές πτυχές.
• Από την πλευρά του εξοπλισμού, η κατάσταση είναι απλούστερη: εκείνοι από τον Ψυχρό Πόλεμο έχουν πλέον φτάσει στο τέλος της ζωής τους και, ως εκ τούτου, πρέπει να αποσυρθούν και να αντικατασταθούν ή όχι από εξοπλισμό που πληροί τα νέα δόγματα.

Αυτή η ανανέωση του εξοπλισμού, που συμπίπτει με τις αλλαγές στο δόγμα και την άφιξη νέων επιχειρήσεων που επαναπροσδιορίζουν ή προσεγγίζουν εκ νέου τα ζητήματα (#ThinkOutOfTheBox), είναι ένα όφελος που η Άμυνας θα ήταν όντως λάθος να στερήσει από τον εαυτό της.
Δεν διαφέρει από άλλα άλματα γενεών, που το καθένα είχε επίσης τα δικά του τσιτάτα:

• 1800: πυροβολικό
• 1870: το τρένο + η αξιοπιστία των τουφεκιών
• Παγκόσμιος Πόλεμος: αεροπορία + χημεία
• Β' Παγκόσμιος Πόλεμος: μηχανική + εκβιομηχάνιση
• Ψυχρός Πόλεμος: ηλεκτρονικά + αισθητήρες
• 2019: drones + AI;

Αυτή η πρώτη φάση θα είναι περισσότερο η χρήση φορέων τεχνητής νοημοσύνης παρά της ίδιας της τεχνητής νοημοσύνης

Αν κάθε τεχνολογικό άλμα είχε οδηγός(οι)», αυτά έχουν δει πραγματικά την ανάπτυξή τους στη μέση ηλικία, οι πρώτες εκδόσεις είναι περισσότερο μια επικύρωση των λύσεων που θα αναπτυχθούν.
Ωστόσο, αυτά τα τεχνολογικά άλματα υποστηρίχθηκαν επίσης έντονα από την ωριμότητα των προηγούμενων τεχνολογιών. Αυτό είναι το φαινόμενο του τροχού Deming που αναρριχείται σε έναν φυσικό νόμο βελτίωσης.

Αυτή η πρώτη φάση ενθουσιασμού στην τεχνητή νοημοσύνη θα είναι επομένως περισσότερο η χρήση φορέων τεχνητής νοημοσύνης προκειμένου να εκτοξευθεί ο τροχός της εξέλιξης προκειμένου να επιτευχθεί αυτό το όραμα στη μέση ηλικία.

Je gage par ailleurs que nous vivons là sans doute la dernière rupture technologique et allons quitter ce principe pour nous orienter vers un système analogue au POOGI (et le #FCAS, s'il est bien pensé en amont, pourrait tout à fait exploiter la méthode POOGI).
... Mais je m'éloigne du sujet...

3. Κάλυψη της ψηφιακής καθυστέρησης

Έκανα έναν γρήγορο πίνακα συγκρίνοντας τις κύριες τεχνολογικές λύσεις με τους 6 τομείς προτεραιότητας που προσδιορίζονται από το Υπουργείο Ενόπλων Δυνάμεων:
(οι απαντήσεις δεν είναι αποκλειστικές· αυτές είναι οι κύριες λύσεις προσαρμοσμένες σε κάθε τομέα)

Όπως μπορούμε να δούμε, οι απαντήσεις που πρέπει να δοθούν σχετίζονται λιγότερο με την τεχνητή νοημοσύνη παρά με λύσεις που υπάρχουν ως επί το πλείστον εδώ και 1 έως 2 δεκαετίες:

• «Παραδοσιακά» εργαλεία:
  • εφαρμογές βοήθειας χρήστη
  • Επιχειρηματικής Ευφυΐας
• Εργαλεία που σχετίζονται με δεδομένα:
  • Μεγάλα δεδομένα
  • και η ανταλλαγή τους (IoT)
• Ορισμένες λύσεις που συνδέονται με την τεχνητή νοημοσύνη
  • κυρίως για αναγνώριση σχήματος και παρακολούθηση τροχιών

Ως εκ τούτου, αφορά πολύ λιγότερο το AI από τα διανύσματά του τι είναι :

• Μεγάλα δεδομένα
• The #InternetOfThings (Internet of Things / Συνδεδεμένα αντικείμενα)
• Business Intelligence, δηλαδή η (στατιστική) ανάλυση δεδομένων
• Θα πρόσθετα επίσης «νευρική» μοντελοποίηση συστημάτων (qui, selon moi, devrait émerger dans la décennie à venir)

Analytics.
BigData, IoT, BI, νευρωνική μοντελοποίηση… Όλα αυτά τα διανύσματα είναι εργαλεία που χρησιμοποιούνται για την ανάλυση δεδομένων και τις σχέσεις μεταξύ αυτών των δεδομένων. Επειδή η καρδιά του θέματος είναι εκεί:
Όπως και η Google, ο Στρατός επιδιώκει να ελέγξει το περιβάλλον του όσο το δυνατόν περισσότερο και επομένως να μειώσει τους κινδύνους. Αυτό επομένως απαιτεί μεγάλη ικανότητα και βάθος στην ανάλυση δεδομένων προκειμένου να κατανοήσει κανείς το περιβάλλον του και να μπορέσει να το επηρεάσει με απόλυτο έλεγχο.
Υποστήριξη αποφάσεων και Σχεδιασμός… Ευφυΐα… Συντήρηση… Όλοι αυτοί οι τομείς απαιτούν την αναλυτική χρήση δεδομένων.

BigData, IoT, modélisation neuronale...
C'est aussi : information, échange, structuration systémique...
C'est pourquoi, à titre personnel, plus qu'une révolution d'Intelligence Artificielle, j'augure une révolution en #Systèmes de Systèmes et #Networkability (soit l'habileté à fonctionner en réseau, de manière intégrée).
A ce titre, les projets #Scorpion (Armée de Terre) et #FCAS (Armée de l'Air) sont deux premiers pas sur le chemin de la Networkability.

4. «Αδύναμη» AI

Το αδύναμο AI δεν είναι έξυπνο: οι σχεδιαστές του ήταν.

Κατά την εισαγωγή, παρουσίασα την έννοια του«Αδύναμη» τεχνητή νοημοσύνη, η οποία είναι μόνο έξυπνη στο σχεδιασμό των αλγορίθμων της.
Με άλλα λόγια, η αδύναμη τεχνητή νοημοσύνη δεν είναι ευφυής: οι σχεδιαστές της ήταν.

Όπως αναφέρθηκε σε αυτήν την ίδια εισαγωγή, το AI θέτει α πρόβλημα συμβατότητας με τον έλεγχό του. Και ακόμη και ένα αδύναμο AI δεν αποτελεί εξαίρεση:
Έτσι, το DeepBlue κέρδισε χάρη σε ένα σφάλμα, άρα ένα ελάττωμα που είχε ως αποτέλεσμα την απώλεια του ελέγχου, σε σημείο που ο Κασπάροφ πίστευε ότι ένας άνθρωπος έλεγχε τις αποφάσεις του DeepBlue.

Η πρόκληση που πάντα συνέδεα με την τεχνητή νοημοσύνη είναι το θεώρημα του #Gödel:
Ένα πλήρες σύστημα είναι ασυνεπές και, στην πραγματικότητα, ένα συνεκτικό σύστημα είναι ατελές. Ως εκ τούτου, το όλο πρόβλημα θα είναι να έχουμε το πληρέστερο δυνατό σύστημα, διασφαλίζοντας παράλληλα τη συνοχή του, διαφορετικά αυτό θα οδηγήσει αναπόφευκτα σε σφάλμα τεχνητής νοημοσύνης ή σε τεχνητή νοημοσύνη εκτός ελέγχου. Αυτό μοιάζει λίγο με αυτό που βίωσε το DeepBlue.

Η πρόκληση που πάντα συνέδεα με την τεχνητή νοημοσύνη είναι το θεώρημα του Γκέντελ.

Ακολουθεί ένας πίνακας που συνοψίζει αυτό το πρόβλημα:

Όπως φαίνεται, η ευφυΐα είναι δυνατή για το AI θα είναι αντιστρόφως ανάλογο με το επίπεδο των αλληλεπιδράσεών του, με την Πραγματικότητα στην πρώτη θέση, αλλά και ως προς την ανταλλαγή δεδομένων (IoT).

Και, πάντα επιπλέον, θα πρέπει να το κάνουν οι άνθρωποι διατηρούν την τελική εξουσία λήψης αποφάσεων :

• Έχοντας τη δυνατότητα απενεργοποίησης αυτού του AI (βλέπε περίπτωση 737 MAX)
• Ή να το προσαρμόσουμε, σε περιπτώσεις ενισχυτικής μάθησης
• Και διατηρώντας κριτική άποψη (όχι τυφλή εμπιστοσύνη).

Αυτό το τελευταίο σημείο μπορεί να φαίνεται προφανές ή μάταιο, και όμως:
AI είτε όχι, οποιοδήποτε λειτουργικό σύστημα δεδομένων δίνει μόνο ένα σχετικό αποτέλεσμα που είναι σχετικό, όσον αφορά την ποιότητα των δεδομένων εισόδου του και τα σφάλματα που περιέχει.
Σας φαίνεται περιττή αυτή η παρατήρηση; 3 παραδείγματα:

• Το drone Harfang: … ελλείψει τίποτα καλύτερο εξυπηρετούσε, αλλά δεν ξεχώριζε για την αξιοπιστία του
• Valeo & SAP: μετά την κακή εφαρμογή της μετάβασης στη SAP (από την άποψη της επιλογής αρχιτεκτονικής δεδομένων και ποιότητας δεδομένων), η Valeo παραλίγο να χρεοκοπήσει. Το σώθηκε από τους πελάτες του που έφεραν την εμπειρία τους στη SAP.
• Προσωπικά, είχα την ευκαιρία να ανακαλύψω ένα κρίσιμο σφάλμα σε ένα διάσημο λογισμικό CAPM στην εποχή του (pre-SAP), ένα σφάλμα που είχε ως συνέπεια να πολλαπλασιάσει τις ποσότητες των απαιτήσεων.

Όχι Εξολοθρευτής, αλλά ο άνθρωπος στην καρδιά της νοημοσύνης.

Εν κατακλείδι

Αυτό το άρθρο είχε απλώς στόχο να βάλει την έννοια της τεχνητής νοημοσύνης σε προοπτική και να τη σχετικοποιήσει σε σχέση με τα αμυντικά έργα.
Χωρίς Εξολοθρευτή, μακριά από αυτό, και μάλιστα οι άνθρωποι βρίσκονται ακόμα στην καρδιά της νοημοσύνης, είτε από επιχειρησιακό προσωπικό στην τελική απόφαση, ή σχεδιαστές αλγοριθμικών λύσεων.

Αλλά τότε γιατί τόσο πολύ επισημάνετε το AI ?
Όπως αναφέρθηκε στο κεφάλαιο για τα άλματα γενεών, είναι να δώσει μια κατεύθυνση, ένα όραμα ; να μην περιορίζεις τον εαυτό σου ή να επιβάλει πρόωρα όρια στον εαυτό του.

Julien Maire.