Демистификация ИИ: ИИ и оборона

#ИИ здесь, ИИ там, ИИ, вот...
В последние месяцы термин «ИИ» (искусственный интеллект) вторгся в мир аэронавтики и обороны. Но что именно?

Было бы самонадеянно хотеть охватить все аспекты, связанные с изменениями, вызванными ИИ. Это не цель данной серии из двух статей.
Точно так же я буду игнорировать некоторые составляющие аспекты ИИ (например, нейронную систему и т. д.), но которые не важны для темы этих статей.

От программного обеспечения САПР до Терминатора, от вашего смартфона до DeepBlue или AlphaGo — существует множество режимов искусственного интеллекта.
Цель этих двух статей такова: повторно популяризировать то, что скрывается за тотальным использованием расплывчатого, если не неясного, термина ИИ.

В начале напомним, что интерес к ИИ связан не только с аэронавтикой и обороной, а с появлением нескольких соревнований:

• Вычислительная мощность систем
• Объем доступных данных (#BigData)
• Взаимосвязь разных систем (#IoT)
• Продвинутые языки программирования
• Фундаментальные исследования

Итак, ИИ – это не недавняя концепция.
Но так же, как упомянутые выше векторы развиваются экспоненциально, ИИ «увлекается» этой бесконечной гонкой, и его векторы сегодня обеспечивают уровни сложности, которые ранее были невозможны.

Интеллект – это способность понимать окружающую среду и адаптироваться.

1-я статья: ИИ и оборона

Введение

Прежде чем мы начнем, давайте закроем дверь предвзятой идее: терминатор.

Контроль.
Как справедливо заметил Жоспе Хэнротин, армия стремится прежде всего контролировать свое окружение (отсюда большая эффективность «партизанских» методов подрыва этих регулярных армий).
Здесь нет места опасностям; а если их невозможно устранить, то они требуют более сложного и менее оптимального реагирования. Фактически, как и «свободным выборам», автономным в процессе принятия решений роботам, таким как Терминатор, нет места.

Никакого Терминатора. Но тогда что такое ИИ и почему?
Если это правда, что термин #Искусственный Интеллект в своей самой чистой теории относится к машине, наделенной интеллектом и взаимодействием, то гонка за этим понятием «интеллект» означает, что некоторые изобрели так называемые «слабые ИИ», которые больше не существуют. строго говоря, имеют много общего с интеллектом:

• Интеллект – это способность понимать окружающую среду и адаптироваться (от себя к этой среде и/или от этой среды к себе), возникающие на apprentissage (Ретекс).
• Однако значительная часть «слабого» ИИ на самом деле представляет собой лишь так называемые «сложные» алгоритмы, но не предлагающие нет возможностей машинного обучения
  (пример: в отличие от AlphaGo, DeepBlue не обладал способностью к обучению, но изучал ряд возможностей... По иронии судьбы, именно в этот момент компьютер не смог найти «наилучшую возможность» и выбрал одну наугад, что дестабилизировало Каспарова и, таким образом, бить)
• Далее, машина часто представляет собой систему систем; ИИ может применяться только к определенной подсистеме или процессу..
  (например, ложные пусковые установки самолета; таким образом, NH90 может иметь преимущество над пилотом и оптимизировать реакцию на известную угрозу; однако он не способен заменить пилота во всех действиях)

Большие данные, закрытые или открытые данные, Интернет вещей, распознавание форм или объектов... Слабый, сильный ИИ... Понятие ИИ столь же расплывчато, сколь и обширно, из-за гонки за получением священного титула. что имело последствием его запятнание.
Для упрощения я перефокусирую тему вокруг трех осей:

• Прежде всего, если мы возьмем «чистый» аспект искусственного интеллекта, мы сможем выделить 2 фактора:
  • Чувствительность (или машинное обучение), то есть способность понимать и учиться. Эту способность можно разделить на 3 части:
    • Нет способности к обучению
    • Способность обогащать свою область понимания
    • Способность учиться, т.е. вырабатывать собственные уроки
  • Взаимодействия, которые позволяют воспринимать окружающую среду (первый шаг к пониманию, который является переводом этих восприятий)
    • Пассивный (получение, но не передача) или Активный (передача действий/принятие решений)
    • Оцифровано (обмен данными) или с реальностью
• Векторы ИИ, такие как BigData, IoT, которые способствуют развитию ИИ, но, строго говоря, сами по себе не являются ИИ.

Давайте вникнем в суть темы:
Что заинтересованные стороны Министерства обороны имеют в виду под «ИИ»?

Министерство Вооруженных Сил сосредоточило свой цифровой скачок вокруг 6 осей:

• поддержка принятия решений и планирование
• интеллект
• совместный бой
• робототехника
• операции в киберпространстве
• логистика и техническое обслуживание

1. Функциональный и неглобальный ИИ

Это первый пункт:
Как упоминалось во введении, ИИ (или другие подобные разработки) могут касаться только одной функции. Мы находимся здесь не в глобальном ИИ, командующем системой систем, а искусственный интеллект, предназначенный для определенной функции, позволяющий пользователю оказывать помощь путем автоматизации всего процесса или его части..

Поскольку системы становятся все более сложными, они требуют все больше и больше задач.
Таким образом, количество человек на борту #вертолета увеличилось с 2 до 3, а теперь и до 4, чтобы выполнять тот же тип миссии, но с увеличенной глубиной.
Поэтому, чтобы смягчить этот эффект, целесообразно автоматизировать определенные процессы:

• Не критично
• Стандартизированные и/или систематические
• Или улучшить время отклика

Персонал на борту вертолета увеличился с 2 до 3, а теперь и 4...

2. Скачок поколений

Хотя #Аэронавтика и #Оборона имеют репутацию технологического превосходства из-за физической сложности своих систем, они, тем не менее, отстают в «мягких технологиях» до такой степени, что в 2000-е годы ситуация изменилась :
Технологические инновации больше не исходили от референтов A&D и распространялись на публичную вселенную, а наоборот: таким образом, стартапы и другие представители гражданского мира постепенно вторглись в сферу выставок, таких как SOFINS или Ле Бурже, или даже в зону #DGA..

Причина?
Что касается обороны, то причина довольно проста: предыдущее оборудование и даже доктрины пришли из холодной войны, в лучшем случае из Retex из конфликтов в Африке.

• Что касается доктрины, недавние очень асимметричные конфликты, такие как Афганистан, заставили нас пересмотреть многие аспекты.
• Что касается оборудования, то ситуация проще: оборудование времен Холодной войны уже подошло к концу своего срока службы и поэтому должно быть выведено и заменено или не заменено оборудованием, соответствующим новым доктринам.

Это обновление оборудования, совпадающее с изменениями в доктрине и появлением стартапов, переопределяющих или пересматривающих проблемы (#ThinkOutOfTheBox), является благом, которого оборона действительно была бы неправильной, лишать себя.
Он ничем не отличается от других скачков поколений, у каждого из которых тоже были свои модные словечки:

• 1800: артиллерия
• 1870 год: поезд + надежность винтовок
• Первая мировая война: авиация + химия
• Вторая мировая война: механика + индустриализация
• Холодная война: электроника + сенсоры
• 2019: дроны + ИИ?

На этом первом этапе будет больше использоваться векторов ИИ, чем самого ИИ.

Если бы каждый технологический скачок имел свой « водитель(и)«На самом деле они начали расти в середине жизненного цикла, причем первые версии были скорее проверкой решений, которые предстоит разработать.
Однако эти технологические скачки также были сильно поддержаны зрелостью предыдущих технологий. Это эффект колеса Деминга, восходящий к естественному закону улучшения.

Таким образом, первая фаза энтузиазма в области ИИ будет в большей степени заключаться в использовании векторов ИИ для запуска колеса эволюции и достижения этой цели в середине жизни.

Je gage par ailleurs que nous vivons là sans doute la dernière rupture technologique et allons quitter ce principe pour nous orienter vers un système analogue au POOGI (et le #FCAS, s'il est bien pensé en amont, pourrait tout à fait exploiter la méthode POOGI).
... Mais je m'éloigne du sujet...

3. Борьба с цифровой задержкой

Я составил краткую таблицу, сравнивающую основные технологические решения с 6 приоритетными направлениями, определенными Министерством Вооруженных Сил:
(ответы не являются исключительными, это основные решения, адаптированные для каждой области)

Как мы видим, ответы, которые будут предоставлены, касаются не столько ИИ, сколько решений, существующих по большей части в течение 1-2 десятилетий:

• «Традиционные» инструменты:
  • приложения помощи пользователям
  • бизнес-аналитики
• Инструменты, связанные с данными:
  • Большие данные
  • и их обмен (IoT)
• Некоторые решения, связанные с ИИ
  • в основном для распознавания формы и отслеживания траектории

Таким образом, речь идет не столько об ИИ, сколько о его векторах. что :

• Большие данные
• #InternetOfThings (Интернет вещей/Подключенные объекты)
• Бизнес-аналитика, то есть (статистический) анализ данных.
• Я бы еще добавил «нейронное» моделирование систем (qui, selon moi, devrait émerger dans la décennie à venir)

Аналитика.
BigData, IoT, BI, нейронное моделирование… Все эти векторы — это инструменты, используемые для анализа данных и связей между этими данными. Потому что суть дела в следующем:
Как и Google, армия стремится максимально контролировать окружающую среду и, следовательно, снижать опасности. Поэтому для понимания окружающей среды и возможности влиять на нее с полным контролем требуются большие возможности и глубина анализа данных.
Поддержка принятия решений и планирование… Аналитика… Техническое обслуживание… Все эти области требуют аналитического использования данных.

BigData, IoT, modélisation neuronale...
C'est aussi : information, échange, structuration systémique...
C'est pourquoi, à titre personnel, plus qu'une révolution d'Intelligence Artificielle, j'augure une révolution en #Systèmes de Systèmes et #Networkability (soit l'habileté à fonctionner en réseau, de manière intégrée).
A ce titre, les projets #Scorpion (Armée de Terre) et #FCAS (Armée de l'Air) sont deux premiers pas sur le chemin de la Networkability.

4. «Слабый» ИИ

Слабый ИИ не разумен: такими были его создатели.

Во введении я представил понятие«Слабый» ИИ, который разумен только в разработке своих алгоритмов.
Другими словами, слабый ИИ не разумен, а его создатели были разумными.

Как упоминалось во введении, ИИ представляет собой проблема совместимости с его управлением. И даже слабый ИИ не является исключением:
Таким образом, DeepBlue победила благодаря ошибке, то есть ошибке, приводящей к потере контроля до такой степени, что Каспаров считал, что решения DeepBlue контролирует человек.

Проблема, которую я всегда связывал с ИИ, — это теорема #Гёделя:
Полная система противоречива, а связная система, по сути, неполна. Таким образом, вся проблема будет заключаться в том, чтобы иметь как можно более полную систему, обеспечивая при этом ее согласованность, иначе это неизбежно приведет к ошибке ИИ или выходу ИИ из-под контроля. Это немного похоже на то, что испытал DeepBlue.

Проблема, которую я всегда связывал с ИИ, — это теорема Гёделя.

Вот таблица, суммирующая эту проблему:

Как показано, интеллект, возможный для ИИ будет обратно пропорционален уровню его взаимодействия, с Реальностью в первую очередь, но и с точки зрения обмена данными (IoT).

И, кроме того, людям всегда придется сохранить за собой право принятия окончательных решений :

• Имея возможность отключения этого AI (см. случай 737 MAX)
• Или скорректировать его, в случае обучения с подкреплением
• И сохраняя критическое мнение (без слепого доверия).

Этот последний пункт может показаться очевидным или бесполезным, и тем не менее:
ИИ или нет, любая операционная система данных дает только релевантный результат, относительный с точки зрения качества входных данных и содержащихся в них ошибок.
Вам это замечание кажется лишним? 3 примера:

• Дрон «Харфанг»: … за неимением лучшего он служил, но надежностью не выделялся
• Valeo и SAP: после неудачного перехода на SAP (с точки зрения выбора архитектуры и качества данных) Valeo чуть не обанкротилась. Ее спасли клиенты, которые привнесли свой опыт работы в SAP.
• Лично у меня была возможность обнаружить критическую ошибку в известном в свое время программном обеспечении CAPM (до SAP), ошибку, которая привела к увеличению количества требований.

Не Терминатор, а человек в основе интеллекта.

В заключение

Целью этой статьи было просто рассмотреть понятие ИИ в перспективе и релятивизировать его применительно к оборонным проектам.
Нет Терминатора, далеко не так, и даже люди все еще в центре интеллекта, ли оперативным персоналом при принятии окончательного решения или разработчиками алгоритмических решений.

Но тогда почему так много выделить ИИ ?
Как упоминалось в главе о скачках поколений, это дать направление, видение ; не ограничивать себя или налагать на себя преждевременные ограничения.

Жюльен Мэр.