IA : vers une mutation des conflictualités
IA : vers une mutation des conflictualités
Par le Général Patrick Perrot, Expert "IA et Enjeux de Sécurité"
L’intelligence artificielle est un enjeu majeur de souveraineté qui impacte nombre de nations au plus haut niveau que ce soit dans le domaine de la technologie, du droit ou de la science. Elle procure indéniablement un avantage tant sur le plan stratégique, tactique qu'opérationnel. La guerre entre la Russie et l’Ukraine nous rappelle que les conflits inter-étatiques existent encore même s'ils apparaissent de plus en plus rares. La majorité des confrontations sont aujourd’hui des guerres intestines (Libye, Syrie, Yémen, Sud-Soudan, Tigre en Éthiopie) où s’affrontent des extrêmes pilotés par des régimes étrangers ou des idéologies de conquête au sein d’États fragiles ou fragilisés. De plus en plus présente au sein des conflits, la technologie en change progressivement la forme. Dans ce cadre, l'intelligence artificielle apparaît comme incontournable et son impact sur la transformation des conflictualités ne devrait cesser de croître ce qui provoquera, à n’en pas douter, une nouvelle course, non plus seulement aux armements mais bien à la conquête de l’IA. Cette mutation transformera en profondeur la perception des conflits en interrogeant sur les conséquences opérationnelles, éthiques et juridiques.
L'IA prolonge indéniablement la mutation technologique du champ de bataille par une autonomie progressive des systèmes d’armes et par une agilité particulièrement adaptée à un monde où les crises multiformes et simultanées deviennent la norme. Cette mutation interroge sur les nations en mesure de maitriser l’ensemble de la chaîne de production de l’IA comme de définir les enjeux de réglementation et d’éthique.
De la course aux armements à la course à l'IA
L'exploitation de l'IA transformera les conflits au delà de ce que nous constatons en Ukraine. Les travaux prospectifs du programme Red Team des Armées ont proposé quelques scénarii, qui relèvent, certes encore de la science-fiction, mais qui ouvrent néanmoins des possibilités relatives à un bouleversement du champ de bataille. L'IA représente avant tout un catalyseur générateur d'une course comme celle que nous avons connu pour les armements.
Les grandes nations investissent largement en matière d'IA à destination militaire que ce soit dans le domaine de l'industrie ou de la recherche, dans le domaine du « software » ou du « hardware ». L’acquisition des machines de calcul, capables de supporter les développements en IA, en est un bel exemple tout comme les investissements en matière de puces quantiques qui, là encore, démultiplieront les capacités de l'IA. Dans ce domaine, la course se situe principalement entre la Chine et les Etats-Unis qui investissent massivement en recherche pour résoudre les problèmes de stabilité. Et l'Europe ne peut se laisser décrocher au regard des enjeux de souveraineté. Par ailleurs, dans cette course, les Etats ne sont plus les seuls participants, les acteurs privés du numérique ont également une part non négligeable à jouer. C'est déjà le cas en Ukraine ou nombre de sociétés d'IA ont un rôle majeur. La coproduction états-entreprises est donc essentielle à la condition de ne pas voir cette coproduction se muer progressivement en asservissement.
A l'instar de la prolifération nucléaire, l'IA peut dessiner un nouvel ordre mondial déstabilisant la géopolitique actuelle. Cette prolifération nécessite d'être maîtrisée pour assurer une forme de stabilité et faire l'objet d'une régulation partagée. Il n'y a, néanmoins, guère de doute que cette dernière sera bien plus difficile à contrôler que celle du domaine nucléaire notamment au regard de la difficulté à déterminer les responsabilités mais aussi de l'accessibilité des systèmes d'IA à la moindre des nations voire au moindre des individus.
Vers une déshumanisation des conflits
Parmi les enjeux de transformation des conflictualités par l'IA, nous pouvons citer l'autonomie des systèmes d'armes que ceux-ci soient embarqués à bord des drones ou de quelconque engin militaire. Les outils de reconnaissance automatique d’images comme de situations atypiques existent d'ors et déjà mais pourraient se voir doter d'une capacité de décision d’ouverture du feu par exemple. Outre le risque d'erreur, cette orientation posera alors la question de la responsabilité de la décision et interrogera sur l'enjeu d'une totale mécanisation des conflits. Aujourd’hui, la réglementation nous en protège mais jusqu’à quand ?
Le risque majeur d'une déshumanisation de la guerre repose également sur la possibilité d'une réduction notoire du contrôle humain direct sur la prise de décision. Le déclenchement d'attaques à distance en minimisant considérablement le risque de perte humaine chez l'attaquant réduit significativement le coût d'entrée dans un conflit. Cette situation pourrait générer une croissance du nombre de conflits. La déshumanisation des conflits réside également au niveau des soldats eux-mêmes qui pourraient voir leurs capacités artificiellement augmentées jusqu’à les rendre dépendants de la machine. Accroître la capacité des soldats n’est évidemment pas à proscrire, le risque est de savoir jusqu’où aller dans la robotisation du combattant.
Pourtant, la déshumanisation des conflits n’est en réalité pas nouvelle puisqu’elle occupe largement l’espace cyber où les attaques à distance se multiplient avec un risque d’identification minime pour l’attaquant. L'espace cyber est un champ d’action particulièrement accessible à tous et les outils d’IA, de plus en plus performants, y sont disponibles quasiment gratuitement. L'IA permet de cibler les attaques en identifiant les failles et les vulnérabilités des systèmes ennemis dans le domaine militaire comme civil permettant de paralyser sans avoir à attaquer physiquement les infrastructures les plus sensibles. Mais, cette IA constitue aussi un moyen de défense pertinent par sa célérité à détecter en temps réel des attaques, des intrusions ou des comportements anormaux de systèmes. L'IA accroit en quelque sorte le niveau de complexité du champ de bataille cyber en renforçant les possibilités des attaquants comme de défenseurs. Il est ainsi, essentiel, dans cette automatisation du champ de bataille, de s'assurer du contrôle humain dans les processus de décision comme de la responsabilité des États dans les conséquences des actions menées. Dans ce cadre, l'engagement pour une exploitation responsable de l' IA est sans nul doute la seule possibilité pour les États de prévenir toute perte de souveraineté comme tout risque d'asservissement.
Un impact sans précédent sur les actions d’influence
En demeurant au sein de l'espace cyber, nous pouvons évoquer l'impact déjà en cours de l'IA sur l'information et les actions d'influence voire de déstabilisation. L’IA témoigne par son volet génératif d’une puissance hors norme pour engendrer de la confusion au sein de toute source d’information. Son impact sur les actions d’influence n’en est qu’à sa genèse.
Elle démultiplie considérablement les possibilités de propagande et de désinformation par la génération de deepfakes que ce soit dans le domaine du texte, de l’image ou de la voix. Accroissant considérablement la vraisemblance des impostures, il devient, à un moment où le temps est en accélération continue, particulièrement difficile à une victime de s’assurer de l’authentification de l’information au risque de perdre un avantage stratégique. L’attaque informationnelle peut générer une déstabilisation politique comme peut brouiller les alliances.
A un niveau plus opérationnel, cette manipulation de l’information impacte les chaînes de commandement générant de la confusion au sein des forces comme une désorientation dans la communication entre les unités voire entre les soldats. Cela implique en réaction un renforcement en termes de sécurité et de cyber sécurité des communications au niveau du commandement.
Ainsi, l’impact de l’IA sur la mutation des conflictualités est encore devant nous. L'accélération du développement technologique par l'IA risque d'entrainer, une nouvelle course entre les nations, une déshumanisation des conflits provoquant un accroissement de ces derniers. Cette évolution doit nous interroger dès aujourd'hui sur les divers enjeux qu'ils soient stratégiques, opérationnels, éthiques, et législatifs, une coopération internationale apparaît indispensable pour prévenir des dérives attentatoires aux droits fondamentaux. L'enjeu majeur demeure la garantie de la supervision humaine et des Etats dans les processus de décision comme dans l'engagement de responsabilité.
