Remerciez-le!

Remerciez @Admin pour avoir partagé cet document gratuitement, de la manière la plus simple, en partageant sur les réseaux sociaux.

n° 110 MAI 2022 Deus ex machina Les enjeux de l’autonomisation des systèmes d’a

n° 110 MAI 2022 Deus ex machina Les enjeux de l’autonomisation des systèmes d’armes Laure DE ROCHEGONDE CENTRE DES ÉTUDES DE SÉCURITÉ FOCUS STRATÉGIQUE L’Ifri est, en France, le principal centre indépendant de recherche, d’information et de débat sur les grandes questions internationales. Créé en 1979 par Thierry de Montbrial, l’Ifri est une association reconnue d’utilité publique (loi de 1901). Il n’est soumis à aucune tutelle administrative, définit librement ses activités et publie régulièrement ses travaux. L’Ifri associe, au travers de ses études et de ses débats, dans une démarche interdisciplinaire, décideurs politiques et experts à l’échelle internationale. En partenariat avec L’Observatoire des conflits futurs est un contrat-cadre pluriannuel d’études mené par un consortium réunissant la Fondation pour la recherche stratégique et l’Institut français des relations internationales sous le pilotage des trois états-majors d’armée Les opinions exprimées dans ce texte n’engagent que la responsabilité de l’auteure. ISBN : 979-10-373-0543-5 © Tous droits réservés, Ifri, 2022 Comment citer cette publication : Laure de Rochegonde, « Deus ex machina : les enjeux de l’autonomisation des systèmes d’armes », Focus stratégique, n° 110, Ifri, mai 2022. Ifri 27 rue de la Procession 75740 Paris Cedex 15 – FRANCE Tél. : +33 (0)1 40 61 60 00 – Fax : +33 (0)1 40 61 60 60 E-mail : accueil@ifri.org Site Internet : Ifri.org Focus stratégique Les questions de sécurité exigent une approche intégrée, qui prenne en compte à la fois les aspects régionaux et globaux, les dynamiques technologiques et militaires mais aussi médiatiques et humaines, ou encore la dimension nouvelle acquise par le terrorisme ou la stabilisation post- conflit. Dans cette perspective, le Centre des études de sécurité se propose, par la collection Focus stratégique, d’éclairer par des perspectives renouvelées toutes les problématiques actuelles de la sécurité. Associant les chercheurs du centre des études de sécurité de l’Ifri et des experts extérieurs, Focus stratégique fait alterner travaux généralistes et analyses plus spécialisées, réalisées en particulier par l’équipe du Laboratoire de Recherche sur la Défense (LRD). Comité de rédaction Rédacteur en chef : Élie Tenenbaum Rédactrice en chef adjointe : Amélie Férey Assistant d’édition : Gaspard Stocker Auteure Laure de Rochegonde est chercheuse au Centre des études de sécurité de l’Ifri, où elle travaille sur la régulation des systèmes d’armes létales autonomes et les négociations internationales autour du contrôle des armements avancés. Elle est en parallèle doctorante en science politique au Centre de recherches internationales (CERI, Sciences Po/CNRS). Elle a rejoint l’Ifri en 2019 après une expérience de junior editor dans le cabinet de conseil en stratégie Roland Berger. En plus de ses activités de recherche, elle enseigne à Sciences Po. Elle est titulaire d’un master de politiques publiques et d’un bachelor de Sciences Po Paris, au cours duquel elle a passé une année au département de War Studies de King’s College à Londres. Synthèse Si l’automatisation des machines s’inscrit dans une longue trajectoire historique, conceptuelle et technique, les systèmes d’armes pourraient désormais être rendus plus « autonomes » grâce aux progrès exponentiels des techniques d’intelligence artificielle et de la robotique. Dans un premier temps, force est de constater que les débats sémantiques autour du terme « autonomie » constituent un frein au développement, à la classification et à la régulation des systèmes d’armes – plateformes et munitions – intégrant cette fonctionnalité. En réalité, les systèmes d’armes conservant un humain « dans la boucle » (in the loop) ou « sur la boucle » (on the loop) décisionnelle sont hétéronomes. Seuls ceux où l’humain se trouve entièrement « hors de la boucle » (out of the loop) pourraient être qualifiés d’autonomes, mais contrairement aux craintes populaires et dystopiques concernant l’arrivée d’un « Terminator » sur le champ de bataille, leur développement n’est ni souhaité ni possible à ce jour. Plus précisément, la doctrine française classe les systèmes d’armes selon le degré d’automatisation de leurs différentes fonctions (navigation, observation, analyse de la situation, pointage des armements, aide à la décision de tir, décision de tir, etc.). L’automatisation et l’autonomisation des systèmes d’armes doivent donc être envisagées au sein d’un continuum, dans lequel l’homme a toute sa place. Ainsi, la différence entre automatisation et autonomisation tient davantage à la nature des fonctions programmées informatiquement : un système capable de se déplacer seul d’un point à un autre est automatisé, mais il ne sera dit autonome que lorsque, rencontrant un obstacle sur son chemin, il saura l’éviter et retrouver son chemin, voire décider d’emprunter un nouvel itinéraire. L’autonomisation irrigue désormais tous les projets militaires français et internationaux. De fait, les systèmes d’armes intégrant de l’autonomie permettent des gains capacitaires significatifs, dans des domaines d’application très variés. Il s’agit tant d’assister l’humain dans les tâches dangereuses, répétitives et fastidieuses, que de le protéger grâce à des capacités d’autoprotection ou de protection déportée améliorées. Dans le même temps, l’autonomisation permet d’améliorer le processus de prise de décision grâce à des techniques d’analyse plus pertinentes et rapides. L’entrée dans l’ère des systèmes d’armes « autonomes » devrait dès lors conduire à un changement essentiel dans l’emploi des forces. De la même manière que l’invention de la poudre a accompagné la colonisation et entraîné la domination de l’Occident et que l’apparition de l’arme nucléaire a structuré la conflictualité dans la seconde moitié du XXe siècle, l’essor des systèmes d’armes intégrant de l’autonomie façonnera la conflictualité dans les années à venir. Les perspectives prometteuses offertes par les systèmes d’armes « autonomes » sont toutefois nuancées par leur vulnérabilité. Les systèmes reposant sur la programmation informatique, par exemple, présentent des risques liés à la convergence entre le monde cyber et celui de la guerre électronique puisqu’ils constituent une voie d’accès électromagnétique par laquelle des données peuvent être transmises pour mener une attaque. Les systèmes d’armes « autonomes » posent également des problèmes de confiance dans la machine. D’une part, du fait de l’effet « boîte noire », il est très difficile de saisir les processus de décision de certains algorithmes. À l’inverse, le manque de compréhension du fonctionnement des systèmes pourrait se traduire par une confiance excessive dans la machine, alors qu’il est indispensable de conserver des mécanismes de vérification humaine. En outre, le risque de prolifération et de dissémination auprès d’acteurs hostiles, éventuellement non étatiques, n’est pas à négliger dans un contexte géostratégique instable. La Stratégie française sur l’intelligence artificielle au service de la défense observe en effet que certaines puissances révisionnistes considèrent que le statu quo international peut être bousculé à leur avantage grâce aux technologies émergentes s’appuyant sur l’IA militaire. Ces dernières permettraient une forme de nivellement des positions stratégiques, car elles sont relativement peu coûteuses et aisées à maîtriser. Enfin, l’autonomisation des systèmes d’armes suscite de nombreuses préoccupations d’ordre éthique et juridique. Des doutes existent sur leur capacité à se conformer au droit international humanitaire – notamment aux principes de précaution, de distinction, et de proportionnalité – et sur leur compatibilité avec le droit à la vie et le respect de la dignité humaine. Malgré des campagnes appelant à un moratoire sur les armes autonomes, une véritable course aux armements autonomes se profile, dominée par les États-Unis et la Chine – en grande partie grâce à une industrie civile du numérique importante, très avancée sur le plan technologique et capable d’irriguer le développement d’applications militaires. La Russie suit de près ces deux géants, grâce à de nombreux projets qu’elle n’hésite pas à expérimenter sur les théâtres d’opérations. L’observation de leurs investissements militaires en recherche et développement, de leurs déclarations publiques et de leurs présentations dans ce domaine démontre en effet l’attrait significatif de ces pays pour l’autonomisation des systèmes d’armes. Néanmoins, les annonces foisonnantes et les prototypes avancés en matière d’autonomisation des systèmes d’armes dans les quatre milieux dissimulent mal les sérieux blocages technologiques, qui restent encore à surmonter. Par ailleurs, il est intéressant de noter que le nombre de systèmes intégrant de l’autonomie développés à l’échelle mondiale varie significativement selon les milieux : une dizaine de milliers de modèles de drones aériens, quelques milliers pour le maritime (de surface et sous-marin) et environ un millier pour le terrestre, qui reste le parent pauvre. Les développements dans le milieu terrestre, principalement dominés par la Russie, sont entravés par les défis de mobilité. Le milieu aérien est sans conteste celui dans lequel les développements technologiques en matière de systèmes automatisés sont les plus avancés. En effet, les opportunités offertes par les Unmanned Aerial Vehicles (UAV) ont poussé certains États à investir massivement dans ce secteur, ce qui leur a permis d’acquérir une avance industrielle décisive. L’autonomisation des projets maritimes de surface est quant à elle plutôt centrée sur les systèmes de navigation. Enfin, les missions dévolues aux systèmes autonomes sous-marins sont actuellement la connaissance de l’environnement opérationnel, dont le besoin reste absolument déterminant, et la guerre des mines. C’est dans ce contexte que les trois armées françaises entendent tirer profit de cette dynamique et ont lancé des programmes à effet majeur impliquant une automatisation accrue des systèmes d’armes. Trois initiatives vers le combat collaboratif peuvent être citées à cet égard : uploads/Science et Technologie/ derochegonde-deus-ex-machina-2022.pdf