La guerre à l’ère de l’Intelligence artificielle : quand les machines prennent les armes (Laure de Roucy-Rochegonde, 2024)
Précédemment chercheuse au Centre des études de sécurité de l’Ifri, Laure de Roucy-Rochegonde est depuis février 2024 directrice du Centre géopolitique des technologies de l’institut. Docteure en science politique, elle est également chercheuse associée au Centre de recherches internationales (CERI, Sciences Po/CNRS). En octobre 2024 est paru son premier ouvrage, intitulé La Guerre à l’ère de l’Intelligence artificielle : quand les machines prennent les armes aux éditions PUF.
Dès les premières pages, une tension frappe le lecteur. L’auteur met en lumière le paradoxe de « l’autonomie contrôlée ». Le cœur du débat réside dans cette tension fondamentale: garantir le contrôle humain sur l’usage de la force lorsque l’on développe précisément des systèmes conçus pour s’en affranchir. Cette contradiction, à la fois conceptuelle et politique, agit comme un point de départ de cet ouvrage. Garantir le contrôle implique de limiter l’autonomie, mais l’accroitre suppose nécessairement de relâcher ce contrôle. Ce paradoxe éclaire en partie l’impasse des négociations internationales sur l’intelligence artificielle militarisée et révèle un flou conceptuel persistant, ce qui entrave la formulation d’un cadre clair et opérationnel.
L’ouvrage se donne alors pour ambition de clarifier ce flou et de proposer une réponse détaillée à la question suivante: qu’est-ce que contrôler la force à l’ère des machines et de l’intelligence artificielle?
Pour y répondre, Laure de Roucy-Rochegonde s’appuie sur une méthodologie qualitative combinant une analyse documentaire – plus de 40 entretiens semi-directifs menés auprès d’acteurs variés (militaires, responsables politiques, industriels, juristes, ingénieurs, diplomates, militants et universitaires) à Paris, Genève et Washington – ainsi qu’une observation participante lors de la sixième réunion du Groupe d’Experts Gouvernementaux dans le cadre de la Convention sur certaines armes classiques (Convention de Genève de 1980). L’objectif est d’élaborer une théorie du contrôle de la force aussi complète que possible, intégrant ses dimensions juridiques, éthiques, politiques et stratégiques. Ce questionnement éthique majeur traverse tout le livre, invitant à réfléchir aux conséquences d’une guerre menée par des machines capables de décider de la vie ou de la mort sans aucune supervision humaine.
Développement thématique de l’ouvrage :
L’un des apports majeurs du livre réside dans son travail de clarification terminologique. L’auteur revient tout d’abord sur la définition des drones comme des aéronefs contrôlés par des opérateurs depuis le sol et nécessitant une ou plusieurs stations au sol, des systèmes de liaison de données entre l’air et le sol, et des moyens de lancement et de récupération. De plus, à travers l’ouvrage, l’expression de « robots tueurs » est critiquée pour sa charge émotionnelle et son imprécision. A l’inverse, la notion de « systèmes d’armes létales autonomes » (SALA), plus précise, permet de poser deux critères essentiels, la létalité et l’autonomie. Néanmoins, cette définition ne faisant pas consensus aujourd’hui, il y a donc une absence de véritable définition de ce qu’est le « contrôle de la force » qui entoure les SALA.
Laure de Roucy-Rochegonde met par ailleurs en lumière une fracture profonde entre acteurs. D’un côté, les ONG (cf. Stop Killer Robots) et certains Etats défendent une définition large, incluant même les systèmes supervisés par l’humain, ce qui reviendrait à interdire des technologies déjà existantes comme les drones armés. De l’autre, certains Etats adoptent une définition extrêmement restrictive, limitant les SALA à une autonomie totale. La France affirme par exemple que les systèmes d’armes entièrement autonomes n’existent pas et n’existeront probablement jamais. Le lecteur comprend donc que ce jeu de définitions révèle une stratégie politique: ralentir, voire empêcher la régulation.
A cela s’ajoute une confusion fréquente entre autonomie et intelligence artificielle. L’auteur rappelle que l’intelligence artificielle, définie dès 1965 par John McCarthy, désigne la capacité d’un système à accomplir des tâches nécessitant habituellement une intelligence humaine (perception, décision, reconnaissance). Toutefois, l’autonomie ne signifie pas nécessairement intelligence, ni inversement; cette confusion entretient l’opacité du débat.
L’un des enjeux les plus troublants soulevés par l’ouvrage concerne la responsabilité. Étymologiquement, être responsable signifie « répondre de ses actes ». Or, par définition, un système d’armes autonomes est supposé agir sans aucune intervention ou supervision humaine, mais il n’est pas pour autant capable de reconnaître qu’il est l’origine et la cause des effets engendrés par lui-même. A cet égard, il est donc très difficile de déterminer qui peut être tenu pour responsable de son action. Qui est responsable en cas d’erreur ? Le programmeur ? Le commandement militaire ? L’État ? Peut-on attribuer une faute à une machine incapable de se reconnaître comme cause de ses actes ? Cette incertitude juridique s’accompagne d’un risque stratégique : celui d’une escalade incontrôlée. Des systèmes opérant à grande vitesse, dans différents milieux (terre, air, mer, espace), pourraient prendre des décisions sans délai humain, rendant les crises plus difficiles à contenir.
Face à ces ambiguïtés, Laure de Roucy-Rochegonde développe une théorie du contrôle de la force articulée autour de trois niveaux : humain (le rôle de l’opérateur), politique (le contrôle par les autorités), et international (les cadres juridiques et diplomatiques). Cette approche permet de comprendre pourquoi la régulation est aujourd’hui bloquée : tous les acteurs invoquent la nécessité de contrôler la force, mais sans jamais s’accorder sur ce que cela signifie concrètement. L’ouvrage révèle donc un paysage fragmenté, où intérêts stratégiques, considérations éthiques et contraintes techniques s’entremêlent.
Notre avis :
La Guerre à l’ère de l’Intelligence artificielle : quand les machines prennent les armes impressionne par sa rigueur et sa densité. Très documenté, il s’appuie sur un travail approfondi de recherche et prend le temps de déconstruire les notions, de questionner les évidences et de revenir aux définitions fondamentales. Ce souci de précision peut parfois rendre la lecture exigeante, mais il constitue aussi sa principale force. L’auteur construit une réflexion solide qui mêle droit, stratégie, éthique et technologie.
Ce que l’on retient surtout, c’est une invitation à la vigilance. Derrière les promesses technologiques se cachent des bouleversements profonds de la guerre, mais aussi de la responsabilité humaine. En filigrane, une idée forte s’impose: la technologie ne doit pas dicter la norme, mais être encadrée par elle.
La formule finale de l’ouvrage résonne comme un avertissement. Il s’agit « d’enchainer le Titan pour ne pas déchainer le chaos ». Autrement dit, garder la maîtrise humaine sur la force n’est pas seulement un enjeu technique ou juridique, c’est une condition essentielle pour préserver l’ordre international. In fine, c’est un ouvrage incontournable pour comprendre les défis éthiques et stratégiques de la guerre de demain.
Compte rendu rédigé par Eugénie Falcoz, étudiante en 3ème année du campus de Reims de Sciences Po.
