L’intelligence artificielle doit-elle être bannie des systèmes d’armes nucléaires ?

Dès le début de 2023, les médias ont attaché un intérêt tout particulier à l’intelligence artificielle (IA) et aux chatbots (dialogueurs), certains gros titres se montrant parfois très alarmants, tandis que la fin d’année fut marquée par la décision des membres du Congrès des États-Unis de proposer une loi visant à interdire les systèmes d’IA dans les armes nucléaires, ainsi que par la signature d’un décret sur le même thème par le président Biden. La question a également été soulevée lors de discussions entre les États-Unis et la Chine à l’occasion du forum de la Coopération économique Asie-Pacifique, qui s’est tenu à San Francisco en novembre.

Ces démarches tendent à montrer que nous nous dirigeons à grands pas vers la mise en place d’un cadre diplomatique et réglementaire de restriction de l’utilisation de l’IA dans les systèmes d’armes nucléaires, ce qui est préoccupant à plusieurs titres.

Les politiques des États-Unis — pays de l’Alliance qui dispose du plus gros arsenal nucléaire — relatives à l’utilisation de l’IA dans les systèmes de défense nucléaire vont probablement donner des idées aux autres pays membres de l’OTAN possédant l’arme nucléaire, à savoir la France et le Royaume-Uni. C’est pourquoi il faut aplanir tout malentendu à propos de l’IA aux États-Unis, mais également dans le reste de l’Alliance, et appeler les législateurs à la plus grande prudence lorsqu’ils proposent de nouvelles lois. Au vu des avantages que l’IA pourrait présenter sur le plan géopolitique, la bannir des systèmes de défense nucléaire est une mauvaise idée.

Lorsque les gens pensent à l’IA dans le contexte de l’armement nucléaire, ils imaginent peut-être un scénario digne de Terminator 2 : le jugement dernier, film sorti en 1991, dans lequel on peut voir le système intelligent Skynet développer une conscience et lancer une attaque nucléaire d’ampleur mondiale.

Elle leur évoque peut-être aussi le film WarGames, de 1983, et son système d’intelligence artificielle WOPR, voire des films un peu plus confidentiels comme Le Cerveau d’acier, de 1970. Ces trois films, qui sont sortis au cours des trente dernières années de la Guerre froide, à raison d’un par décennie, mettent en scène des systèmes d’IA capables de penser par eux-mêmes, ce que certains associent parfois à l’intelligence artificielle générale (AGI). Le danger que ces films font redouter découle de l’idée que ces systèmes, dits intelligents, seraient capables d’avoir des objectifs propres et des intentions cachées. Si de tels systèmes existaient, nous devrions effectivement nous inquiéter. Mais ce n’est pas le cas et, bien qu’il n’y ait pas de consensus universel en la matière, certains chercheurs ont émis de sérieux doutes quant à la perspective de voir apparaître un jour un système de ce type.

Les œuvres de fiction populaire ne donnent pas toujours une idée très fidèle des nouvelles sciences. Au mieux, la fiction peut être le point de départ d’un débat et d’une réflexion stratégique. Le roman La Destruction libératrice de H.G. Wells, par exemple, est l’une des premières œuvres de fiction consacrées à la guerre nucléaire. Il a été écrit alors que la science du nucléaire n’en était qu’à ses balbutiements et il regorge d’erreurs sur des concepts tels que la puissance explosive ou la période radioactive. Et pourtant, quelques années plus tard, dans son livre de non-fiction sur le thème de la guerre thermonucléaire (On Termonuclear War), Herman Kahn a fondé son récit sur des scénarios manifestement inspirés de l’intrigue de La Destruction libératrice. Les livres de Kahn ont démontré que des réflexions académiques sérieuses pouvaient être suscitées par des scénarios fictionnels, même ceux comportant des inexactitudes scientifiques. Toutefois, pour écrire ensuite son œuvre On Escalation, sans nul doute plus importante que la précédente car elle est citée un peu partout, Kahn s’est basé sur des données empiriques. C’est là la preuve que nos débats sur l’IA doivent aussi reposer sur l’exactitude scientifique et sur des données empiriques.

Les systèmes d’intelligence artificielle dont nous disposons aujourd’hui ne peuvent être assimilés à l’AGI. Ils peuvent certes réussir le test de Turing, c’est-à-dire qu’ils permettent de répondre à des questions posées par un utilisateur sans que l’on puisse les distinguer d’un être humain, mais ils ne sont pas pour autant capables de penser par eux-mêmes et sont encore moins doués d’une conscience.

L’IA pourrait jouer bien des rôles dans nos systèmes de défense nucléaire. Prenons l’exemple des systèmes de ciblage qui seraient basés sur l’IA. Si l’on part du principe que le ciblage intelligent améliorera la précision des armes nucléaires, au point que celles-ci touchent leur cible et rien que leur cible, quels seraient alors les bénéfices géopolitiques de son développement et de son déploiement ? Pour répondre à cette question, passons en revue certains exemples historiques qui illustrent la façon dont l’amélioration de la précision des armes nucléaires a contribué à renforcer les systèmes de défense des États-Unis et de l’OTAN pendant la Guerre froide.

Dans un discours prononcé en mars 1983 depuis le Bureau ovale, le président Reagan a plaidé en faveur du développement d’un système de défense antimissile balistique. L’un de ses principaux arguments était que l’Union soviétique possédait un plus grand nombre d’armes nucléaires que les États-Unis. À la fin des années 1970, l’Union soviétique comptait en effet plus d’armes dans son arsenal nucléaire que les États-Unis, mais cette situation pouvait s’expliquer en grande partie par le déploiement américain de systèmes de missile plus précis, tels que Polaris, Titan II et Pershing. Les États-Unis n’avaient désormais plus besoin de lancer un grand nombre de missiles pour toucher une ville ou une installation militaire. Même avec moins de têtes nucléaires, ils étaient toujours capables d’assurer efficacement la dissuasion face à l’Union soviétique et d’atteindre leurs objectifs stratégiques. Les économies réalisées grâce au nombre réduit et à la plus grande précision de ces missiles ont permis aux États-Unis de libérer une partie du précieux budget de la défense et de l’investir dans le développement de nouveaux systèmes tels que le bombardier furtif et le missile de croisière.

La réduction du nombre d’armes nucléaires américaines dans les dernières années de la Guerre froide, à une époque où les dépenses de défense représentaient une part bien plus élevée du produit intérieur brut qu’aujourd’hui, donne à penser qu’il faut moins d’armes si elles sont plus précises.

La directive présidentielle PD-59, qu’avait signée Jimmy Carter en 1980 et qui vient d’être déclassifiée, montre clairement que le développement d’armes nucléaires plus précises a pu influer sur la politique nucléaire des États-Unis. Deux éléments importants ressortent de cette directive : le besoin accru de renseignements sur les cibles et la volonté de développer une capacité « look-shoot-look », qui consiste à trouver une cible, à disposer des renseignements nécessaires pour frapper cette cible, puis à évaluer les dégâts. Cette approche semble donc montrer qu‘une frappe nucléaire doit impérativement atteindre sa cible, que celle-ci doit présenter un intérêt stratégique, et qu’un bombardement nucléaire en tapis qui rate la cible visée est stratégiquement inutile.

Parallèlement à ces améliorations de l’armement nucléaire, les armes conventionnelles ont également gagné de plus en plus en précision. La guerre du Golfe (1990-1991) a marqué un tournant important dans l’évolution des systèmes d’armes conventionnelles. Les munitions qui atteignent leurs cibles militaires avec précision et la diminution des pertes civiles que cela entraîne étaient les sujets favoris du général d’armée américain Norman Schwarzkopf lorsqu’il s’exprimait devant la presse. Cette capacité à réduire au minimum les pertes civiles a depuis encouragé de nombreux Alliés à interdire les armes plus anciennes frappant sans discrimination, telles que les armes à sous-munitions.

À ce stade, il est encore difficile de déterminer à quoi ressembleront les futurs systèmes de ciblage de précision faisant appel à l’IA et destinés aux armes nucléaires, la technologie nécessaire étant encore en grande partie en développement. Selon un scénario tout à fait hypothétique, il pourrait s’agir d’une arme nucléaire visant une base navale qui, dotée d’un système de reconnaissance des formes, détecte que les sous-marins visés sont déjà submergés : le missile « décide » alors de dévier sa trajectoire et de frapper sous l’eau plutôt qu’en surface. C’est l’un des nombreux scénarios possibles à envisager lorsqu’il est question de faire intervenir l’IA.

Compte tenu de l’expérience du passé, sachant que l’utilisation de systèmes de ciblage plus précis faisant appel à l’IA peut conduire à une réduction du nombre total d’armes nucléaires, il faut alors se demander quels types d’armes seront concernés par ces réductions. Un examen stratégique permettra bien sûr de répondre à cette question. Des coupes pourraient être opérées, par exemple, dans les missiles balistiques intercontinentaux (ICBM) basés à terre. Bien qu’aucune décision n’ait encore été prise à ce sujet aux États-Unis, d’anciens hauts responsables américains, dont le secrétaire à la Défense William Perry, ont plaidé en faveur de cette idée.

Les États-nations pourraient en tirer des bénéfices allant au-delà de la prévention des menaces qui pèsent sur eux. En effet, une réduction du nombre d’armes nucléaires faciliterait la sécurisation des stocks restants et permettrait de mieux prévenir les scénarios catastrophes de terrorisme nucléaire, dans lesquels des armes peu sécurisées tombent entre de mauvaises mains.

Une course aux systèmes de ciblage basés sur l’IA utilisés dans la mise en œuvre des armes nucléaires reste bien sûr toujours possible. Toutefois, il est important de tenir compte du rôle que la recherche- développement peut continuer de jouer dans la diplomatie nucléaire et dans la réduction de l’armement. À l’époque, quand les États-Unis ont déployé des missiles Pershing à portée intermédiaire en Europe, ces armes ont été considérées comme une « monnaie d’échange » dans les négociations qui allaient suivre sur la réduction de l’armement. De même, les Soviétiques pensaient que le bouclier antimissile balistique que voulait le président Reagan pouvait être marchandé. Lors du sommet de Reykjavik de 1986, Mikhaïl Gorbatchev, alors à la tête de l’Union soviétique, s’est montré désireux de négocier avec le président Reagan l’abandon par l’URSS d’un grand nombre d’armes nucléaires en échange d’un accord qui garantirait que les États-Unis ne déploieraient pas de système de défense antimissile balistique. Finalement, les négociations en vue du traité sur les forces nucléaires à portée intermédiaire qui ont été menées après ce sommet ont conduit au retrait des missiles Pershing.

À l’heure actuelle, de sérieux problèmes se posent en matière de diplomatie nucléaire et il est impératif d’y remédier. La Russie refuse les inspections de ses armements nucléaires et continue de développer des missiles balistiques hypersoniques de nouvelle génération. La Chine, quant à elle, a toujours préféré fixer elle-même les limites de son arsenal nucléaire, ne concluant que rarement des accords formels avec les États-Unis. Les diplomates spécialistes du nucléaire espèrent aujourd’hui que les États-Unis, la Russie et la Chine signent un traité de réduction multilatérale des armements. Toutefois, compte tenu de la guerre brutale menée par la Russie contre l’Ukraine et des tensions qui couvent dans la région de l’Indo-Pacifique, le chemin vers un tel traité paraît semé d’embûches. En imaginant que toutes les parties finissent par accepter d’engager des pourparlers, les armes nucléaires dotées de systèmes de ciblage basés sur l’IA pourraient, à tout le moins, servir de monnaie d’échange aux États-Unis et aux autres pays de l’OTAN dans ces hypothétiques négociations. Cette stratégie (bien établie dans les négociations sur l’armement nucléaire) revient en fait à « renforcer l’arsenal pour mieux le réduire ». Cependant, pour obtenir le résultat escompté, il faut impérativement être le premier à investir dans le développement des systèmes les plus performants, et non pas le freiner.

Et s’il est finalement décidé de bannir les systèmes basés sur l’IA des moyens de défense nucléaire, toute proposition de législation à cet effet devra définir très précisément la notion d’intelligence artificielle, ce qui, avec le rythme des avancées scientifiques, ne sera pas chose aisée. Un projet de loi au Congrès américain, par exemple, prévoit que tout système qui « choisit ou engage une cible en vue de la mise en œuvre d’une arme nucléaire » doit être interdit. Ce texte définit en outre le « système d’arme autonome » comme « un système qui, une fois activé, est capable de choisir et d’engager une cible sans l’intervention d’un opérateur ». Notons que, depuis le début des années 1970, de nombreux MIRV (corps de rentrée à têtes multiples indépendamment guidées) ont fait partie de l’arsenal nucléaire des États-Unis. Ces systèmes sont capables de lancer plusieurs têtes nucléaires à la fois et de corriger la trajectoire de chacune d’elles sans intervention humaine. Compte tenu de ce qui précède, il serait utile que des juristes spécialisés déterminent si la définition d’IA donnée dans le projet de loi ne risquerait pas d’entraîner involontairement une interdiction des MIRV, technologie qui a fait ses preuves et qui occupe une place centrale dans la défense nucléaire américaine depuis des décennies.

En plusieurs dizaines d’années, ainsi que cela a pu transparaître dans notre culture populaire, notamment cinématographique, la peur de la bombe nucléaire a évolué en lien étroit avec celle suscitée par l’évolution technologique, notamment avec les transistors, les microprocesseurs et les puces électroniques. Ceux qui sont à l’origine de l’arsenal nucléaire, de ses systèmes de commande et de la doctrine de dissuasion en étaient bien conscients, et ils ont bien réfléchi au rôle spécifique que les systèmes automatisés devraient jouer. Même si l’on peut penser aujourd’hui que le problème est en fait bien plus complexe, les risques liés à l’utilisation de systèmes automatisés dans la mise en œuvre d’armes nucléaires ne constituent vraiment pas une nouveauté. Les inquiétudes relatives à l’évolution rapide de la technologie sont légitimes, mais celles qui portent sur le potentiel des systèmes d’IA doivent impérativement être fondées sur ce que sont effectivement ces systèmes, pas sur l’idée que l’on s’en fait dans la fiction populaire.

Les systèmes d’IA offrent la possibilité de renforcer la dissuasion nucléaire en améliorant la précision et les performances des moyens de défense nucléaire. L’objectif de ces améliorations n’est pas de promouvoir l’utilisation des armes nucléaires. Au contraire, ces nouvelles capacités permettent de rendre la dissuasion plus crédible et sont compatibles avec la doctrine nucléaire traditionnelle. L’IA n’est qu’un outil stratégique, à l’instar des armes nucléaires proprement dites.

Les préoccupations que suscite l’IA ne devraient pas faire obstacle à son utilisation dans le renforcement de la dissuasion nucléaire. Mais il ne faudrait pas non plus que l’IA soit déployée dans les systèmes de dissuasion juste pour le principe. Son utilisation doit toujours servir un objectif stratégique. Il sera toutefois difficile de trouver un juste équilibre, car, dans ce domaine, la science n’en est qu’à ses balbutiements. Les experts du secteur de la défense et de l’IA devraient être entendus sur le sujet, pas seulement les dirigeants d’entreprises d’IA. Des ingénieurs, des universitaires, des officiers et des avocats-conseils devraient également être interrogés sur ce sujet. Enfin, compte tenu de la vive inquiétude liée à la dégradation de la sécurité à l’échelle mondiale et du développement rapide des technologies nucléaires et de l’IA, il importe que les législateurs et les dirigeants politiques se montrent très prudents lorsqu’ils proposent de nouveaux textes de loi.