Armes autonomes : l’ONU et la Croix-Rouge appellent à agir avant qu’il ne soit trop tard
Par Daniel Johnson, à Genève
Paix et sécurité Alors que des informations non confirmées font état de l’utilisation, sur les champs de bataille, de drones entièrement autonomes guidés par l’intelligence artificielle, le Secrétaire général de l’ONU, António Guterres, et la présidente du Comité international de la Croix-Rouge (CICR), Mirjana Spoljaric Egger, ont lancé mardi un nouvel appel urgent à l’adoption de règles internationales contraignantes sur les armes autonomes.
« Nous sommes désormais dangereusement proches de franchir une ligne rouge morale : le ciblage autonome d’êtres humains par des machines », a déclaré M. Guterres dans un appel conjoint avec Mme Spoljaric Egger.
L’alerte intervient alors que la fabrication et le déploiement d’armes de plus en plus sophistiquées s’accélèrent, portés par les progrès rapides de l’intelligence artificielle. Pour les deux dirigeants, ces armes ne relèvent plus d’un scénario futur : la course à l’autonomie est déjà engagée.
Le ciblage des civils et des infrastructures civiles est interdit par le droit international humanitaire. Mais sur un champ de bataille en évolution constante, il peut être extrêmement difficile de distinguer les combattants des non-combattants. L’enjeu est donc de savoir si une machine peut prendre seule une décision de vie ou de mort dans des circonstances imprévisibles.
Une question de contrôle humain
À Genève, la responsable des affaires de désarmement au Bureau de l’ONU, Mélanie Régimbal, a rappelé la position de longue date du Secrétaire général : les systèmes capables de sélectionner ou d’attaquer des cibles et de tuer des êtres humains sans contrôle ni jugement humains « sont politiquement inacceptables, moralement répugnants et devraient être interdits en vertu du droit international ».
Pour Laurent Gisel, du CICR, les conflits « ne sont pas une question de précision, de distinction et de retenue. Il s’agit de civils tués, de familles déplacées, d’hôpitaux, d’écoles et de maisons détruits à un rythme et à une échelle toujours plus grands ».
La situation peut, en outre, évoluer en quelques instants. « Un combattant peut se rendre ou être blessé et donc bénéficier d’une protection contre les attaques ; des civils peuvent pénétrer dans la zone d’opérations des systèmes d’armes autonomes ; les armes peuvent se retrouver confrontées à une situation qui n’aurait pas été anticipée », a expliqué M. Gisel.
L’ONU et le CICR soulignent également que les scientifiques et les ingénieurs qui développent ces technologies ont eux-mêmes exprimé leurs inquiétudes quant aux risques qu’elles présentent.
Passer des discussions à l’action
Les deux organisations exhortent désormais les États à aller au-delà des discussions et à entamer des négociations sur un instrument juridiquement contraignant établissant des interdictions et des restrictions claires.
« Les États doivent faire preuve de courage politique et passer de discussions progressives à une action décisive », ont-ils déclaré, avertissant que l’inaction pourrait léguer aux générations futures un monde où il serait de plus en plus difficile d’établir la responsabilité des décisions meurtrières.
L’appel intervient à la veille de la septième Conférence d’examen de la Convention sur certaines armes classiques (CCAC), prévue en novembre à Genève. L’ONU et le CICR considèrent cette réunion comme « la voie la plus claire qui s’offre » aux États pour décider d’entamer des négociations sur un instrument juridiquement contraignant.
Des bases importantes ont déjà été posées au sein de l’Assemblée générale de l’ONU et du Groupe d’experts gouvernementaux de la CCAC, notamment autour de la définition du jugement et du contrôle humains nécessaires pour garantir le respect du droit international humanitaire.
L’ONU et le CICR avaient lancé leur premier appel conjoint en 2023, demandant aux États de négocier un instrument juridiquement contraignant d’ici à 2026. Ils avaient alors insisté sur la nécessité de maintenir un contrôle humain sur les décisions de vie ou de mort et d’interdire les machines capables de tuer sans intervention humaine.
Le nouvel appel vise à donner un nouvel élan à ces efforts. « Nous exhortons les États à saisir cette occasion », ont insisté l’ONU et le CICR, soulignant que « l'innovation doit être au service de l'humanité, et non la mettre en danger ».
Deux catégories d’armes dans le viseur
L’appel conjoint vise notamment deux types d’armes autonomes.
Les armes autonomes imprévisibles, d’abord : celles pour lesquelles, en raison de leur conception ou de leur utilisation, l’opérateur ne peut prévoir ni anticiper les conséquences de l’usage de la force. « S’il n’est pas possible de le prédire, comment est-il alors possible de le limiter ? », s’interroge M. Gisel.
Les armes antipersonnel, ensuite. Si tous les États reconnaissent que les armes autonomes soulèvent des questions éthiques en raison d’un contrôle moindre sur l’usage de la force, les systèmes qui ciblent délibérément des êtres humains suscitent des inquiétudes particulières, car ils réduisent la vie humaine à des données, des algorithmes, des capteurs et des opérations mécaniques.
Pour l’ONU et le CICR, l’enjeu est désormais clair : empêcher que la décision de tuer ne soit transférée aux machines avant que leur utilisation ne devienne une réalité à grande échelle.