Les États-Unis, ainsi que la Chine, Israël, la Corée du Sud, la Russie et le Royaume-Uni ont investi dans la mise au point de systèmes d’armement dont les niveaux du contrôle humain ne cessent de diminuer dans les fonctions essentielles de sélection et d’élimination. La crainte est que ces « robots tueurs » ne finissent par endosser ces fonctions critiques au fur et à mesure que le rôle de l’humain diminue.

Les drones armés sont un exemple de cette tendance vers une autonomie toujours plus importante, mais ils sont quand même commandés par un humain qui prend la décision de sélectionner et de tirer sur les cibles.

L’inquiétude fondamentale en ce qui concerne les armes entièrement autonomes est qu’elles franchiront une ligne morale qui ne doit jamais être franchie en permettant aux machines de prendre la décision de tuer sur un champ de bataille, dans le cadre d’opérations policières, de contrôle des frontières ou dans d’autres circonstances.

Le 13 novembre 2017, des représentants d’environ 80 pays se réuniront aux Nations unies, à Genève, pour discuter de questions relatives à ce qu’ils qualifient de systèmes autonomes d’armes létales. Depuis leur dernière réunion sur la question en avril 2016, les inquiétudes n’ont cessé de croître au sujet de ces armes à venir. Dans le même temps, un débat est en cours sur la question de savoir si les États parties à la Convention sur les armes classiques peuvent relever ce défi en négociant un nouveau protocole à la Convention qui interdirait ou limiterait ces armes.

Étant donné qu’aucun pays ne souhaite prendre du retard en matière de technologies militaires potentiellement avantageuses, la mise au point de ces armes révolutionnaires risquerait d’entraîner une course à l’armement si l’on ne prend pas immédiatement des mesures pour arrêter tout le processus.

Les forces armées à la pointe de la technologie pourraient disposer d’un avantage dans les premières étapes du développement de ces armes, mais à mesure que les coûts diminuent et que ces technologies prolifèrent, ces armes seraient probablement produites en série.

Décisions de vie ou de mort

Des qualités telles que la compassion et l’empathie ainsi que l’expérience humaine rendent les humains particulièrement aptes à prendre la décision morale de recourir à la force dans certaines situations.

Aucune avancée technologique ne peut résoudre le défi fondamental que représente pour l’humanité le fait de déléguer une décision de vie ou de mort à une machine.

Tout homicide dirigé par une arme entièrement autonome est probablement intrinsèquement mauvais dans la mesure où les machines sont incapables de faire preuve de compassion et de jugement humains.

Dans de nombreuses circonstances, les êtres humains éprouvent des difficultés à faire une distinction fiable entre les cibles autorisées ou non par la loi, mais il est encore plus improbable que des armes totalement autonomes puissent faire de telles distinctions, comme l’exige le droit international humanitaire.

Même si les capacités des technologies du futur sont incertaines, il est fort peu probable qu’elles reproduisent l’étendue des caractéristiques intrinsèquement humaines nécessaires au respect des règles de distinction et de proportionnalité.

Par ailleurs, ces armes sont susceptibles de commettre des actes illégaux dont personne ne pourrait être tenu responsable. Les mécanismes existants en matière de responsabilité juridique sont inadaptés et inadéquats pour faire face aux dommages illégaux que des armes totalement autonomes risqueraient de causer.

Le désir de traiter les données et d’opérer à une vitesse supérieure à celle des armes contrôlées par l’homme au stade du ciblage ou de l’élimination est l’un des facteurs qui sous-tendent les armes entièrement autonomes. Ces armes pourraient également fonctionner sans ligne de communication après leur déploiement.

Cependant, étant donné que des armes entièrement autonomes auraient le pouvoir de prendre des décisions complexes dans des environnements moins structurés, leur vitesse pourrait entraîner une escalade rapide des conflits armés. Et indépendamment de leur vitesse, leur capacité à opérer sans ligne de communication après leur déploiement poserait problème, car ces armes pourraient faire un mauvais choix de manière indépendante quant au recours à la force.

Comme les armes entièrement autonomes seraient capables d’opérer à grande vitesse et sans contrôle humain, leurs actions ne seraient pas non plus tempérées par une compréhension humaine des risques politiques, socioéconomiques, environnementaux et humanitaires au moment où elles entrent en action.

Elles pourraient donc déclencher une série de conséquences imprévues, dont un grand nombre pourraient fondamentalement altérer les relations entre des États ou la nature des conflits en cours.

Si des armes totalement autonomes sont à même de créer un avantage militaire immédiat pour certains États, ces derniers doivent reconnaître que ces avantages seront de courte durée dès que ces armes commenceront à proliférer. Au bout du compte, le coût financier et humain de la mise au point de tels systèmes d’armement aggraverait la situation de tous les États.

Campagne pour stopper les robots tueurs

C’est pour ces raisons et bien d’autres encore que des organisations non gouvernementales ont créé la Campaign to Stop Killer Robots (Campagne pour stopper les robots tueurs) dans le but de faire interdire à titre préventif la mise au point, la production et l’utilisation de systèmes d’armement qui, une fois activés, sélectionneraient et élimineraient des cibles sans véritable contrôle humain.

Depuis 2013, 19 pays ont adhéré à cette interdiction et des dizaines d’autres ont reconnu l’importance de maintenir un contrôle humain véritable, approprié ou adéquat sur les fonctions de combat essentielles de ces systèmes d’armement. Pourtant, les réflexions multilatérales sur cette question avancent à pas de tortue, tandis que les technologies qui permettront la mise au point d’armes entièrement autonomes avancent à pas de géant.

Si le droit international humanitaire impose déjà des limites à ces armes qui posent problème et à leur utilisation, dans le passé, les gouvernements prenant leur responsabilité ont jugé nécessaire de compléter les cadres juridiques existants pour les armements qui constituent une menace humanitaire importante de par leur nature.

D’aucuns affirment que le fait de procéder à l’examen de ces armes avant de mettre au point ou d’acquérir des armes entièrement autonomes suffirait à les réglementer. Aux termes de l’article 36 du Protocole additionnel (I) aux Conventions de Genève, les examens d’armes sont requis pour évaluer la légalité de l’utilisation future d’une nouvelle arme pendant les phases de conception, de mise au point et d’acquisition.

Pourtant, les examens d’armes ne sont pas universels, cohérents ou menés de manière rigoureuse et ils n’abordent pas les répercussions de ces armes en dehors du contexte d’un conflit armé. Rares sont les gouvernements qui procèdent à des examens d’armes et ceux qui le font suivent des normes qui varient. La portée de ces examens est souvent trop étroite que pour tenir compte de tous les dangers. En outre, les États ne sont pas tenus de divulguer leurs examens et, à ce jour, aucun d’entre eux n’a divulgué d’informations sur un examen ayant rejeté une arme proposée.

Une interdiction absolue et contraignante des armes entièrement autonomes réduirait les risques de mauvais usage de ces armes, serait plus facile à faire respecter et renforcerait la stigmatisation associée aux infractions.

De plus, une interdiction maximiserait la stigmatisation des armes totalement autonomes par la création d’une norme largement reconnue. Elle influencerait même ceux qui n’adhèrent pas au traité. Les précédents historiques prouvent qu’une interdiction est possible et efficace.

Après trois ans de consultations informelles sans résultat, l’heure est venue pour que les États négocient et adoptent un instrument international juridiquement contraignant interdisant la mise au point, la production et l’utilisation d’armes entièrement autonomes.

Si cela n’est pas possible sous les auspices de la Convention sur les armes classiques, les États doivent envisager d’autres mécanismes pour interdire sans attendre les armes entièrement autonomes.

L’avenir de notre humanité en dépend.