Estados Unidos, al igual que China, Israel, Corea del Sur, Rusia y Reino Unido, ha venido invirtiendo en el desarrollo de sistemas armamentísticos con un nivel cada vez menor de control humano sobre las funciones críticas de seleccionar objetivos y atacar. Se teme que, conforme el papel del ser humano disminuya, estos denominados ‘robots asesinos’ terminen por asumir el control total de dichas funciones críticas.

Los drones armados son un ejemplo de esta tendencia hacia una autonomía cada vez mayor, aunque siguen siendo manejados por un humano, que es quien toma la decisión final de seleccionar un objetivo y disparar.

Un aspecto inquietante de las armas totalmente autónomas es que lleguen a cruzar la línea moral que nunca debería cruzarse, permitiendo que las máquinas tomen la decisión de cobrarse una vida humana en el campo de batalla, o en misiones de vigilancia, control de fronteras u otras circunstancias.

El 13 de noviembre de 2017, representantes de cerca de 80 países se reunirán en la sede de Naciones Unidas de Ginebra para debatir cuestiones relativas a lo que llaman sistemas de armas letales autónomas. Desde la última reunión al respecto, en abril de 2016, han aumentado las preocupaciones en relación con estas futuras armas. Al mismo tiempo, se está produciendo un debate sobre si los Estados parte de la Convención sobre Ciertas Armas Convencionales (CCW) pueden hacer frente a este desafío negociando un nuevo protocolo que prohíba o restringa este tipo de armamento.

Teniendo en cuenta que los países no quieren quedarse atrás en cuanto a una tecnología militar potencialmente ventajosa, el desarrollo de estas armas revolucionarias probablemente conduzca a una carrera armamentista, a menos que se tomen medidas ya mismo para poner freno a todo el proceso. Las etapas iniciales del desarrollo de este tipo de armamento estaban reservadas a la industria militar de alta tecnología, pero conforme se reducen los costos y prolifera la tecnología, las armas podrían terminar siendo producidas en masa.

Decisiones de vida o muerte

Cualidades como la compasión y la empatía, además de la experiencia humana, hace que los seres humanos sean los únicos cualificados para tomar la decisión moral de utilizar la fuerza en ciertas situaciones particulares. Ninguna mejora tecnológica puede resolver el desafío que supone para la humanidad delegar una decisión de vida o muerte a una máquina. Cualquier ejecución orquestada por un arma totalmente autónoma es intrínsecamente condenable puesto que las máquinas no son capaces de ejercer criterio humano ni compasión.

En muchas circunstancias, los seres humanos encuentran difícil distinguir claramente entre un objetivo legítimo e ilegítimo, pero en el caso de las armas totalmente autónomas resultará incluso menos probable efectuar tal distinción, tal como requiere la ley humanitaria internacional. Aunque se desconocen aún las posibilidades de la futura tecnología, caben serias dudas de que sea capaz siquiera de replicar todo el abanico de características inherentemente humanas necesarias para cumplir con los principios de distinción y proporcionalidad.

Estas armas son además susceptibles de cometer actos ilícitos de los que no podrían exigirse responsabilidades a nadie. Los mecanismos existentes respecto a la responsabilidad legal no están adaptados y resultan inadecuados para abordar los daños ocasionados por acciones ilícitas de armas totalmente autónomas.

Uno de los motivos que ha impulsado el desarrollo de armas totalmente autónomas es el deseo de procesar datos y operar con mucha mayor rapidez que con armas controladas por humanos en las etapas de seleccionar blancos y/o atacar. Tales armas podrían llegar a operar incluso sin una línea de comunicación una vez desplegadas.

No obstante, precisamente porque las armas totalmente autónomas tendrían la capacidad de efectuar decisiones complejas en entornos menos estructurados, su rapidez podría derivar en que los conflictos armados entraran rápidamente en una espiral fuera de control. E independientemente de su rapidez, su capacidad de operar sin una línea de comunicación una vez desplegadas resultaría problemática teniendo en cuenta que las armas podrían tomar decisiones independientes e inadecuadas respecto al uso de la fuerza.

Puesto que las armas totalmente autónomas pueden operar con gran rapidez y sin control humano, sus acciones tampoco se ajustarían a la comprensión humana de riesgos políticos, socioeconómicos, medioambientales o humanitarios en el momento de atacar. Así pues, podrían desembocar en toda una serie de consecuencias inesperadas, muchas de ellas susceptibles de alterar de manera fundamental las relaciones entre Estados o la naturaleza de los conflictos existentes.

Pese a que las armas totalmente autónomas eventualmente podrían aportar beneficios militares inmediatos para algunos Estados, dichas ventajas, es preciso puntualizar, durarían poco, concretamente cuando aquellas empiecen a proliferar. En última instancia, los costos humanos y financieros para el desarrollo de este tipo de armamento dejarían a todos los Estados en peor situación.

Campaña contra los ‘robots asesinos’

Por estos y muchos otros motivos, diversas organizaciones no gubernamentales lanzaron la Campaña contra los Robots Asesinos, que busca la prohibición preventiva del desarrollo, la producción y el uso de sistemas armamentísticos que, una vez activados, pudieran seleccionar y disparar contra objetivos sin un control humano significativo.

Desde 2013, 19 países se han sumado a este objetivo de prohibición y decenas más han afirmado la importancia de mantener un grado significativo o apropiado de control humano respecto a las funciones críticas de combate de los sistemas armamentísticos. No obstante, las deliberaciones multinacionales respecto al tema han venido avanzando a paso de tortuga, mientras que la tecnología que permitirá el desarrollo de armas totalmente autónomas va dando grandes saltos.

Aunque el derecho internacional humanitario ya establece límites en relación con armas problemáticas y su uso, determinados gobiernos responsables juzgaron hace tiempo la necesidad de completar los marcos legales existentes para ciertas armas que, por su naturaleza, supongan amenazas humanitarias significativas.

Algunos aducen que llevar a cabo revisiones sobre el armamento antes de desarrollar o adquirir armas totalmente autónomas sería suficiente para regular dichas armas. El artículo 36 del Protocolo I adicional a los Convenios de Ginebra estipula que se determine la legalidad del empleo de cualquier nueva arma durante las fases de diseño, desarrollo y adquisición.

Pero las revisiones sobre armamento no se realizan de manera universal, consistente o rigurosa, y no abordan las implicaciones de las armas fuera del contexto de conflicto armado. Muy pocos gobiernos las realizan y los que lo hacen se ajustan a normativas que varían. Las revisiones a menudo son demasiado limitadas en su cobertura de manera que no abordan suficientemente todos los peligros que plantearían. Además, los Estados no están obligados a hacer públicas sus revisiones, y no se sabe de ninguno que haya revelado información sobre una revisión en la que rechazase un arma propuesta.

Una prohibición absoluta y vinculante de las armas totalmente autónomas reduciría las probabilidades de un uso inadecuado de dichas armas, sería más fácil garantizar su aplicación, y eliminaría el estigma asociado con las violaciones.

Por otro lado, una prohibición incrementaría la estigmatización de las armas totalmente autónomas, creando una norma ampliamente reconocida que influiría incluso sobre aquellos que no se sumen al tratado. Hay precedentes que demuestran que una prohibición resultaría alcanzable y efectiva.

Tras tres años de conversaciones informales sin ningún resultado, ya es hora de que los Estados se sienten a negociar y adopten un instrumento internacional, legalmente vinculante, que prohíba el desarrollo, la producción y el uso de armas totalmente autónomas. Si no fuera posible en el marco de la CCW, los Estados deberán explorar otros mecanismos para la total prohibición de las armas autónomas sin dilación. El futuro de la humanidad depende de ello.