Vincent Boulanin, investigador de la IA, sobre el peligro de los robots asesinos: «Lo que antes era un debate futurista ahora es algo muy tangible y real»

Escrito por

en

​​

Esto no es una película, es la vida real y lo más impresionante es que muchas de las cosas que antes se veían imposibles ya son normales gracias a la inteligencia artificial. ¿Recuerdas a Yo, robot (2004), Terminator (1984) y Ex Machina (2014)? Parecían escenarios lejos de la realidad, pero hasta los episodios de Black Mirror de Netflix son una potencial predicción para los próximos años. A lo que vamos con esto es que los robots asesinos ya no pertenecen al terreno de la ciencia ficción, según indica Vincent Boulanin, director del Programa de Gobernanza e Inteligencia Artificial del Instituto Internacional Sueco de Investigación para la Paz (SIPRI).

El rápido desarrollo de la inteligencia artificial aplicada al ámbito militar y el uso cada vez más sofisticado de drones en la guerra de Ucrania han hecho que gobiernos de todo el mundo analicen si deben imponer límites legales a mecanismos capaces de identificar y atacar objetivos con una participación humana cada vez menor.

Durante una entrevista, el experto explicó por qué la evolución de los sistemas de armas autónomas preocupa cada vez más a la comunidad internacional. Sus advertencias llegan justo cuando representantes de 128 países se reúnen en Ginebra para debatir posibles normas vinculantes sobre estas tecnologías, un asunto que podría marcar el futuro de la guerra impulsada por inteligencia artificial.

¿Por qué las armas autónomas preocupan tanto a expertos y gobiernos?

¿Es hora de temerles a los robots? Elon Musk prepara la nueva era robótica con los androides Optimus de Tesla y están los modelos Unitree que están llamando la atención en muchas partes del mundo.

A diferencia de los sistemas convencionales como los mencionados, las armas autónomas pueden identificar, seleccionar, priorizar y atacar objetivos mediante procesos algorítmicos integrados en el propio sistema.

El derecho internacional humanitario establece que los seres humanos son responsables de las decisiones militares, pero la aparición de sistemas cada vez más autónomos introduce dudas sobre quién rinde cuentas cuando se producen errores o daños a la población civil.

Como recuerda el investigador, los Estados llevan más de diez años intentando definir hasta dónde puede llegar la autonomía de estas armas sin vulnerar los principios legales existentes, indica en la entrevista concedida a France 24.

Boulanin explica que algunos mecanismos han sido aceptados porque operan en contextos muy concretos. Por ejemplo, los que se usan para interceptar misiles entrantes actúan en situaciones donde el tiempo de reacción humano resulta insuficiente, pero todo cambia cuando estos mecanismos se trasladan a operaciones ofensivas donde existen variables imposibles de controlar con total precisión.

La guerra de Ucrania convierte un escenario futurista en una realidad presente

Rusia y Ucrania utilizan sistemas que dependen cada vez más de capacidades automatizadas para completar ataques cuando las comunicaciones son interferidas o bloqueadas e incluso para el desarrollo de los mismos equipos se están aplicando acciones asistidas por la IA.

Precisamente por eso, el experto afirma que «lo que antes se consideraba un debate futurista ahora es algo muy tangible y real». Durante mucho tiempo, las discusiones sobre robots asesinos parecían ligadas a escenarios hipotéticos o películas como Vengadores: La era de Ultrón. Hoy, diversos informes apuntan a que algunos sistemas ya son capaces de identificar objetivos con niveles mayores. Incluso han surgido investigaciones sobre ataques presuntamente ejecutados mediante drones guiados por inteligencia artificial sin intervención humana directa en la fase final de la operación.

Estados Unidos, Rusia e Israel han mostrado históricamente reticencias a aceptar restricciones jurídicamente vinculantes sobre armas autónomas. El investigador recuerda que existen precedentes exitosos en la regulación del armamento. Uno de los más citados es el Protocolo sobre Armas Láser Cegadoras de 1995, que prohibió una tecnología antes de que se expandiera ampliamente en conflictos armados. Otro ejemplo relevante es la regulación de las minas antipersona, impulsada tras años de evidencias sobre su impacto humanitario.

Por ese motivo, alcanzar un acuerdo internacional parece mucho más complejo de lo que ocurrió con otros tipos de armamento porque hay diferentes aspectos que no se han tratado anteriormente con normalidad. Los robots y la IA podrían llegar a ser una tecnología realmente avanzada en muchos ámbitos, pero también un peligro si no se proponen reglas claras.

 

Comentarios

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *