La Organización de las Naciones Unidas (ONU) ha roto una lanza en contra de las armas de vanguardia, aquellas máquinas impulsadas por inteligencia artificial que se están utilizando en el ejército y en el campo de batalla.
Esta institución acaba de celebrar el primer Diálogo Mundial sobre Gobernanza de la IA, celebrado en Ginebra (Suiza), donde se ha abierto el debate sobre la legitimidad de usar la IA en el ámbito bélico.
En este escenario, António Guterres, secretario general de la ONU, ha asegurado que el desarrollo de armas impulsadas por IA es «moralmente repugnante» y ha instado a los 193 Estados miembros de este organismo a prohibir el uso de esta tecnología en el campo de batalla de manera unilateral.
«Algunas decisiones deben seguir siendo siempre humanas», reconoció Guterres en este encuentro, donde también ha señalado que ninguna es comparable como la de «quitar una vida humana», algo que no se puede dejar en manos de la IA.
En base a todo ello, Guterres ha indicado que cualquier acuerdo futuro entre países en relación a este tema debe ser «digno de la confianza mundial» y que se debe seguir priorizando la seguridad de los usuarios y, especialmente, la de los niños.
Reducir la brecha digital y regular la IA para proteger a los menores, entre las prioridades de la ONU
Durante su intervención, el titular de la ONU afirmó que otras prioridades para una gobernanza mundial de la IA deben incluir garantizar el acceso de esta tecnología para los países en desarrollo, así como lograr menores emisiones por parte de centros de datos dedicados a la IA.
La inteligencia artificial «está en el centro de nuestro futuro común» y este ha de plantearse como un escenario en el que «las máquinas puedan informar, pero sean los seres humanos quienes tomen decisiones y rindan cuentas por ellas», explicó Guterres en el primer diálogo mundial de la ONU.
Asimismo, el principal representante de dicha institución avanzó que la IA «podría condensar décadas de desarrollo en apenas unos años» y que esta tecnología tiene todas las papeletas para convertirse en «el gran igualador del siglo XXI».
Sobre esto, Guterres comentó que la seguridad y el bienestar de la infancia deben ser una prioridad en cualquier futuro acuerdo sobre gobernanza de dicha tecnología y que los países miembros deben comprometerse a proteger la integridad de los menores.
El Papa León XIV, también en contra de la IA abusiva
Las palabras de Guterres coinciden en cierto modo con las del Santo Pontífice, que recientemente publicó su primera encíclica, llamada Magnifica Humanitas, que trata sobre «la custodia de la persona humana en el tiempo de la inteligencia artificial.
En este documento, que ocupa alrededor de 200 páginas, el Papa León XIV carga contra los abusos de la IA, que considera que habría que «desarmarla», consiguiendo con ello «desacreditar la idea de que el poder tecnológico confiere automáticamente el derecho a gobernar».
Con ello, el principal representante de la Iglesia católica ha insistido en que el principal problema de esta tecnología es que se concentra en muy pocas manos, algo que «tiende a volverse opaco y a eludir el control público, lo que aumenta el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades».
«Al igual que ocurre con todo gran cambio tecnológico, la IA tiende a amplificar el poder de quienes ya poseen recursos económicos, conocimientos especializados y acceso a los datos», matiza el Papa en su encíclica, donde también expresa sus temores de cara al futuro.
Y es que, en su opinión, las grandes compañías podrían usarla «para configurar la información y los patrones de consumo, influir en los procesos democráticos y orientar la dinámica económica en su propio beneficio», añade León XIV en este extenso documento.
Deja una respuesta