Mrinank Sharma, investigador principal del equipo de seguridad de IA en Anthropic, ha decidido poner punto y final a su presencia en la empresa. Y lo ha hecho de la manera más dramática posible: acompañando su salida de la compañía con una carta en la que explica claramente los principales riesgos de la IA. «El mundo está en peligro», ha asegurado.
Lo más curioso del asunto, sin embargo, es que Sharma no se ha centrado en muchas de las cuestiones más comunes que suelen prever algunos expertos y futuristas varios. Ya se sabe, en que la IA toma conciencia de sí misma y destruya a la humanidad y ese tipo de escenarios propios de películas de ciencia ficción. Sus advertencias son más prácticas y, por lo tanto, inquietantes.
De trabajar en Anthropic a advertir del peligro de la IA para el mundo
Según ha explicado el propio Mrinank Sharma en sus redes sociales, donde ha compartido sus reflexiones, su salida de Anthropic no tiene que ver con cuestiones internas de la empresa. No del todo, al menos. El especialista en IA se refiere a «crisis interconectadas», que van más allá de lo que mucha gente piensa. Y asegura que las consecuencias podrían ser muy graves.
Su mensaje no puede ser más claro: «La humanidad ha alcanzado un punto en el que nuestra capacidad técnica para cambiar el mundo supera nuestra sabiduría para hacerlo de manera segura». Con estas palabras, Sharma se suma a aquellos que consideran que el ritmo acelerado de desarrollo tecnológico requiere de una ética afín y una supervisión rigurosa. Algo que hoy no sucede.
¿Qué pasa con la seguridad en la inteligencia artificial?
En su carta, Sharma enfatiza que las amenazas no son solo tecnológicas: «Estamos frente a una serie de crisis interconectadas, y la combinación de estos factores hace que el mundo sea más». Si bien no detalla todas las amenazas específicas, su mensaje pone el foco en la necesidad de prudencia y planificación estratégica en todos los desarrollos de IA, desde las grandes compañías hasta los investigadores independientes.
Los temores del ya antiguo trabajador de Anthropic no son únicas. Muchos otros conocedores del mundo de la IA también han insistido en lo mismo. Para ellos, el mundo no está preparado para lo que se viene encima. No es un único problema, sino algo que afectará al trabajo de millones de personas en todo el mundo, a la economía o incluso a la seguridad.
Algunos incluso han hablado de política. No porque una inteligencia artificial vaya a presentarse a presidente (aunque se han dado sucesos parecidos), sino porque consideran que esta tecnología tiene la capacidad suficiente como para influir en la opinión de cualquiera e influir en unas elecciones, por ejemplo.
En el caso de Sharma, este busca sobre todo la coherencia, de ahí su salid de Anthropic. «He decidido dedicarme a actividades que reflejen mi integridad, incluyendo investigación crítica y expresión creativa». Un nuevo camino que muchos otros científicos, de la talla de Geoffrey Hinton, ya decidieron recorrer antes.
Deja una respuesta