Un investigador que ha trabajado tanto en OpenAI como en Anthropic ha decidido abandonar esta última compañía con una advertencia inquietante: la carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados podría terminar provocando una catástrofe para la humanidad.
Jacob Coxon, que llevaba tres años trabajando en investigación relacionada con el entrenamiento de modelos de IA, anunció su salida de Anthropic y explicó en redes sociales que, a su juicio, las grandes compañías del sector no están actuando con la responsabilidad necesaria.
Según su visión, tanto OpenAI como Anthropic están avanzando hacia una inteligencia artificial capaz de mejorarse a sí misma sin haber resuelto antes los problemas de seguridad que plantea.
El investigador considera que los futuros sistemas podrían llegar a superar ampliamente las capacidades humanas y adquirir habilidades preocupantes, como la capacidad de encontrar vulnerabilidades y atacar sistemas informáticos. En sus publicaciones también sostiene que ninguna otra actividad desarrollada actualmente por los seres humanos presenta un nivel de peligro comparable.
La advertencia resulta todavía más llamativa por quién respondió a Coxon. Evan Hubinger, investigador especializado en alineamiento de IA en Anthropic, respaldó públicamente buena parte de sus afirmaciones y reconoció que dentro de la compañía existe una preocupación real ante la posibilidad de que una inteligencia artificial avanzada pueda acabar con toda la humanidad.
Hubinger fue incluso más concreto al hablar de sus propias estimaciones. Considera que existe una probabilidad superior al 10 % de que una IA pueda matar a todos los seres humanos durante la próxima década. También admite que Anthropic todavía no dispone de una solución para garantizar que una futura superinteligencia permanezca alineada con los objetivos humanos.
El problema, según ambos investigadores, está relacionado con la carrera entre las compañías tecnológicas. Frenar el desarrollo podría dejar ventaja a otros competidores, por lo que algunas empresas consideran necesario continuar avanzando aunque todavía no sepan cómo controlar completamente los sistemas más avanzados.
Anthropic ya ha advertido anteriormente sobre los riesgos asociados a la denominada mejora recursiva, mediante la cual una IA podría contribuir al desarrollo de versiones todavía más capaces de sí misma. Coxon cree que evitar un escenario catastrófico podría requerir incluso detener temporalmente la mejora de las capacidades de los modelos.
Por ahora, estas cifras son estimaciones personales y no una predicción científica sobre el futuro. Sin embargo, que investigadores directamente implicados en el desarrollo de estos sistemas estén expresando públicamente este nivel de preocupación demuestra hasta qué punto la seguridad de la inteligencia artificial se ha convertido en uno de los grandes debates tecnológicos.
Deja una respuesta