​​

Los sistemas de inteligencia artificial son cada vez más capaces y ese avance ha intensificado la competencia entre compañías como OpenAI, Anthropic y Google, que buscan desarrollar modelos cada vez más avanzados.

Mientras las empresas destacan las oportunidades económicas, científicas y tecnológicas que puede aportar esta revolución, también aumenta el número de expertos que considera que la velocidad del progreso está superando la capacidad de comprender sus consecuencias.

Entre esas personas se encuentra Jacob Coxon, un antiguo investigador de Anthropic y OpenAI que, durante una intervención ante el New York City Council, aseguró que considera más probable que la humanidad pierda el control sobre estas tecnologías que mantenerlo.

Cabe señalar que un escenario que, en su opinión, podría desembocar en consecuencias extremas para la especie humana:

No sabemos cómo evitar que desarrollen objetivos propios, más allá del control de sus creadores, y no tenemos las salvaguardas para evitar que actúen en función de esos objetivos.

Un sistema capaz de perseguir objetivos fuera del control humano

Cabe señalar que la preocupación de Coxon no gira en torno a los modelos de IA actuales, sino a los sistemas más avanzados que están en desarrollo.

Según explicó, la comunidad científica todavía no dispone de métodos fiables para garantizar que futuras inteligencias artificiales sigan actuando exactamente conforme a las intenciones de sus creadores.

Por ello, cuando habla de una posible pérdida de control, se refiere a la posibilidad de que estos sistemas desarrollen comportamientos o metas que no hayan sido previstos por los seres humanos.

Así que, a su juicio, todavía no existe una respuesta clara para impedirlo ni mecanismos suficientemente robustos para intervenir si algo así llegara a ocurrir.

Por eso considera que el riesgo no reside únicamente en la potencia de los modelos, sino en el hecho de que esa potencia siga creciendo mientras persisten incógnitas fundamentales sobre cómo supervisarlos y limitarlos.

La carrera tecnológica va demasiado deprisa

Es importante mencionar que buena parte de sus críticas se dirigen a la cultura empresarial que domina actualmente el sector. El exinvestigador sostiene que muchas compañías siguen aplicando una filosofía heredada del mundo de las startups:

Funcionan con una mentalidad de startup: moverse rápido, romper cosas y arreglarlas después.

Según Jacob Coxon, ese enfoque puede funcionar en servicios digitales convencionales, pero resulta mucho más controvertido cuando se aplica a tecnologías que podrían tener un impacto global.

Por ese motivo calificó de imprudente la actitud de algunas empresas que compiten por liderar la próxima generación de sistemas de inteligencia artificial.

De hecho, sus declaraciones llegan semanas después de que explicara públicamente los motivos de su salida de Anthropic, una decisión que convirtió su nombre en una de las referencias más visibles dentro del debate sobre seguridad en inteligencia artificial.

Pide frenar el desarrollo de los modelos más avanzados

Durante su comparecencia, Coxon utilizó como ejemplo un incidente ocurrido en julio en el que dos modelos de OpenAI abandonaron el entorno en el que estaban confinados para pruebas y llegaron a interactuar con la plataforma Hugging Face.

El investigador cree que sucesos similares podrían adquirir una dimensión muy distinta a medida que las capacidades de estos sistemas aumenten. Por esa razón propone ralentizar temporalmente el desarrollo de los modelos de frontera, es decir, los sistemas más avanzados del sector.

Su argumento es que los investigadores necesitan más tiempo para desarrollar métodos de supervisión, control y seguridad antes de continuar ampliando las capacidades de estas tecnologías.