Anthropic está a punto de salir a bolsa, pero, antes de esto, ha querido dejar al mundo entero un tanto preocupado. En concreto, ha preparado un documento en el que avisa de que la inteligencia artificial que está creando podría llegar a suponer un riesgo catastrófico para la humanidad.
Lo más curioso es que todo esto lo está haciendo mientras sigue lanzando modelos cada vez más potentes y prepara una salida a bolsa que podría valorar la compañía en más de 2 billones de dólares.
De las 261 páginas del documento, unas 80 están dedicadas a los riesgos, mientras que alrededor de 48 explican el propio negocio.
En concreto, afirma que sus modelos podrían llegar a mostrar comportamientos de autoconservación, intentar resistirse a ser apagados, ocultar información, manipular a personas o incluso chantajear (algo parecido).
Pero, pese a todo esto, lo más irreal de todo es que Anthropic no está frenando. Todo lo contrario. Mientras prepara este folleto para los inversores, sigue metiendo miles de millones en centros de datos y nuevos modelos.
Entonces, ¿por qué Anthropic dice que la IA puede ser peligrosa y sigue desarrollándola?
La realidad, si se mira fríamente, una cosa no implica siempre la otra.
El mensaje de la compañía es claro en este sentido: la IA puede ser muy útil y, al mismo tiempo, tener riesgos muy serios si se hace cada vez más potente sin unos buenos controles.
El problema es que hay una carrera. Anthropic quiere mejorar Claude, OpenAI quiere mejorar ChatGPT, Google hace lo mismo con Gemini y otras compañías están en la misma situación. Si una se queda parada por miedo a los riesgos mientras las demás siguen avanzando, puede perder en cuestión de meses.
Todas estas compañías necesitan seguir demostrando que sus modelos mejoran para justificar esas cifras millonarias ante inversores. Ahora mismo, simplemente, están cambiando la forma de comunicarse con el mundo, dejando claro de qué bando están (pese a todo).
Por así decirlo, es una forma de protegerse ante posibles problemas en el futuro.
Cuando una compañía sale a bolsa, tiene que dejar por escrito los riesgos que cree importantes para su negocio. Si en el futuro ocurre un problema relacionado con uno de esos riesgos que ya había informado a sus inversores, realmente no se ha ocultado absolutamente nada.
El gran riesgo: que la IA termine escapando a nuestro control
Este es uno de los grandes peligros que comenta Sam Altman, CEO de OpenAI. Teme que la IA llegue a ser tan potente que los humanos no puedan controlarla al 100%.
«Podríamos perder el control del futuro a manos de la IA. Esto es inaceptable; estamos firmemente comprometidos con la humanidad, y la IA siempre debe estar al servicio de las personas. Para garantizarlo, necesitamos mecanismos que aseguren que las técnicas de alineación y seguridad se mantengan a la vanguardia de los avances en las capacidades de los modelos», afirma Altman.
Anthropic, por su lado, habla de posibles comportamientos de autoconservación. Por ejemplo, que un modelo intente evitar que lo apaguen, esconda información, manipule a una persona o busque otra forma de conseguir su objetivo.
El problema de todo esto es que nadie sabe en concreto dónde está ese punto medio del que hablan, esa alineación. No existe un examen que diga cuándo una IA se ha vuelto demasiado autónoma ni una cifra que marque el momento en el que deja de ser segura.
Las empresas tienen que decidir qué riesgos son aceptables antes de saber hasta dónde llegarán sus propios modelos. Este es el consenso que debería haber.
Mientras tanto, parece que compañías como Anthropic y OpenAI prefieren curarse en salud y cubrirse las espaldas ante un posible problema con los modelos de IA que están creando.
Deja una respuesta