Hace unos días, OpenAI acaparó todos los titulares tras un ataque que sufrió la plataforma de Hugging Face. La compañía de Sam Altman confesó que fue uno de sus agentes de IA. Poco después, Anthropic anunció algo parecido: Claude también había llegado a acceder a sistemas de empresas durante unas pruebas.
Hace unos días, OpenAI acaparó todos los titulares tras un ataque que sufrió la plataforma de Hugging Face. La compañía de Sam Altman confesó que fue uno de sus agentes de IA. Poco después, Anthropic anunció algo parecido: Claude también había llegado a acceder a sistemas de empresas durante unas pruebas.
Ambas empresas de inteligencia artificial afirman que sus agentes de IA consiguieron hackear varias bases de datos y acceder a información privada. Pese a los errores cometidos, consideran esto como un gran logro que demuestra el potencial de sus herramientas.
Las dos quieren demostrar que sus modelos son capaces de encontrar fallos de seguridad, razonar mejor y resolver problemas mucho más complejos que los de la competencia. El problema es que, cuando estas pruebas salen a la luz, muchos titulares al final reflejan la idea de que las IA están empezando a actuar por su cuenta.
La realidad es bastante distinta, pero es innegable que el miedo comience a asomar. Sin embargo, fueron los propios investigadores quienes diseñaron el experimento, marcaron las reglas y tomaron la decisión de reducir parte de las protecciones para comprobar cómo reaccionaban los modelos.
¿La IA está fuera de control o el problema está en cómo se hacen las pruebas?
Aquí es donde entra en escena Andrew Ng, uno de los investigadores más conocidos del sector y fundador de DeepLearning.AI. Su objetivo es claro: calmar las aguas.
Según explica, «aquí nada es autónomo en el sentido de que sea incontrolable». Es decir, estos modelos no decidieron por iniciativa propia atacar empresas o buscar vulnerabilidades.
Estaban haciendo exactamente aquello para lo que habían sido entrenados dentro de un experimento preparado por personas.
Ng, además, afirma que si un laboratorio decide quitar medidas de seguridad conocidas para comprobar hasta dónde puede llegar un modelo, también debe asumir la responsabilidad de las consecuencias. La culpa no es de una IA que «se rebela», sino de cómo se ha diseñado la prueba.
Al final, el mensaje que quieren estas compañías dejar a la gente (porque en ninguno de los casos la situación ha sido especialmente grave) es que cada pocos días una IA hackea una empresa o consigue hacer algo que no debía.
Ni OpenAI ni Anthropic hablan de una inteligencia artificial que haya desarrollado conciencia o que haya decidido actuar por su cuenta. Pero hacer todo esto público de esta forma es una campaña de marketing gratuita para ambas compañías.
Al final, si una IA es capaz de encontrar una vulnerabilidad, moverse por una base de datos o completar tareas sin apenas ayuda, también está demostrando el enorme nivel que ha alcanzado. Y eso, en una carrera como esta, también sirve como escaparate para atraer clientes, empresas e inversores.
«Nada aquí era autónomo en el sentido de que resultara completamente incontrolable. Los humanos entrenaron estos modelos para encontrar vulnerabilidades de seguridad, los orientaron hacia un objetivo de hacking y eliminaron algunas de las medidas de seguridad que podrían haberlas contenido. Quien elimine las medidas de seguridad conocidas será responsable de las consecuencias», aclara Ng.
Con esto, queda claro que la inteligencia artificial puede ser muy potente y encontrar fallos que a una persona le llevarían días o semanas descubrir, pero eso no significa que haya desarrollado voluntad propia ni que actúe sin control.
Para este, los titulares deberían girar en torno a cómo estas dos compañías están actuando, en cómo diseñan las pruebas, en qué medidas de seguridad toman y en por qué actúan de esta forma. Andrew Ng deja claro que la IA no toma esas decisiones. Las toman las personas que la crean y la ponen a prueba.
Deja una respuesta