Pese a esas voces que hablan de puro marketing e interés comercial en todo lo que tiene que ver con un supuesto potencial de Claude Mythos, la IA de Anthropic, otros ya están activando el botón del pánico tras verlo en acción.
Tal y como algunos afirman, esta tecnología es tan potente que ha obligado al Instituto de Seguridad de la IA del Reino Unido (AISI) a emitir un informe de advertencias. Aseguran que las capacidades de este modelo son tan grandes que es capaz de colarse en redes informáticas con una facilidad que no se había visto hasta ahora.
Todo este alarmismo nace de una prueba controlada en la que Mythos simuló entrar en la red informática de una gran corporación. La idea de estos experimentos, conocidos como capturar la bandera, es que una máquina debe intentar romper las defensas de otra.
La IA de Anthropic no solo superó las expectativas, sino que completó con éxito un ataque simulado de 32 pasos que ningún otro modelo en la historia había conseguido resolver.
Ante esta situación, la propia Anthropic ha decidido curarse en salud y ha publicado su propio informe de evaluación técnica. En él describen a Claude Mythos como un sistema de propósito general, pero con unas habilidades de ciberseguridad tan avanzadas que se considera una herramienta de «doble uso».
Esto significa que sirve tanto para que un informático bueno busque fallos en su empresa y los arregle, como para que un atacante tire por completo una infraestructura crítica. Por este motivo, la compañía sigue con esa idea de, por el momento, no lanzar el modelo al público general y mantener un acceso cerrado y vigilado.
Claude Mythos ha encontrado fallos críticos en «todos los grandes sistemas operativos y navegadores»
Las pruebas con esta IA no paran y para muchos la preocupación ya es extrema. Sin ir más lejos, la compañía afirma que esta IA ha localizado fallos críticos en casi todos los grandes sistemas operativos y navegadores web del mercado.
La situación ha escalado tanto que Anthropic ha sido llamada a declarar ante el Consejo de Estabilidad Financiera (FSB), el organismo internacional que vigila los riesgos económicos del G20. De hecho, Andrew Bailey, gobernador del Banco de Inglaterra, ha sido quien ha coordinado la comparecencia de urgencia de la empresa ante los reguladores globales.
La preocupación del FSB y de los bancos no se centra en las intenciones de Anthropic, sino en lo que podría suceder si cae en malas manos. Si una IA puede automatizar la búsqueda de fallos críticos en el software de gestión bancaria, el riesgo de un ataque es inevitable y sus consecuencias podrían ser potencialmente devastadoras.
Sin embargo, los expertos en seguridad piden mantener la calma y no tratar a Claude Mythos como si fuera el principio del fin de la ciberseguridad mundial.
Varios expertos del sector coinciden en que esta inteligencia artificial «amplifica los problemas actuales, pero no los soluciona». Esto significa que la IA no inventa formas de hackear mágicas; lo que hace es explotar de manera muy rápida los fallos de siempre: contraseñas débiles, sistemas que llevan meses sin actualizarse y malas costumbres de higiene digital por parte de los empleados. La base del peligro sigue siendo el descuido humano.
Dejan bastante claro que, por muy inteligente que sea el algoritmo de Anthropic u otros que salgan en el futuro, siempre se van a encontrar con un muro: el que la propia empresa decida levantar con su propia ciberseguridad.
La magia de Mythos es que es capaz de leer millones de líneas de código y encontrar fallos que han estado ahí durante 20 años sin que nadie los viera. Quizá esta sea la oportunidad de oro para que todas esas compañías revisen realmente lo que tienen por debajo de sus infraestructuras.
Deja una respuesta