La inteligencia artificial avanza a una velocidad que hasta sus propios creadores, como OpenAI y Anthropic, consideran excesiva. El problema de todo esto es que, cuanto más potente es una herramienta, más importa también quién la tiene entre manos.
Bill Gates, en una entrevista con NBC News, habla precisamente de esto, de las personas que utilizan la IA con malas intenciones. Para él, ese es uno de los riesgos más serios que existen ahora mismo.
De hecho, Gates afirma lo siguiente: «Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas».
Aunque es cierto que esto suena un poco apocalíptico y la realidad (al menos la de ahora) no es tan alarmista, Gates no está diciendo que una IA vaya a despertarse un día y decidir hacer daño. Le preocupa que una persona que quiera hacer daño tenga a su disposición una herramienta más potente que antes.
Y ahí es donde cree que hacen falta más controles. No para frenar el desarrollo de la IA, sino para intentar que las compañías sepan detectar cuándo sus modelos están siendo utilizados de una forma peligrosa.
Bill Gates tiene claro cuál es el potencial problema con la IA: bioterrorismo y fraude
Este tiene claro que estos son dos de los mayores problemas a los que se podría enfrentar la humanidad. Ahora mismo, teniendo en cuenta la potencia de la IA, casi cualquier persona podría llevar a cabo algo ilegal sin apenas esfuerzo.
Y esto realmente no es culpa de la IA. Es culpa de las escuetas barreras que las grandes compañías creadoras ponen a esta tecnología.
Tal y como Andrew Ng, uno de los nombres más conocidos del mundo de la inteligencia artificial y fundador de DeepLearning.AI, si coges un martillo para clavar un clavo, fallas y terminas haciendo un agujero en la pared; el martillo no tiene la culpa. El problema está en cómo lo has utilizado.
Llevado a la inteligencia artificial, si una persona utiliza un agente de IA y le pide que acceda a un sistema informático y toma la vía del ataque, no tiene mucho sentido decir que «la IA ha decidido atacar». El sistema está haciendo lo que se le ha pedido dentro de sus capacidades.
Eso no quiere decir que todo sea responsabilidad de las personas. Este también cree que quienes crean estas herramientas tienen que hacerlas más seguras. Si un sistema puede hacer algo peligroso de una forma tan sencilla, hay que poner controles para evitarlo.
Por eso Gates cree que no basta con solo saber cuánto puede hacer un modelo. También hay que saber al 100% qué controles se ceden a la IA y qué pasa si alguien intenta utilizarla para algo que no debería.
‘Kill switch’: la posibilidad de un botón para apagar la IA estákill sobre la mesa
Ya son varios los expertos, e incluso partidos políticos, los que han hablado de una especie de botón de emergencia que permitiría apagar una IA si las cosas se tuercen.
Sin ir más lejos, hace unos meses, varios congresistas demócratas y republicanos presentaron al Congreso la propuesta de ley AI Kill Switch, es decir, Ley del Botón de Apagado de Emergencia de la IA.
Esta ley propone que las compañías de IA instalen la infraestructura necesaria en todos los modelos de IA, para que se puedan apagar de forma inmediata y absoluta, por orden del gobierno.
Bill Gates, por su parte, no está en contra de contar con algo así, aunque con matices. Para este, si alguien utiliza una IA para cometer un delito, apagar el sistema después no arregla el problema. El daño ya estaría realmente hecho.
Por eso quiere que la seguridad esté en el centro de todo desde el principio. Es decir, que los propios modelos tengan mecanismos para detectar usos peligrosos y que haya vigilancia estricta sobre cómo se están utilizando.
Deja una respuesta