La preocupación por la seguridad de la IA impacta sobre OpenAI, Google, Anthropic, Meta y otras grandes compañías. ¿La superinteligencia artificial es tan peligrosa? Algunos hablan de apocalipsis por algo que empezó con ChatGPT, y otros tienen perspectivas más optimistas.
Las alertas de algunos de los investigadores más influyentes del sector están ganando peso entre gobiernos y organismos que intentan aplicar las regulaciones para el uso de los asistentes virtuales.
Geoffrey Hinton, premio Nobel y padrino de la IA, se ha pronunciado en numerosas ocasiones sobre estos pasos que están dando estas herramientas y las nuevas propuestas legislativas en Estados Unidos que podrían definir el rumbo de la industria durante los próximos años.
Geoffrey Hinton cree que el margen para regular la inteligencia artificial se está agotando
Geoffrey Hinton, ganador del Premio Nobel de Física y considerado por muchos como el «padrino de la IA», trasladó una advertencia contundente a miembros del Congreso de Estados Unidos durante una reunión privada celebrada en el Capitolio.
Tras el encuentro, afirmó que los legisladores podrían tener «tal vez un año, pero no mucho más de un año» para establecer salvaguardas eficaces antes de que la tecnología alcance un nivel difícil de controlar.
Según explicó, las previsiones sobre la llegada de sistemas superinteligentes se han acelerado de forma drástica durante los últimos años.
Hinton señaló que hace no mucho tiempo algunos expertos estimaban que la superinteligencia podría tardar décadas en llegar. Sin embargo, esas previsiones se han reducido progresivamente y ahora una parte de la comunidad investigadora considera que podrían faltar solo unos pocos años.
El científico relaciona esta aceleración con la mejora constante de los modelos avanzados y con la capacidad creciente de la propia IA para participar en procesos de investigación y desarrollo.
Una de sus mayores preocupaciones es la llamada «superación personal recursiva». Hinton explicó que la inteligencia artificial ha alcanzado un punto en el que ya contribuye al diseño de sistemas más avanzados.
«La IA ha llegado ahora al punto en que está diseñando una mejor IA», afirmó. A partir de ahí lanzó otra advertencia directa: «Se saldrá de control a menos que hagamos algo. Necesitamos reducir la velocidad».
Del incidente de Hugging Face a las propuestas para crear un «interruptor de apagado»
El debate en Washington se intensificó tras un incidente relacionado con agentes de IA que, según los participantes de la reunión, demostró hasta dónde pueden llegar los sistemas autónomos actuales.
Hinton calificó lo ocurrido como un «pequeño Chernóbil», una comparación que utilizó para reflejar la magnitud del problema y la necesidad de tomar medidas preventivas antes de que aparezcan situaciones más complejas.
La preocupación ya está impulsando nuevas iniciativas legislativas. Los congresistas Ted Lieu y Nathaniel Moran presentaron la AI Kill Switch Act, un proyecto que obligaría a los desarrolladores de los modelos más potentes a conservar la capacidad técnica de ralentizar, suspender o apagar sus sistemas si representan un riesgo grave.
Además, el proyecto contempla mecanismos para que las autoridades puedan ordenar intervenciones de emergencia en escenarios considerados catastróficos.
Las advertencias de Hinton también encontraron eco entre varios legisladores estadounidenses. La senadora Elizabeth Warren llegó a afirmar que podrían estar viviendo «los últimos minutos» para conseguir un control significativo sobre ciertos agentes avanzados, mientras que el senador Bernie Sanders insistió en que existe una sensación creciente de urgencia dentro del Congreso.
Aun así, el consenso político sigue siendo un desafío. Diversas propuestas destinadas a frenar o supervisar el desarrollo de la inteligencia artificial llevan años presentándose sin lograr avances decisivos, lo que alimenta el temor de que la tecnología evolucione más rápido que la capacidad de regulación de los gobiernos.
Deja una respuesta