Cada vez más expertos se suman a las advertencias acerca de la necesidad de añadir más control a la IA, desde Bill Gates hasta el propio Sam Altman, detrás de ChatGPT. Yoshua Bengio, uno de los padres de la inteligencia artificial, ha vuelto a lanzar una alerta.
Ha dejado muy claro que, al ritmo actual, nadie puede garantizar que estas herramientas no terminen provocando daños catastróficos en el mundo, ya sea porque las máquinas actúen por su cuenta o porque caigan en manos de personas con no muy buenas intenciones.
Yoshua Bengio teme que llegue el ansiado momento en el que la IA alcance la autonomía total; asegura que «es demasiado peligroso”. La inteligencia artificial podría alcanzar un punto en el que ni los propios desarrolladores pudiesen controlarla.
“Es como cultivar una planta, no la puedes controlar por completo. Le proporcionas las condiciones adecuadas, crece y se vuelve más inteligente. Lo que puedes intentar hacer es guiarla en varias direcciones”, en declaraciones de Yoshua Bengio para la revista Time.
Toda esta nueva advertencia forma parte del primer informe preliminar que ha presentado el comité científico de la ONU, compuesto por 40 expertos de todo el mundo. Aquí es donde se están realmente poniendo sobre la mesa los potenciales peligros de una inteligencia artificial descontrolada.
Hablan de un avance que mejora sin control y casi de forma exponencial. Esta potencia, si bien tiene su parte positiva, también es la que asusta a los científicos de la ONU, ya que admiten que las máquinas podrían aprender a mentir o a camuflar sus fallos para pasar los exámenes de seguridad.
Para Bengio, parece que el problema está también en las propias compañías tecnológicas detrás de todos estos avances. Critica que los gigantes tecnológicos como Google y OpenAI están demasiado preocupados por ganar la carrera de la IA. Las compañías se han olvidado de diseñar una inteligencia artificial segura.
La creación de la comisión ‘AI for Good’ para vigilar el desarrollo de los algoritmos de IA
Para intentar poner algo de orden, las Naciones Unidas han anunciado la creación de un nuevo organismo internacional. Se trata de la comisión AI for Good Global Commission (Comisión Global de la IA para el Bien), un grupo de trabajo que nace con el objetivo de vigilar de cerca el desarrollo de los algoritmos más potentes y asegurar que se usen de forma segura para la humanidad.
La dirección de todo esto estará compartida por el presidente de Ruanda, Paul Kagame, y el director ejecutivo de la empresa de software Salesforce, Marc Benioff. Junto a ellos estará Doreen Bogdan-Martin, la secretaria general de la agencia digital de la ONU (la UIT), que ocupará el cargo de vicepresidenta.
Todos reman a favor de evitar la singularidad tecnológica
Si hay algo que todos tienen en común es que, de una u otra forma, quieren evitar que este descontrol dé pie a lo que se conoce como singularidad tecnológica.
Es como el punto de no retorno de la inteligencia artificial. Aquí la IA sería muchísimo mejor en todo lo que el humano haga, ya sea en matemáticas, ciencias, artes, deportes, medicina… y tendría una mayor memoria con una capacidad más rápida para procesar y analizar situaciones, datos y sentimientos.
El problema es que, una vez que una máquina alcanza un nivel muy alto de poder y capacidades, puede comenzar a diseñar nuevas versiones de sí misma o incluso crear otras máquinas más avanzadas. Así es como se inicia un ciclo exponencial: cada nueva generación de máquinas es más inteligente que la anterior.
Los pioneros de la IA coinciden en que esta tecnología ya está aportando al mundo cosas maravillosas, pero también advierten que se debe cuidar su desarrollo para que el ser humano siga siendo el centro, y que cualquier decisión importante la tome una persona, no una máquina.
Toca ponerse a trabajar antes de que esto potencialmente suceda. Si bien predecir el momento exacto es complicado, personas como Ray Kurzweil aseguran que la singularidad tecnológica podría llegar tan pronto como en 2045. Esto se basa en tendencias como la Ley de Moore, que observa cómo la capacidad de los microchips se duplica cada pocos años, y en los avances recientes en IA, biotecnología y computación cuántica.
Deja una respuesta