Yoshua Bengio ha sido una de las personas más prudentes acerca de los avances tecnológicos. Uno de los expertos que sentó las bases del aprendizaje profundo (deep learning) junto con Geoffrey Hinton y Yann LeCun, ahora cambia de opinión con el futuro de la inteligencia artificial.
El padrino de la IA se ha sumado a las advertencias de los gigantes de Silicon Valley en los últimos meses, desde Sam Altman de OpenAI hasta el propio Elon Musk. Bengio confirma que la inteligencia artificial podría dirigirse hacia un camino peligroso.
Todo comenzó con la llegada de ChatGPT
La llegada de ChatGPT ha terminado cambiando el mundo. El chatbot más utilizado salió al mercado en 2022 y ahora apunta a sustituir a gigantes como Google con su enorme motor de búsquedas.
«Desde que salió ChatGPT me di cuenta de que estábamos en un camino realmente peligroso», comenta Yoshua Bengio en el pódcast The Diary of a CEO. El experto en IA ha dejado esa posición prudente que tenía en los últimos años para advertir del enorme riesgo al que se enfrenta la humanidad.
Los gigantes tecnológicos y los fundadores de la IA confiaban en que aún faltaban unas décadas para que las máquinas comprendieran el lenguaje humano. Muchos de ellos se equivocaron en sus cálculos.
La inteligencia artificial general podría ser una realidad antes de lo que esperaban. Cuando la IA supere las capacidades cognitivas de los humanos, las consecuencias podrían ser impredecibles.
Un 1% de probabilidades de sufrir una catástrofe
Elon Musk, creador del chatbot Grok, ha llegado a afirmar que los humanos deben asumir los riesgos que supone que la IA supere a los humanos en favor del avance tecnológico. Bengio opina lo contrario.
El experto ha tranquilizado a la humanidad asegurando que la IA no es una amenaza inmediata. Los chatbots aún “tienen limitaciones en la planificación compleja», pero podrían evolucionar a corto plazo sin un control adecuado.
«Incluso si solo hubiera un 1% de probabilidad (de un desenlace catastrófico), eso sería insoportable, inaceptable», comenta Yoshua Bengio. El dato es aún más inquietante, algunas encuestas con expertos en aprendizaje automático suben el nivel de riesgo al 10%.
El padrino de la IA asegura que el futuro aún es incierto, pero ya no existen «argumentos sólidos» para descartar los escenarios más pesimistas. Bengio pide a gobiernos y organismos internacionales que actúen cuanto antes.
Deja una respuesta