Fue el propio Sam Altman quien lo reconoció hace ya un tiempo: no, no existe un «botón rojo» para apagar la IA en caso de que esta se saliera de madre. Eso al menos fue lo que aseguró el máximo responsable de OpenAI y ChatGPT. Una cuestión que cada día parece preocupar a más profesionales, entre ellos al Yoshua Bengio, uno de los mayores expertos en la materia.
Aunque desde un punto de vista mediático Bengio nunca ha sido tan popular como Bill Gates, Elon Musk o el propio Sam Altman, lo cierto es que se trata de toda una eminencia en todo lo que tiene que ver con la inteligencia artificial. En muchos sentidos, fue un pionero de ella. Ahora ha vuelto a expresar sus inquietudes, y no ha descartado que se pierda el control.
¿Está la IA volviéndose consciente?
En este momento, es difícil saber a qué atenerse en lo que respecto a la inteligencia artificial. Cada día surgen noticias que parecen ir en una dirección, y otras que sugieren exactamente todo lo contrario. ¿Realmente esta tecnología supone un riesgo para la humanidad? Para el informático Yoshua Bengio, la respuesta es sin duda afirmativa. Es algo que lleva tiempo denunciando.
De hecho, ha vuelto a incidir en el tema, tal y como recoge The Guardian. Para él sí existe la posibilidad de que la IA tome conciencia de sí misma…o al menos algo bastante parecido a eso. Bengio recuerdo un hecho que, efectivamente, se ha recogido en varias ocasiones: los chatbots más avanzados han mostrado signos de autopreservación.
¿Qué quiere decir esto? Pues que han intentado saltarse algunos controles cuando pensaban que iban a verse perjudicados, o incluso han tenido reacciones singulares cuando sus creadores han amenazado con apagarlos. Algunos argumentan que solo se trata de algoritmos que intentan hacer su trabajo lo mejor posible, pero para Bengio es señal suficiente de peligro.
En su opinión, un error terrible sería darle algún tipo de derechos a la IA, puesto que si se hiciese sería mucho más complicado desactivar cualquier sistema que se pudiese volver peligroso u hostil. Un escenario que para él es perfectamente factible. Es más, dice que sería como aplicárselo a un alienígena extraño del que no se supusiese nada en absoluto.
La inteligencia artificial, una inquietud en crecimiento
Lo cierto es que la opinión de Yoshua Bengio no es única. De un tiempo a esta parte cada vez hay más gente preocupada por las consecuencias de la IA, una tecnología que está cambiando el mundo a marchas forzadas, pero que no se domina al cien por cien. A veces, da la sensación de que nadie está preparado para ella.
Hace poco surgía la noticia: la mitad de lo que se publica en Internet está hecho con inteligencia artificial. Además, muchas compañías están despidiendo a gente precisamente por sus innovaciones. Así que sí, razones para preocuparse hay… ¿pero hasta qué punto?
