La inteligencia artificial generativa puede provocar el mismo aislamiento informativo que ya se da en redes sociales como Instagram, TikTok o X, entre otras.
En una entrevista publicada en la edición en papel de El Mundo, Pilar Manchón, quien es una de las encargadas de dirigir la inteligencia artificial en Google, además de asesora reciente del Gobierno de España, la doctora en lingüística computacional asegura que la IA puede llevar a que los usuarios se encierren en una especie de caja de resonancia.
Según Manchón, básicamente es obligatorio que los contenidos generados con esta tecnología estén debidamente identificados, algo que no sucede a día de hoy, a pesar de las normativas que ya incluyen como obligatorio el etiquetado de este tipo de publicaciones.
Actualmente, el Reglamento Europeo de IA incluye este tipo de contenidos –ya sean de audio, texto, imagen o vídeo– como de etiquetado obligado, aunque es cierto que hay excepciones bastante importantes, como aquellos contenido que tengan detrás la supervisión humana.
«Vamos a pasar por una transición complicada», ha anticipado Machón. «Lo que a mí me gustaría es que llegáramos a un punto de madurez tecnológica donde las herramientas incorporen sistemas de verificación, marcas de agua o mecanismos que permitan identificar cuándo un contenido ha sido generado por IA».
Lo que la responsable de Google expone durante la conversación pasa básicamente por hacer cumplir las normativas que se están aprobando en territorio europeo y, concretamente, en España.
En tal caso, es imprescindible que, al igual que ocurre con las imágenes editadas en medios de algún personaje público conocido, el usuario conozca si una imagen o vídeo que está viendo ha sido generado mediante IA.
«Lo importante es que el usuario pueda saber de dónde viene la información y qué está viendo exactamente», ha destacado Manchón. «Y, sobre todo, que mantengamos el pensamiento crítico. El gran peligro es encerrarnos en cajas de resonancia donde sólo consumimos información que confirma lo que ya pensamos».
Aquí cabe subrayar que la IA generativa se ha colado directamente en campañas electorales para favorecer la desinformación, además de que también ha afectado a nivel de seguridad a empresas de todo tipo, una emergencia que sigue aumentando con el avance de sus capacidades.
Las cámaras de resonancia o cámaras de eco no son nada nuevo y es algo que puede darse a nivel general en las redes sociales: si un algoritmo favorece que el usuario vea siempre contenidos de su misma ideología, esto se convertirá en un círculo vicioso del que es complicado salir.
Ante esto, muchos gobiernos ya están planteando la necesidad de que la situación no se descontrole, algo parecido a lo que ocurrió con los inicios de la protección de datos personales, un campo en el que Europa se adelantó al mundo entero.
Pero incluso con las normativas publicadas y en marcha, las declaraciones de la responsable de Google suponen una descripción de la realidad que padece la IA actual: poca transparencia y una fábrica de contenido engañoso que puede acabar manipulando al usuario si no existe un pensamiento crítico.
Deja una respuesta