Esta IA de ByteDance (TikTok) da mucho miedo: puede crear voces idénticas solo por reconocimiento facial

​​

ByteDance, la encargada de desarrollar una plataforma tan popular como es TikTok, ha lanzado una herramienta de generación de vídeos con inteligencia artificial que es capaz de adivinar la voz de la gente en base a los rasgos de su cara.

Hablamos de Seedance 2.0, un generador que gestiona gasta cuatro tipos de entrada de manera simultánea. Esto significa que puede trabajar con imágenes, vídeos, audios y texto a la vez, así como combinar hasta nueve imágenes, tres vídeos y tres archivos de audio.

Los vídeos que ofrece como resultado tienen una duración de entre 4 y 15 segundos e incluyen efectos de sonido o música de manera automática, empleando para ello solo 60 segundos o freciendo secuencias multitoma con una resolución de 2K. Así lo ha indicado The Decoder, que ha avanzado que ya existe una segunda versión de esta IA.

Según los resultados que ha compartido la propia ByteDance, a los que ha tenido acceso este medio, los vídeos que esta IA es capaz de generar tienen una calidad «realmente impresionante», aunque aún está por ver si realmente tarda el tiempo que dice en generarlos.

Demasiado buena para estar disponible

El problema al que se enfrentan muchas empresas dedicadas a la inteligencia artificial tiene más que ver con la ética que con los medios de los que disponen.

A la vista está de que una idea puede llegar muy lejos si está bien ejecutada, independientemente de si el software que un desarrollador tiene a su disposición es el mejor. La necesidad agudiza el ingenio y, en este caso, a ByteDance se le ha ido de las manos.

Tal y como señala Technode, esta inteligencia artificial es tan inteligente que puede generar características de voz personales muy precisas empleando únicamente imágenes de la cara de las personas.

Esto significa que, con solo ver cómo con sus ojos, sus pómulos, su boca o las arrugas, Seedance 2.0 puede saber el timbre de voz y la cadencia del habla de alguien incluso sin su autorización.

Esto, como era de esperar, se ha convertido en una preocupación ética y de privacidad, de manera que se ha suspendido su uso hasta nueva orden, a fin de limitar las capacidades de esta herramienta.

Calca tu voz sin que abras la boca

Un periodista de MediaStorm ha podido comprobar hasta dónde es capaz de llegar esta herramienta impulsada por inteligencia y se ha quedado literalmente alucinando con lo que ha conseguido con tan poca información.

«La revolución de la IA en la producción de vídeos está llegando y es bastante inquietante», se indica en la publicación, donde después se comparten algunas de las imágenes en movimiento presuntamente generadas por Seedance 2.0.

Este medio, en realidad, solo ha verbalizado lo que muchos piensan a raíz de las pruebas realizadas por Pan Tianhong, fundador de FilmHurricaine, que ha afirmado en una reseña que «sin indicaciones, palabras ni información» y sin proporcionar una muestra de su voz, la IA supo qué tipo de voz tiene,

Al llegar esta información al equipo de desarrollo de Seedance 2.0., han decidido ajustar las características del producto, tomándose una pausa para ponerlo todo en orden, a nivel funcional, pero, sobre todo, moral.

«Para garantizar un entorno creativo sano y sostenible, estamos optimizando urgentemente la plataforma y, por el momento, no se pueden introducir imágenes de personas reales como referencia principal», han compartido, según ha indicado Sina Tech en Weibo,

 

Comentarios

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *