Un aspecto de la inteligencia artificial que no hemos notado es que puede crear audio y video falsos que son muy difíciles de distinguir. La llegada de Photoshop nos ha hecho dudar de lo que vemos y de lo que sucede cuando no podemos confiar en nuestros sentidos.
El ejemplo más reciente de la magia de la imagen: el sonido de la IA de la Universidad de Washington, donde los investigadores están creando una nueva herramienta que puede usar archivos de audio y convertirlos en movimientos de labios muy suaves y luego convertirlos en videos. El resultado es un video del que alguien está hablando (algo que no dijeron). Suena complicado, pero puede ver el video a continuación para comprender más sobre este proceso.
Puede ver dos videos paralelos del expresidente estadounidense Barack Obama. El video de la izquierda es la fuente para obtener el sonido original, y el video de la derecha es una charla completamente diferente en la que el investigador usa algoritmos para crear y subir videos. El video ‘preparado’ no es realmente perfecto (el movimiento de la boca del Sr. Obame es un poco borroso, un error común con una imagen generada por IA) pero parece convincente al principio.
Los investigadores dicen que eligen a Obama para hacer el ejemplo porque el video de alta calidad del ex presidente es muy grande, lo que facilita el aprendizaje de las redes neuronales. El investigador Ira Kemelmacher dice que necesitan datos de 17 horas de video para seguir y copiar movimientos orales, pero que en el futuro pueden reducirse a una hora.
Video controlado por IA de los datos de audio y visuales de Obama
El grupo detrás del estudio dijo que esperaban usarlo para mejorar las herramientas de video chat como Skype. Los usuarios pueden elegir el video que hablan para enseñar al software, cuando se trata de hablar con alguien, los videos se pueden crear automáticamente y usar su voz. Esto ayudará en situaciones en las que la conexión de red no sea buena o desee guardar datos móviles.
Por supuesto, existe la preocupación de que esta herramienta cree videos falsos y engañosos, noticias falsas. La combinación de esta herramienta con la tecnología puede crear la voz de cualquier persona con solo unos minutos de audio de muestra. Estudios similares también están cambiando la forma de reconocimiento facial en tiempo real, creando modelos 3D de rostros humanos a partir de varias imágenes.
El equipo de investigación de la Universidad de Washington también entiende que no lo usarán para propósitos indebidos, afirmando que solo enseñan las redes de voz y video de Obama. “Es imposible tomar la voz de alguien y convertirla en el video del Sr. Obama”, dijo el profesor Steve Seitz, “no trabajaremos para llevar lo que una persona dice a la de otra”. Pero en teoría, esta tecnología puede crear voces en la cara de cualquier persona.
Vea el video que el Sr. Obama hizo por AI creado a continuación.
Sincronización de labios con inteligencia artificial
Un aspecto de la inteligencia artificial que no hemos notado es que puede crear audio y video falsos que son tan difíciles de distinguir. La llegada de Photoshop nos ha hecho dudar de lo que vemos y de lo que sucede cuando no podemos confiar en nuestros sentidos.
El ejemplo más reciente de la magia de la imagen: el sonido de la IA de la Universidad de Washington, donde los investigadores están creando una nueva herramienta que puede usar archivos de audio y convertirlos en movimientos de labios muy suaves y luego convertirlos en videos. El resultado es un video del que alguien está hablando (algo que no dijeron). Suena complicado, pero puede ver el video a continuación para comprender más sobre este proceso.
Puede ver dos videos paralelos del expresidente estadounidense Barack Obama. El video de la izquierda es la fuente para obtener el sonido original, y el video de la derecha es una charla completamente diferente en la que el investigador usa algoritmos para crear y subir videos. El video ‘preparado’ no es realmente perfecto (el movimiento de la boca del Sr. Obame es un poco borroso, un error común con una imagen generada por IA) pero parece convincente al principio.
Los investigadores dicen que eligen a Obama para hacer el ejemplo porque el video de alta calidad del ex presidente es muy grande, lo que facilita el aprendizaje de las redes neuronales. El investigador Ira Kemelmacher dice que necesitan datos de 17 horas de video para seguir y copiar los movimientos orales, pero en el futuro pueden reducirse a una hora.
Video controlado por IA de los datos de audio y visuales de Obama
El grupo detrás del estudio dijo que esperaban usarlo para mejorar las herramientas de video chat como Skype. Los usuarios pueden elegir el video que hablan para enseñar al software, cuando se trata de hablar con alguien, los videos se pueden crear automáticamente y usar su voz. Esto ayudará en situaciones en las que la conexión de red no sea buena o desee guardar datos móviles.
Por supuesto, existe la preocupación de que esta herramienta cree videos falsos y engañosos, noticias falsas. La combinación de esta herramienta con la tecnología puede crear la voz de cualquier persona con solo unos minutos de audio de muestra. Estudios similares también están cambiando la forma de reconocimiento facial en tiempo real, creando modelos 3D de rostros humanos a partir de varias imágenes.
El equipo de investigación de la Universidad de Washington también entiende que no lo usarán para fines indebidos, afirmando que solo enseñan las redes de voz y video de Obama. “Es imposible tomar la voz de alguien y convertirla en el video del Sr. Obama”, dijo el profesor Steve Seitz, “no trabajaremos para llevar lo que una persona dice a la de otra”. Pero en teoría, esta tecnología puede crear voces en la cara de cualquier persona.
Vea el video que el Sr. Obama hizo por AI creado a continuación.