Alerta por una app china viral que permite crear videos falsos con una sola foto

Alerta por una app china viral que permite crear videos falsos con una sola foto

Zao es una app para crear videos falsos intercambiando rostros de manera virtual.Zao es una app para crear videos falsos intercambiando rostros de manera virtual.

Zao, una aplicación gratuita que permite hacer intercambiar rostros para colocar al usuario como protagonistas de diferentes escenas populares de series y películas se volvió viral en China.

La app, que le permite al usuario hacer sus propios videos falsos con tan solo subir una foto, se publicó el viernes y en apenas unos días se conviritió en una de las app gratuitas más descargadas en Apple Store, en China.

El enorme éxito de esta plataforma que facilita la creación de estos videos falsos creó preocupación en algunos usuarios que consideran que esto podría afectar la privacidad de la gente, según reporta Bloomberg.

El usuario de Twitter Allan Xia publicó un video que muestra cómo en pocos segundos pudo reemplazar el rostro de Leonardo DiCaprio por el suyo, para así convertirse en protagonista de varios fragmentos protagonizados por el famoso actor de Hollywood.

In case you haven’t heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of ‘Deepfake’-style AI facial replacement I’ve ever seen.

Here’s an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT

— Allan Xia (@AllanXia) 1 de septiembre de 2019

¿Cómo funciona? Un usuario puede subir una foto o bien seguir las instrucciones en pantalla y generar una serie de imágenes donde parpadean y abren la boca para ayudar a crear una falsificación más realista.

En los términos y condiciones de Zao se mencionaba que el usuario tenía derechos “gratuitos, irrevocables, permanentes, transferibles y con licencia” para todo este contenido generado por el usuario. Esto generó quejas de parte de los usuarios como en su momento ocurrió con FaceApp, aunque un análisis más detallado posterior mostró que algunas de las cuestiones que los usuarios encontraban cuestionables son descripciones estándar que se encuentren en los términos de varias aplicaciones populares.

Se generó preocupación por los términos y condiciones mencionadas en la plataforma (AP)Se generó preocupación por los términos y condiciones mencionadas en la plataforma (AP)

En este caso en cuestión, Zao tomó cuenta de las quejas no bien surgieron y actualizó sus términos y ahora menciona que no utilizará las imágenes o clips que suben los usuarios para otros propósitos que no sean aquellos previamente acordados por los usuarios. Y se añade que si los usuarios eliminan el contenido subido, la app lo eliminará también de sus servidores.

“Entendemos la preocupación por la privacidad. Hemos recibido los comentarios y solucionaremos los problemas que no tomamos en consideración, que necesitarán un poco de tiempo “, se mencionó en un publicado de Zao que menciona el artículo de Bloomberg.

Pero más allá de los términos y condiciones este software deja en evidencia la evolución que han tenido este tipo de tecnología que permite generar deep fakes. En este caso, tal como se mencionó, puede alcanzar incluso una sola imagen para generar un video falso convincente.

Si bien se supone que esta app en particular tiene fines recreativos que el usuario utilizará para crear videos con su propio rostro, lo cierto es que nada impide que haga clips con imágenes de otras personas. Y más allá de esta app en particular, demuestra que la tecnología ya avanzó al punto de que se podrían crear deep fakes con más facilidad que nunca

Leave a Comment

Your email address will not be published.