HERMOSILLO, Son.- Hoy en día la tecnología puede ayudar a que cientos de personas cumplan sus sueños como bailar o cantar como su artista favorito, y a diferencia de lo que muchos pueden pensar, esto no es tan complicado ni costoso como parece, solo se necesita un video o una grabación de voz para crear una realidad alternativa.
Cabe destacar que este tipo de contenido es creado con ayuda de la Inteligencia Artificial (IA) y se le denominó contenido sintético, aunque es mejor conocido como deepfake.
Un ejemplo de esto es el de Bruno Mars en 2018, y si bien sigue siendo realmente impresionante, hoy en día los deepfakes pueden ser extremadamente realistas y convincentes.
¿Qué son en sí los deepfakes?
Los deepfakes, cuya transcripción en español sería “falsificaciones profundas”, es un termino que se utiliza para describir a archivos de audio y video que se crean usando IA, o para ser más exactos “aprendizaje automático”.
Actualmente son posibles todo tipo de deepfakes como cambiar la cara de una persona por la de otra, sincronizar los labios de una persona para que se ajuste a una pista de sonido que es diferente a la original, o la clonación de voz para hacer una “copia” de esa voz y decir cosas.
Aunado a esto, también se pueden generar rostros y cuerpos completamente sintéticos como los avatares digitales. Incluso, con los deepfake, las personas fallecidas podrían volver a la vida como lo hizo el Museo Dalí en Florida con el artista Salvador Dalí.
¿Cómo se hacen los deepfakes?
De acuerdo con el medio alemán DW, estas manipulaciones de video sintéticas son producidas con Redes Adversarias Generativas (GANs por sus siglas en inglés)
Las GANs son un modelos de aprendizaje automatico en la que dos redes neuronales compiten entre sí para ser más precisos en sus resultados.
Es decir, una computadora le dice a otra computadora si el clon digital que ha creado de alguien es suficientemente convincente al compararlo con el material original, o sea si te mueves y suenas igual o tu expresión es la misma. El sistema va mejorando con distintos intentos hasta que llega al resultado con el que está satisfecho.
Aunque esta tecnología va mejorando con el paso del tiempo y se vuelve más sofisticada, aún es posible detectar deepfakes si se sabe cómo hacerlo.
¿Cómo diferenciar un deepfake de algo real?
Para saber si estás frente a un deepfake no es necesario ser experto. A continuación, te decimos cómo puedes saberlo:
Reduce la velocidad del video y míralo de nuevo.
Haz una búsqueda rápida para ver si puedes encontrar el mismo video y narrativa en otras fuentes confiables.
Busca otra versión y compárala, ya sea en imágenes de Google o DuckDuckGo.
Si bien encontrar errores en los deepfakes es complicado, revisa minuciosamente cambios de voz, la calidad de los audios, puntos borrosos, formas extrañas en las extremidades o cualquier inconsistencia inusual.
Verifica si hay señales que indiquen que se trata de un deepfake, como una cara perfectamente simétrica, aretes o marcos de vidrio que no combinan, forma de orejas, nariz o dientes inusuales, pérdida de contraste, inconsistencias en la zona del cuello o pelo y dedo que no están conectados.
Mira el video cuadro por cuadro si es necesario para detectar inconsistencias, ya sea en un reproductor de video local o en línea.
Haz zoom a los movimientos de la boca y labios y compáralos con el comportamiento normal del ser humano para detectar sincronía o sonidos anormales.
Recuerda que antes de compartir la información de un video siempre es necesario cuestionarte si lo que ves tiene sentido, si puede ser cierto o hay posibilidades de que suceda. Confía en tus sentidos e intuiciones. En caso de que tengas dudas puedes pedir a algún amigo una segunda opinión.
¿Cuáles son los peligros de los deepfake?
La tecnología deepfake también representa un peligro en el dominio de la pornografía, sobre todo en la llamada pornografía de venganza, que se trata de videos o imágenes pornográficas falsas que son publicadas para dañar a las víctimas, ya sean famosos o menores de edad.
Para la sociedad, las deepfake también representan un peligro que radica en la forma en que se consume información de medios hoy en día, pues la persona promedio se encuentra sumergida en distintos medios en línea y no siempre está segura de que la información compartida sea cierta.
En las sociedades polarizadas también representan un riesgo las deepfakes, debido a que brindan la oportunidad de engañar a las personas para que crean algo sin importar si realmente sucedió. Aquí, la calidad del video ya no importa, solo que se vio con los propios ojos a cierta persona, celebridad o político haciendo algo indebido.
Si bien las deepfakes como se mencionó en un inicio pueden ayudar a las personas a cumplir sus sueños de alguna manera o acercarlos a famosos fallecidos, su uso inadecuado puede afectar y minimizar sus beneficios.
