México.- Se avecina una nueva amenaza en el ámbito tecnológico para el año 2024: los deepfakes. Estas creaciones generadas por Inteligencia Artificial, capaces de producir fotografías y videos falsos de manera increíblemente convincente, plantean desafíos significativos en diversos sectores, desde la política hasta la seguridad personal. El incremento en el uso de deepfakes es alarmante, llegando a multiplicarse por diez a nivel mundial de 2022 a 2023, según una investigación de SumSub.
Expansión Global de los Deepfakes y la Importancia de la Detección
El fenómeno de los deepfakes presenta notables diferencias regionales en su crecimiento. Norteamérica encabeza la lista con un aumento del 1740%, seguido de Asia y el Pacífico con un 1,530%, Europa (incluyendo el Reino Unido) con un 780%, Medio Este y África con un 450%, y América Latina, donde el uso de esta tecnología ha crecido un 410%, y en México un 700%.
A pesar de que un estudio de Jumio indica que el 52% de las personas encuestadas confía en poder detectar un video deepfake, la realidad es que las amenazas continúan creciendo y podrían llevar a consecuencias más graves, como el fraude impulsado por la IA.
El Rol de las Marcas de Agua en la Lucha contra los Deepfakes
Ante este panorama, las tecnológicas buscan soluciones para contrarrestar los efectos de los deepfakes, y una de las alternativas que se plantea es el uso de marcas de agua. Juan Carlos Gutiérrez, director Gerente de Tecnología y Arquitectura de Soluciones para América Latina y el Caribe en AWS, destaca la marca de agua como una alternativa para indicar que una imagen fue generada con IA.
Gutiérrez explica que en la nueva plataforma de IA generativa de Amazon, Bedrock, las marcas de agua pueden implementarse de dos maneras: físicamente sobre la imagen, como un logo, y a través de los metadatos. Este enfoque busca informar tanto a las personas como a las plataformas sobre la naturaleza de la imagen y prevenir la replicación no autorizada del contenido.
Esta estrategia, sin embargo, requiere la colaboración de las plataformas para ser efectiva. Aunque las marcas físicas pueden eliminarse mediante programas de edición, el experto destaca que hacerlo constituiría una violación a la propiedad intelectual. Por otro lado, los metadatos ofrecen una solución más robusta, ya que las plataformas pueden escanear esta información para evitar la replicación no autorizada del contenido. La importancia de enfrentar los desafíos de los deepfakes mediante enfoques innovadores y colaborativos se vuelve crucial en el panorama tecnológico actual.
