Es un acrónimo del inglés que combina los conceptos deep learning (aprendizaje profundo) y fake (falsificación). El deep learning o aprendizaje profundo es un tipo de aprendizaje automático que entrena a los sistemas y dispositivos de inteligencia artificial (IA) para que funcionen como el cerebro humano y aprendan del mismo modo que lo hacen las redes neuronales.
Un deepfake es un vídeo, audio o imagen ficticios generados mediante la composición de información procedente de múltiples fuentes. Son contenidos creados por programas avanzados de inteligencia artificial que analizan secuencias de referencia para generar simulaciones realistas. Este se crea, por norma general, dejando que un ordenador analice una gran selección de movimientos y comportamientos faciales del sujeto y que la IA intente replicarlos sobre las nuevas imágenes.
En los contenidos deepfake, la inteligencia artificial se pone al servicio de una falsificación, generando vídeos o audios en los que la cara o la voz de una persona, generalmente una figura pública o una celebridad, ha sido manipulada para que el contenido alterado parezca auténtico. Se trata de una tecnología que consigue, por ejemplo, superponer el rostro de una persona al de otra y falsificar sus gestos para hacer creer que está diciendo o haciendo algo que no ha ocurrido en realidad.
Sus usos se extienden desde la industria cinematográfica hasta los ámbitos del crimen y la desinformación. Entre los ejemplos pioneros de uso del deepfake en la industria del cine encontramos el Episodio IX de Star Wars, El ascenso de Skywalker, que se estrenó en 2019. Ante la inesperada muerte de Carrie Fisher, la actriz que daba vida a la princesa Leia, durante el rodaje de la película, se decidió usar la técnica deepfake para componer las escenas que le faltaban por grabar.
El mundo del crimen ha dado otros usos a esta tecnología, creando falsificaciones de discursos políticos pronunciados por figuras destacadas, con el objetivo de confundir a la opinión pública y desinformar a los ciudadanos. La evolución de esta amenaza genera una gran preocupación, dada la dificultad de cualquier persona para detectar si un vídeo tan perfectamente “montado” es real o no. A esto se suma que cada vez más personas se informan de las noticias a través de YouTube o Facebook, que son redes sociales a las que cualquiera puede subir contenido falso y disfrazarlo de realidad; en general, las redes sociales han desplazado a los medios de comunicación tradicionales como referentes de la información veraz y real sobre lo que pasa en el mundo.
El uso ilícito del deepfake es un elemento que contribuye a crear una sociedad desinformada y confusa, en la que los ciudadanos no son capaces de distinguir las noticias reales de las noticias falsas, y cuya confianza en el sistema democrático y las instituciones se ve cada vez más mermada, poniendo en peligro la estabilidad política y social.
El contenido ultrafalso también conlleva un riesgo para la seguridad, debido a su capacidad para falsificar datos biométricos y engañar a los sistemas de reconocimiento facial o de voz. Incluso en relación con fraudes y estafas, los deepfakes son una herramienta muy peligrosa en manos de los delincuentes. Una empresa de energía del Reino Unido sufrió un robo de 220.000 euros utilizando un deepfake de audio. Los delincuentes engañaron a un trabajador de la compañía a través de una llamada telefónica, en la que se imitaba la voz de su jefe, para que hiciese una transferencia urgente, y así consiguieron hacerse con tan suculento botín, que no ha sido recuperado.
También te interesa: inteligencia artificial, aprendizaje automático, aprendizaje profundo
