La tecnología con la que se elaboran los deepfakes, aunque sorprendente y revolucionaria, se ha convertido en un arma de doble filo. Si bien puede emplearse para usos creativos, educativos o sanitaros entre otros, también plantea serias amenazas a la seguridad digital, como venimos comprobando en los últimos años. Esta dualidad provoca sentimientos encontrados entre los usuarios. Algunos ven los avances con fascinación, apreciando la capacidad casi mágica de la IA para replicar voces y rostros con una precisión impresionante.
Otros se sienten profundamente inseguros y vulnerables ante la posibilidad de que su identidad sea manipulada sin su consentimiento, se pueda difundir desinformación o utilizar estos videos falsos ser en fraudes financieros o suplantaciones de identidad. Esta creciente preocupación se agrava cuando los usuarios se dan cuenta de lo difícil que es detectar un deepfake bien hecho, lo que amplifica la sensación de indefensión.
¿Qué es un deepfake y cómo se crea?
Se pueden entrenar con miles de imágenes o clips de vídeo, aprendiendo las particularidades de una persona para crear un contenido tan convincente que puede engañar incluso a los sistemas de detección más sofisticados.
Este tipo de tecnología ha evolucionado rápidamente, y aunque puede ser útil en el ámbito de la creación de contenidos, como en el cine, también ha facilitado ataques de suplantación de identidad y fraude financiero
Tipos de deepfakes: usos positivos y riesgos
Deepfakes de vídeo
Los deepfakes de vídeo consisten en la creación de imágenes alteradas en las que una persona parece estar diciendo o haciendo cosas que en realidad nunca ocurrieron. Este tipo de deepfake ha sido utilizado para manipular discursos de líderes políticos, para distorsionar mensajes importantes o para crear contenido viral que puede influir en la opinión pública.
Por ejemplo, ya en 2018, se difundió un deepfake del expresidente Barack Obama en el que aparentemente insultaba a su sucesor, Donald Trump. Aunque se reveló que era un vídeo manipulado, el contenido generó revuelo antes de que se aclarara la falsificación.
El peligro de este tipo de deepfake no radica solo en su capacidad de engañar, sino en la rapidez con la que se pueden difundir en redes sociales, alcanzando audiencias masivas en poco tiempo. En términos de ciberseguridad, pueden ser utilizado para chantajes, desinformación y campañas de descrédito que erosionan la confianza en las figuras públicas y las instituciones.
Deepfakes de voz
Los deepfakes de voz, también conocidos como clonado de voz, permiten a los atacantes replicar la voz de una persona con sorprendente precisión. Esta tecnología se utiliza con fines maliciosos, como la suplantación de ejecutivos de empresas para cometer fraudes.
Recordemos el conocido caso de una empresa de Reino Unido que fue víctima de un fraude: los delincuentes utilizaron la tecnología de deepfake de voz para suplantar al CEO de la empresa matriz alemana y lograron convencer al director de la filial británica, que realizó una transferencia de 220.000 € a una cuenta falsa. Pensaba que estaba siguiendo instrucciones legítimas.
¿Cómo se puede detectar un deepfake de voz?: ver video
En estos ejemplos, el potencial daño no solo es financiero, sino que también afecta la reputación y la confianza en las comunicaciones. Estos tipos de ataques también aumentan la preocupación sobre la seguridad de las transacciones que dependen de la biometría de voz como método de autenticación.
Pero no todo es negativo. En los sectores de entretenimiento y la publicidad, se utilizan deepfakes para recrear a actores o personajes históricos, permitiendo a los creadores ampliar los límites de lo posible.
Uno de los más sorprendentes es el uso de deepfakes para recrear a actores fallecidos o personajes históricos en películas y anuncios. Esta tecnología ha permitido traer de vuelta a figuras icónicas como Peter Cushing, quien fue recreado digitalmente para aparecer en Rogue One: A Star Wars Story, años después de su fallecimiento. De igual manera, la tecnología ha sido usada para rejuvenecer a actores en pantalla o permitir que interpreten versiones más jóvenes de sí mismos, como en la película The Irishman de Martin Scorsese.
Con todo ello, el uso de deepfakes en estos sectores también plantea preguntas éticas sobre los derechos de las personas fallecidas y el consentimiento en el uso de su imagen, un debate interesante y posiblemente controvertido.
¿Qué probabilidades tenemos de sufrir un ataque con deepfake?
La realidad es que cualquier persona podría ser víctima de un ataque de deepfake, aunque las figuras públicas y los altos ejecutivos suelen ser los objetivos principales. La posibilidad de que un ciudadano de a pie sea atacado depende de la accesibilidad a sus datos, como imágenes o clips de voz en plataformas públicas. Las redes sociales y otras bases de datos personales facilitan el acceso a la información necesaria para crear deepfakes convincentes.
En este sentido, un ejemplo de cómo los deepfakes se están utilizando de forma maliciosa para atacar de forma masiva es el ataque de inyección, que explota vulnerabilidades en los sistemas de verificación biométrica. En este sorprendente vídeo se muestra cómo un atacante puede engañar a un sistema de autenticación con datos fraudulentos, haciéndolo pasar por una persona real en tiempo real.
Estrategias para protegerse de los deepfakes
Lo que pueden hacer las empresas
- Implementar autenticación multifactor (MFA): esta tecnología añade una capa de seguridad adicional, exigiendo a los usuarios no solo que verifiquen su identidad mediante contraseñas, sino también mediante biometría facial, de voz o códigos de autenticación de un solo uso .
- Utilizar sistemas de prueba de vida (liveness detection): estos sistemas verifican que la persona que intenta acceder a una plataforma está físicamente presente en tiempo real, y no es una imagen estática o vídeo pre grabado.
- Adoptar herramientas avanzadas de análisis de vídeo y voz: muchas empresas están invirtiendo en tecnología capaz de analizar los patrones faciales o de voz en busca de irregularidades que los deepfakes no pueden replicar perfectamente.
- Concienciar a los empleados: es fundamental que las empresas eduquen a sus empleados sobre los riesgos de los deepfakes y los fraudes relacionados.
Lo que pueden hacer los usuarios
- Verificar las fuentes de información: en una era en la que los deepfakes se utilizan para difundir desinformación, es esencial verificar cualquier contenido que parezca sospechoso. Comprobar las fuentes oficiales y contrastar noticias ayuda a evitar la difusión de informaciones falsas .
- Limitar la información personal en redes sociales: mantener las configuraciones de privacidad ajustadas y evitar compartir información sensible en plataformas públicas reduce mucho el riesgo de ser víctima de esta tecnología.
- Estar al día de las nuevas amenazas: los deepfakes son una tecnología en constante evolución. Informarse sobre las últimas amenazas y cómo protegerse de ellas es clave para minimizar el riesgo.
- Desconfiar de solicitudes sospechosas: si recibes una llamada o mensaje que parece inusual, incluso si parece provenir de una persona conocida, es importante dedicar un momento para confirmar su autenticidad.
¿Qué tecnología puedo implementar en mi empresa?