¿Qué es un deepfake?
Un deepfake es un video, una imagen o un audio generado por medio de inteligencia artificial que imita la apariencia y la voz de una persona, siendo tan convincentes a la hora de imitar lo real que pueden engañar tanto a las personas como a los algoritmos.
«Deepfake» como término proviene de la combinación de las palabras «deep learning» y «fake», para representar algún tipo de contenido falso que es resultado de tecnologías de aprendizaje profundo.
En la mayoría de los casos, esto se basa en manipulaciones de video en las que el software analiza el material de origen y extrae parte de él (generalmente el rostro y expresiones faciales), para luego insértalo y adaptarlo en otro video. Los llamados intercambios de caras o deep video portraits son la forma más común de los fake.
Los Deepfakes se utilizan para inducir confusión y manipular a las personas receptoras de los archivos, ya sea haciendo que un político diga algo en un vídeo que realmente nunca dijo para afectarle en una campaña política cerca de unas elecciones, o incluyendo la imagen de un famoso (o de cualquier persona) en un material pornográfico con el objetivo de perjudicarle o chantajearle.
Aunque estas técnicas de engaño se encuentran aún en etapa temprana, a medida que la tecnología se generalice y esté cada vez más disponible, se desplegará con fines más nefastos y se tornarán exponencialmente más difíciles de desenmascarar.
¿Por qué son peligrosos los deepfakes?
Debido a que tergiversan de forma convincente la realidad, los deepfakes entrañan varios peligros, como el fraude en línea, la desinformación, los engaños y el porno de venganza.
La capacidad de hacerse pasar por una persona en un video en directo o por teléfono va a suponer un reto para los sistemas de verificación en línea, que se basan en el reconocimiento de la cara o de la voz, ya sea hecho por un humano o automáticamente por un software.
Según Deepfake Report, un 96% de los deepfakes en formato de video que pudieron identificar en línea eran videos porno. Esto podría parecer relativamente inofensivo en comparación con el fraude financiero, pero no lo es si se tiene en cuenta que puede conducir a la extorsión y el chantaje, con el creador del deepfake amenazando con publicar un video privado falso de alguien, que parece tan creíble que la víctima no tiene más remedio que pagar.
Otro problema destacado por periodistas e investigadores, desde la BBC hasta Wired y Forbes, es el potencial de los deepfakes para causar daños políticos y sociales a través de la desinformación y los escándalos falsos, ya que la imagen de un personaje público puede ser manipulada para mostrarlo haciendo o diciendo cosas que nunca hizo.
Por estas últimas razones, los deepfakes se consideran un arma importante en los arsenales de ciberguerra, donde los gobiernos nacionales intentan mitigar los deepfakes perjudiciales para el país, al tiempo que crean la capacidad de utilizarlos contra sus propios enemigos, si es necesario.
Cómo identificar un Deepfake:
1. ¿Cuáles son las fuentes que se deben buscar para verificar la autenticidad de un video?
Siempre es importante buscar la fuente original de la grabación, ubicando a la persona que primero compartió el video deepfake. A menudo, esto ayuda a averiguar el contexto de la publicación y a comprobar si el material de origen fue más detallado después de todo.
En este sentido, las redes sociales son fuentes especialmente vulnerables a la proliferación de deepfakes, pues priorizan el contenido según métricas de interacción (es decir, con cuánta frecuencia se comparte y recibe «me gusta») en lugar de su precisión o si se investigó bien. Este enfoque puede permitir que los ciberanzuelos, la hipérbole y la desinformación se propaguen rápidamente.
Las compañías de redes sociales son consideradas plataformas en lugar de editoriales, lo que significa que no tienen las mismas responsabilidades legales que los medios informativos tradicionales. Por este motivo, nunca se deberían priorizar las redes sociales por sobre los medios de información y noticas reconocidos cuando se trata de comprobar la fuente y veracidad de cualquier tipo de información.
2. ¿Cuál es la importancia de verificar la fecha y lugar en que se grabó el video?
La mayoría de los archivos digitales (incluidos videos y fotos) poseen información descriptiva en su interior conocida como “metadatos”, que puede ser analizada para verificar la autenticidad de los archivos, como la fecha y hora de creación y la ubicación geográfica. En el caso de los deepfakes, normalmente los metadatos no coinciden con los metadatos de un vídeo o foto real, delatando el originen fraudulento del contenido compartido.
3. ¿Qué herramientas tecnológicas se pueden utilizar para verificar la autenticidad de un video?
Los avances en IA han producido herramientas poderosas para combatir los deepfakes:
a) Sentinel: Sentinel, desarrollado por Sensity, es una solución basada en la nube que ofrece detección de deepfake en tiempo real con alta precisión. Aprovecha múltiples técnicas, incluyendo análisis de puntos de referencia faciales, controles de consistencia temporal y detección de parpadeos, para identificar inconsistencias en videos manipulados.
b) Intel’s Real-Time Deepfake Detector (FakeCatcher): Esta herramienta, de Intel, se centra en la velocidad y la eficiencia. Utilizando hardware y software Intel, FakeCatcher analiza detalles fisiológicos sutiles como variaciones de flujo sanguíneo en píxeles, lo que permite la detección en tiempo real con alta precisión (96%).
c) WeVerify: Esta plataforma desarrollada por WITNESS combina la experiencia humana con el análisis de IA. Los usuarios pueden enviar videos sospechosos a través de la plataforma, donde los analistas los revisan junto con algoritmos de detección con IA. Este enfoque de colaboración ofrece una evaluación exhaustiva y un contexto más amplio para la identificación de mercados profundos.
d) Herramienta de autenticación de vídeo de Microsoft: Esta herramienta gratuita de Microsoft analiza vídeos e imágenes, proporcionando una puntuación de confianza que indica la probabilidad de manipulación. Identifica inconsistencias en la mezcla de límites y sutiles elementos de escala de grises, a menudo invisibles para el ojo humano.
e) Detector de discordancia Phoneme-Viseme: Esta técnica se centra en las inconsistencias entre el audio hablado y los movimientos de labios en los videos. Analiza la alineación entre fonemas (unidades de sonido) en el habla y visemas (movimientos de labios). Los desajustes entre estos elementos pueden indicar una posible manipulación.
f) Facia: Fundada en 2021, Facia es un proveedor líder de tecnología de reconocimiento facial con un enfoque en la seguridad y la identificación. Si bien no es solo una herramienta de detección de deepfake, la solución de detección de vivacidad de Facia cuenta con una tasa de precisión del 100% para frustrar más de 53 intentos diferentes de spoofing, incluyendo deepfakes. Esto se logra a través de algoritmos avanzados que pueden distinguir entre una persona real y una fotografía, video o máscara.
4. ¿Cuáles son las señales visuales o de edición que nos indican que un video ha sido manipulado?
a) El parpadeo:
Los humanos solemos parpadear una vez cada 2-8 segundos, durando cada parpadeo entre 1 y 4 décimas de segundo. Si quieres saber si estás ante un DeepFake, fíjate en el número de veces que parpadea, te darás cuenta de que lo hace mucho menos que una persona real. El algoritmo de los DeepFake no puede parpadear a la misma velocidad que un humano.
b) Cara y cuello:
¿El cuerpo se ajusta a la cara o la postura coincide con la expresión facial? La mayoría de los DeepFake son principalmente sustituciones faciales, los cambios en el cuerpo solo pueden implementarse con gran esfuerzo. Si el cuerpo de la persona a la que se le aplica un rostro tiene otras características que no coinciden, por ejemplo, tatuajes, músculos pronunciados o un color de piel diferente, es una señal de falsificación.
c) Clips cortos:
Aunque la tecnología ya es muy fácil de usar, los procesos de aprendizaje para hacer falsificaciones siguen siendo complejos y trabajosos. Por lo tanto, la mayoría de los DeepFakes que se comparten tienen solo unos segundos de duración. Entonces, si se debe verificar un clip muy corto de contenido inverosímil y no hay una razón obvia por la que la grabación sea tan breve, a menudo es porque es un fake.
d) Sonido para grabación:
No solo la imagen expone a una DeepFake, sino también el sonido. El software a menudo se limita a cambiar la imagen, pero no a ajustar el sonido. Entonces, si el sonido no está presente o no coincide con la imagen, por ejemplo, con una sincronización de labios mal implementada, esto indica una falsificación.
e) Los detalles:
Ten en cuenta los detalles. Al verificar el contenido del video, también es útil dejar que se reproduzca a la mitad de la velocidad. Por ejemplo, pequeñas discrepancias en el fondo de una persona o cambios repentinos en la imagen que se notan enseguida.
f) Interior de la boca:
El software para crear DeepFakes ha sido capaz de transferir caras bastante bien hasta ahora, pero el demonio está en los detalles. Por ejemplo, un cierto desenfoque en el interior de la boca es otra señal de que podría ser una imagen falsa, pues la Inteligencia Artificial todavía está luchando para representar correctamente los dientes, la lengua y la cavidad bucal cuando habla.
5. ¿Qué pasos debería seguir una persona antes de compartir un video en redes sociales para asegurarse que no se trata de un video falso?
Los videos falsos dependen de que los creyentes vuelvan a publicar, tuitear o compartir la información falsa. Si no estás seguro de si un archivo multimedia es auténtico o no, detente un momento y piensa antes de compartir.
Es importante primero comprobar la fuente y el autor, investigando para ver si tiene credibilidad o una buena reputación. También es una buena práctica comprobar otras fuentes, para verificar si la misma información ha sido compartida a través de otros medios informativos respetables.
Puedes utilizar un sitio de verificación de hechos como:
Snopes
PolitiFact
Fact Check
BBC Reality Check
6. consejos para poder reconocer un video falso de fake news
a) Comprueba la fuente:
Verifica la dirección web de la página que estás visitando. A veces, los sitios de noticias falsas suelen tener errores de escritura en la dirección URL o utilizan extensiones de dominio poco convencionales como «.infonet» u «.offer». Si no estás familiarizado con el sitio, echa un vistazo a la sección «Acerca de nosotros».
b) Comprueba al autor:
Investígalo para ver si tiene credibilidad: por ejemplo, ¿es real? ¿Tiene buena reputación? ¿Escribe acerca de su área de experiencia específica? ¿Tiene alguna intención en particular? Considera cuál podría ser la motivación del escritor.
c) Comprueba otras fuentes:
¿Hay otros medios informativos o de noticias respetables que están cubriendo la noticia? ¿Existen fuentes confiables citadas dentro de la historia? Las agencias profesionales globales de noticias tienen normas editoriales y recursos extensos para verificar los hechos, por lo que es una buena señal si también están cubriendo la historia.
d) Mantén una mentalidad crítica:
Muchas noticias falsas se escribieron de forma ingeniosa para provocar reacciones emocionales fuertes como el temor o la rabia. Mantén una mentalidad crítica y pregúntate, por ejemplo, ¿por qué se escribió la historia? ¿Promueve una agenda o causa en particular? ¿Intenta que hagas clic para acceder a otro sitio web?
e) Comprueba los hechos:
Las noticias creíbles incluirán muchos hechos: datos, estadísticas, citas de expertos y más. Si falta algo de eso, pregúntate por qué. Los reportes con información falsa a menudo tienen fechas incorrectas o alteradas, por lo que es buena idea ver cuándo se publicó el artículo. ¿Son noticias actuales o antiguas?
f) Comprueba los comentarios:
Incluso si el artículo o video es legítimo, es posible que los comentarios de más abajo no lo sean. A menudo los enlaces o comentarios publicados en respuesta al contenido están autogenerados por bots o personas contratadas para colocar información engañosa o confusa.
g) Comprueba si es una broma:
Los sitios web de sátira son populares y, a veces, no es claro si una historia es solo una broma o una parodia. Revisa el sitio web para ver si es conocido por su sátira o por crear historias graciosas.
h) Comprueba si las imágenes son auténticas:
Las imágenes que ves en las redes sociales podrían estar editadas o manipuladas. Algunos signos posibles incluyen la distorsión (líneas rectas en el fondo que se ven oscilantes), además de sombras extrañas, bordes recortados o tonos de piel demasiado perfectos. También ten en cuenta que una imagen podría ser precisa, pero simplemente la usaron en un contexto engañoso. Puedes usar herramientas como la búsqueda inversa de imágenes de Google para verificar de dónde viene una imagen y si es que fue alterada.
i) Utiliza un sitio de verificación de hechos:
Los siguientes incluyen algunos de los más reconocidos:
o Snopes
o PolitiFact
o Fact Check
o BBC Reality Check
7. ¿Cuáles son las precauciones se deben tomar al ver un video de redes sociales para evitar caer en la desinformación?
Es importante tener en cuenta que cualquier persona con una cuenta de redes sociales puede convertirse en un creador de contenido. Para las personas y los medios que publican contenido, el objetivo es casi siempre ser visto por el mayor número de personas posible.Sin embargo, lo que prolifera en las redes sociales no son exactamente historias equilibradas y bien investigadas. Para las publicaciones en grandes plataformas «la indignación es la clave de la viralidad». De hecho, los investigadores del MIT han descubierto que las noticias falsas pueden propagarse hasta 10 veces más rápido que los informes reales en las redes sociales.
En estos casos, cuando las publicaciones explosivas y mal informadas se vuelven virales, las instancias en las que se corrigen o refutan nunca son tan vistas o creídas. El escandaloso «hecho» que estalla a través de las audiencias es más fuerte, adherente y más interesante que una corrección verídica y no tan sensacionalista. En la carrera entre lo falso pero interesante y lo verdadero pero aburrido, siempre gana la historia interesante, por lo que debemos ser precavidos ante este tipo de videos y contenido “extraordinario” para evitar caer en la desinformación.
8. ¿Por qué es importante no compartir un video sin verificar su veracidad primero?
La Internet creó nuevas formas de publicar, compartir y consumir el contenido y la información, con relativamente pocos estándares normativos o editoriales. Muchas personas ahora consumen videos, artículos y noticias desde las redes
Documento elaborado en alianza con
LIBEDINSKY CYBERSECURITY SERVICES
Fuentes
https://seon.io/es/recursos/glosario/deepfake/
https://www.iebschool.com/blog/deepfakes-como-detectarlas-business-tech/
https://www.lisainstitute.com/blogs/blog/deepfakes-tipos-consejos-riesgos-amenazas
https://seon.io/es/recursos/glosario/deepfake/#h-por-qu-son-peligrosos-los-deepfakes
https://www.iebschool.com/blog/deepfakes-como-detectarlas-business-tech/
https://latam.kaspersky.com/resource-center/preemptive-safety/how-to-identify-fake-news
https://www.linkedin.com/pulse/5-best-ai-deepfake-detector-tools-2024-machine-learning-1-vnxbf/?trk=organization_guest_main-feed-card_feed-article-content
https://www.iebschool.com/blog/deepfakes-como-detectarlas-business-tech/
https://latam.kaspersky.com/resource-center/preemptive-safety/how-to-identify-fake-news
https://latam.kaspersky.com/resource-center/preemptive-safety/how-to-identify-fake-news
https://pirg.org/edfund/articles/misinformation-on-social-media/
https://latam.kaspersky.com/resource-center/preemptive-safety/how-to-identify-fake-news
