Cómo la tecnología moderna está socavando la verdad Cómo la tecnología moderna está socavando la verdad

y qué implica para el futuro

Países con mayor crecimiento de fraude con deepfake

Pulse para elegir un continente y ver estadísticas de fraude con IA

América del Norte
América del Sur
África
Europa
Asia

477 Canada
700 Mexico
3000 U.S.A.
828 Brazil
766 Argentina
1000 Algeria
1000 U.A.E.
1200 South Africa
2980 Belgium
1500 Slovakia
1766 Romania
3050 Vietnam
2800 Japan
4500 Philippines

Deepfakes: ¿truco o trato?

Ventajas

Desventajas

Contenido generado por IA

Los deepfakes son utilizados para crear contenido explícito sin consentimiento, atacando figuras públicas como Taylor Swift, Xochitl Gomez y cualquiera que comparta fotos en línea.

Manipulación de palabras o imágenes

Algunos precedentes peligrosos incluyen deepfakes de Joe Biden y el político eslovaco Michal Simecka usados para socavar elecciones.

Cambiar rostros de actores en películas

Uno de los ejemplos más conocidos de ello es "Fast 7" que "incluía" a Paul Walker - actor fallecido en 2013 cuando la película estaba en producción.

Presentaciones interesantes

Con los algoritmos de deepfake se animan figuras históricas, haciendo las ponencias y presentaciones más interesantes que los libros de texto o conferencias tradicionales.

Demostraciones de producto dinámicas

Los modelos generados con IA pueden mostrar productos como prendas de vestir de forma digital sin necesidad de sesiones de fotografía costosas. También se logran crear experiencias de compra virtuales.

¿Cómo identificar un deepfake?

Técnicas de detección de deepfakes: puntos clave

Movimiento corporal y facial:

La IA tiene problemas con las expresiones faciales y el movimiento, generando un efecto de movimiento errático.

Distorsiones de audio:

Un audio con ruido puede dar pistas sobre un video manipulado, identificando modificaciones.

Pestañeo artificial:

Los deepfakes pueden llegar a mostrar un pestañeo no natural debido a la dificultad de la IA para simular este comportamiento.

Sombras y reflejos:

Los deepfakes tienen problemas con las sombras y reflejos. Busca irregularidades en superficies o en los ojos.

Problemas de dilatación de pupilas:

La IA tiene problemas para reproducir la dilatación natural de las pupilares, generando ojos que tienen un aspecto ficticio.

Problemas de sincronización:

Los audios alterados en el vídeo suelen conducir a movimientos de la boca no sincronizados. Presta atención a la resincronización.

Movimiento corporal y facial:

La IA tiene problemas con las expresiones faciales y el movimiento, generando un efecto de movimiento errático.

Distorsiones de audio:

Un audio con ruido puede dar pistas sobre un video manipulado, identificando modificaciones.

Pestañeo artificial:

Los deepfakes pueden llegar a mostrar un pestañeo no natural debido a la dificultad de la IA para simular este comportamiento.

Sombras y reflejos:

Los deepfakes tienen problemas con las sombras y reflejos. Busca irregularidades en superficies o en los ojos.

Problemas de dilatación de pupilas:

La IA tiene problemas para reproducir la dilatación natural de las pupilares, generando ojos que tienen un aspecto ficticio.

Problemas de sincronización:

Los audios alterados en el vídeo suelen conducir a movimientos de la boca no sincronizados. Presta atención a la resincronización.

Podrían usar tus datos en tu contra

Tasa de fraude de identidad

clic aquí para abrir

2021

2022

2023

0 0.5% 1.0% 1.5% 2.0%

Las 5 industrias con mayor porcentaje de fraude de identidad

clic aquí para abrir

Medios de comunicación online 4.27%
Servicios profesionales 3.14%
Salud 2.41%
Transporte 2.03%
Videojuegos 1.82%

Porcentaje de fraude de documentos de identidad por país

clic aquí para abrir

Palau

21.78
Guinea

13.65
Afganistan

10.19
Chad

7.02
Bangladesh

6.11
Pakistan

4.85
Yemen

4.74
Bahrain

4.71
Tanzania

4.61
UK

4.33

0,00% 15,00% 30,00%

Cómo los deepfakes explotan las emociones: miedo, urgencia y confianza

Confiar en contenido visual y auditivo

Las personas suelen confiar en lo que ven y escuchan, especialmente cuando parece real o procede de una fuente conocida. Los deepfakes explotan esta confianza creando contenido realista, manipulado, como videos de figuras famosas, llevando a los espectadores a creer en la información sin verificarla.

Manipulación a través del miedo y la urgencia

Los vídeos deepfake pueden activar emociones como el miedo o la urgencia, como una falsa emergencia o llamada de evacuación, creando reacciones impulsivas basadas en la desinformación sin verificar su autenticidad. Las emociones suelen llevar a tomar decisiones sin una evaluación racional.

Sesgo de confirmación

Los deepfakes están creados para alinearse con las creencias existentes de la audiencia, explotando la tendencia a buscar la confirmación de sus puntos de vista. Cuando el contenido se alinea con las creencias personales, las personas suelen aceptar esta información falsa, convirtiendo a los deepfakes en herramientas efectivas para manipular la opinión pública.

Combate el engaño digital con deepfakes

Protegerte de los deepfakes es casi imposible. La tecnología avanza rápidamente, pero tenemos algunos consejos que pueden mejorar tu seguridad en línea:

Gestión de la información personal

Comparta menos datos personales en línea, especialmente archivos multimedia de alta calidad. Ajuste la configuración de privacidad para limitar el acceso solo a tus contactos de confianza.

Proteja sus cuentas

Utilice la autenticación multifactorial (MFA) y contraseñas seguras y únicas para proteger sus cuentas y tu información personal.

Control sobre la información personal:

Limite la cantidad de datos personales que compartes en internet, especialmente fotos y vídeos de alta calidad. Utilice la configuración de privacidad para restringir la visibilidad solo a sus contactos de confianza.

Cómo hacer frente a los deepfakes

Si encuentra contenido deepfake, denúncielo a la plataforma y solicite ayuda a las fuerzas del orden o a expertos legales.

Ayuda tecnológica

Creado 100% con IA

Herramienta Microsoft Video Authenticator

Video Authenticator de Microsoft utiliza IA para detectar ediciones deepfake al identificar pequeñas fallas como elementos que se desvanecen y otros en escala de grises invisibles al ojo humano.

Attestiv

La actualización en 2024 de Attestiv usa ML para detectar deepfakes y autenticar medios, resaltando potenciales manipulaciones con mapas de calor a nivel de píxel.

Creado 100% con IA

DeepMedia.AI

DeepID detecta deepfakes al analizar modificaciones a nivel de píxel, artefactos en imágenes, tono y patrones espectrales en cuanto a audio, y expresiones faciales y movimiento corporal en cuanto a vídeo.

Sensity AI

Utiliza una API propia para detectar deepfakes en medios al identificar artefactos y señales de alta frecuencia típicas en contenido generado con IA.

¿Es capaz de identificar un deepfake?

¿Generado con IA o real?

Eche un vistazo a esta imagen y responda si cree que ha sido generada con IA o no, y qué tan seguro está de su criterio. Tiene todo el tiempo que necesite para revisar la imagen.

Elija si la imagen es falsa o real para verificar.

Tu puntuación es /4

Lo que significa que necesitas ser más cauteloso en Internet. Ten cuidado con el contenido deepfake, ya que puede ser desafiante diferenciar entre información real y falsa. Además, siempre verifica las fuentes de las noticias y evita compartir información personal sensible, ya que puede aumentar el riesgo de mal uso o estafas en línea. ¡Mantente alerta y protege tu presencia en línea!

Lo que muestra que estás progresando en la comprensión de los riesgos en línea, pero aún hay espacio para crecer. Mantente cauteloso con el contenido deepfake, ya que a veces puede ser complicado de identificar. Haz un hábito verificar las fuentes de noticias y piensa dos veces antes de compartir información personal sensible para evitar el mal uso potencial. ¡Estás en camino de volverte más vigilante y seguro en tus actividades en línea - mantén el esfuerzo!

Lo que significa que ya eres consciente de algunos riesgos en línea. Para continuar en este camino positivo, sigue agudizando tu conciencia en Internet. Mantente atento al contenido deepfake y siempre verifica las fuentes - estás en el camino correcto para convertirte en un usuario en línea inteligente y seguro. ¡Buen trabajo, y mantén el buen trabajo protegiendo tu presencia en línea!

desplázate para ver más

Falso

Esta es una imagen sintética producida por IA. Presta mucha atención a las caras de las chicas, especialmente sus narices. Estas características sugieren inconsistencias sutiles, indicando que las narices pueden no ser reales y probablemente fueron creadas por inteligencia artificial.

desplázate para ver más

Falso

Esta es una imagen sintética producida por IA. Echa un vistazo a las caras de las chicas, especialmente sus narices. Se ven un poco raras, lo que podría ser una pista de que las narices no son reales sino que fueron creadas por IA.

desplázate para ver más

Real

Esta es una imagen real.

Real

Esta es una imagen real.