¿Cómo está cambiando la detección de deepfakes el análisis forense?

Durante la primera oleada de contenido generado por IA, la tecnología estaba lejos de estar democratizada. Crear contenido deepfake convincente aún requería recursos significativos y habilidades técnicas. Pero 2025 anunció una segunda oleada, y una explosión de herramientas de IA generativa sofisticadas y fáciles de usar significó que cualquiera, no solo ingenieros o investigadores, pudiera crear vídeos, imágenes y audio deepfake convincentes en segundos. En lo que respecta a la detección de deepfakes, esto cambió por completo la naturaleza del análisis forense, y las agencias de inteligencia, las fuerzas del orden y las autoridades judiciales están sufriendo las consecuencias.

En los siguientes 12 meses, la manipulación digital escaló más rápido que la verificación, y la confianza misma se convirtió en una vulnerabilidad.

Hemos entrado en una era en la que ver ya no es creer, y saber ya no es un resultado pasivo de la percepción. La IA generativa no solo creó contenido completamente nuevo; creó una superficie de ataque completamente nueva: la realidad misma.

La detección de deepfakes es ahora una capacidad crítica en el conjunto de herramientas de análisis forense.

Una historia de deepfakes y detección de deepfakes

El concepto amplio de ‘deepfaking’, en el sentido de contenido manipulado o generado artificialmente, ha existido casi tanto como la fotografía. Hay evidencia de manipulación de imágenes poco después de la creación de la primera fotografía en 1825, y en los últimos 200 años la práctica ha pasado de imágenes estáticas a vídeo y audio al ritmo de la evolución tecnológica. Joseph Stalin, de forma infame, hizo que se eliminara de sus fotografías a individuos que habían caído en desgracia en la década de 1930, lo que le valió al oficial de la policía secreta soviética Nikolai Yezhov el apodo de ‘el Comisario Desaparecido’.

Pero si bien el acto de crear contenido falso no es nuevo, los deepfakes tal como los conocemos hoy aprovechan de manera única las técnicas de aprendizaje automático e inteligencia artificial para manipular o sintetizar medios, y la creación de contenido sintético ultrarrealista que llegó en 2025 ha estado mucho tiempo en desarrollo.

Las imágenes generadas por ordenador (CGI) llegaron a las pantallas de cine durante las décadas de 1970, 80 y 90, con fabricaciones toscas y fáciles de detectar, aunque el programa histórico Video Rewrite, publicado en 1997, cambió las reglas del juego al poder modificar metraje de vídeo existente de una persona para representarla pronunciando las palabras de una pista de audio diferente.

En la década de 2010, la computación en la nube de consumo, los grandes conjuntos de datos y los avances en el aprendizaje automático colisionaron, lo que resultó en el lanzamiento de las GAN (redes generativas antagónicas) en 2014, que puso en marcha la primera oleada de medios sintéticos ultrarrealistas.

Pronto surgió un ecosistema de primeros adoptantes, y para 2017 la tecnología había sido cooptada para el abuso sexual bajo el pretexto de pornografía no consentida, donde los rostros de celebridades se superponían a los cuerpos de actores en películas explícitas.

Casualmente, fue en el foro de Reddit donde se compartieron estos vídeos e imágenes donde se acuñó el término ‘deepfake’ —una combinación de ‘deep learning’ (aprendizaje profundo) y ‘fake’ (falso)—.

Posteriormente, cada iteración de la IA generativa trajo fabricaciones más realistas, lo que hizo que los observadores sociales dieran la voz de alarma y pidieran una intervención regulatoria en medio de los temores de que los deepfakes se estuvieran convirtiendo en una amenaza clara y presente para los individuos y la sociedad en general.

Para este momento, sin embargo, el genio ya había salido de la botella. Los medios generados por IA —los deepfakes modernos— ya no eran solo una novedad destinada al entretenimiento; la tecnología estaba siendo adoptada activamente por ecosistemas criminales y utilizada como mecanismo de entrega para el fraude, la coacción, la influencia, la manipulación de pruebas y la suplantación de identidad.

Identificando la necesidad de soluciones de respuesta rápida diseñadas para profesionales de inteligencia, forenses, de las fuerzas del orden y legales para quienes la autenticación de pruebas es crítica, el especialista en detección de deepfakes y verificación forense de medios Sensity AI se constituyó en 2019.

2025: La democratización de los medios sintéticos

Durante los siguientes años, la tecnología de IA generativa continuó evolucionando a un ritmo rápido, respaldada por actores importantes como OpenAI y la aparición de herramientas de creación de contenido cada vez más sofisticadas como Stable Diffusion y DALLE-E para imágenes y vídeo, y ElevenLabs para la generación de voz. Con la llegada de las redes de difusión —que eclipsaron a las GAN en aplicaciones de modelado generativo—, las tecnologías de texto a voz, texto a imagen y texto a vídeo redujeron la creación de medios sintéticos a nada más que una instrucción y marcaron el comienzo de la era de los deepfakes verdaderamente democratizados.

Le siguió la adopción masiva. Se cree que el volumen de contenido sintético en la web superó al contenido real en 2025, y algunas estimaciones predicen que hasta el 90 % de todo el contenido en la web podría estar completamente fabricado, o al menos manipulado por IA, para finales de 2026.

El desafío hoy no es solo que existan los medios sintéticos. Es que son masivamente escalables, de bajo coste y muy persuasivos. Además, la barrera técnica de entrada es inexistente y el tiempo de creación es casi instantáneo, lo que significa que el tiempo de impacto también se ha reducido.

Mientras miles de titulares de medios se centran en el problema muy real que introducen los deepfakes en términos de impacto social —que van desde la publicidad engañosa hasta la proliferación de pornografía de venganza y ‘deepnudes’ no consentidos utilizados para atacar a las mujeres—, está surgiendo una amenaza paralela en forma de actores de amenazas sofisticados que utilizan campañas de deepfakes altamente dirigidas para alterar todo, desde el ciberdelito hasta la política y la seguridad nacional, lo que impulsa una necesidad real de soluciones de detección de deepfakes de grado forense.

La industrialización criminal de los deepfakes generados por IA

Mientras las grandes tecnológicas, los reguladores y los gobiernos debaten las formas más efectivas de identificar y etiquetar los medios sintéticos para las masas, los estados-nación, los hacktivistas y los criminales están industrializando los medios generados por IA y los deepfakes para su uso en campañas sofisticadas y dirigidas contra individuos, empresas y países enteros.

Históricamente, la propaganda se ha utilizado con gran efecto tanto en tiempos de paz como de guerra, desde folletos desmoralizadores lanzados desde el aire sobre combatientes del otro lado, hasta chismes falsos bien colocados sobre figuras de liderazgo, y si bien estas ‘fábricas de deepfakes’ modernas son solo una parte de la máquina de desinformación industrial, que también depende en gran medida de una red de distribución relevante, son las más impactantes, capaces de crear literalmente realidades alternativas. El teatro de la política y del conflicto se ha extendido ahora a una nueva capa, más sutil, de influencia continua sobre la percepción.

Si la guerra es la continuación de la política por otros medios, entonces los deepfakes son la continuación de la guerra por medios modernos. La detección de deepfakes es hoy una cuestión de seguridad nacional.

La primera víctima de la guerra es la verdad: guerra híbrida y operaciones psicológicas

La cuestión es que hay actores, ya sean estados-nación, activistas, criminales o alborotadores, que pueden beneficiarse de contenido deliberadamente engañoso, desinformador y confuso, y todas las principales iniciativas públicas y de ecosistema abierto destinadas a identificar y etiquetar el contenido generado por IA tienen un efecto limitado cuando se trata de actividad maliciosa deliberada.

Las amenazas modernas a la seguridad nacional operan cada vez más por debajo del umbral del conflicto tradicional. En la era de la guerra híbrida, las campañas de influencia, las operaciones psicológicas (psyops) y la propaganda sintética se despliegan a escala para distorsionar la percepción, erosionar la confianza y desestabilizar la toma de decisiones, a menudo en tiempo real, durante las crisis. La interferencia electoral y política y la desinformación en conflictos son solo dos de los peligros actuales de los que tenemos pruebas.

Actores en el panorama de amenazas para la realidad sintética:

Estados-nación

Grupos respaldados por el gobierno que operan oficial o extraoficialmente con objetivos políticos, militares o estratégicos. Cuentan con amplios recursos y combinan capacidades de inteligencia, operaciones cibernéticas y campañas de influencia para utilizar deepfakes y dar forma a los resultados geopolíticos.

Cibercriminales

Los ciberdelincuentes son grupos altamente sofisticados y organizados motivados por el beneficio económico. Operan con recursos similares a los de las empresas legítimas y explotan los deepfakes de IA generativa para escalar el fraude, la extorsión, la suplantación de identidad y los ataques de ingeniería social, operando desde mercados clandestinos globales que también comercian con identidades sintéticas.

Medios de comunicación

Los medios de noticias falsas son redes, a menudo anónimas o financiadas de forma encubierta, que publican historias engañosas o fabricadas para influir en la opinión pública. Utilizan deepfakes para añadir “pruebas” visuales o de audio a narrativas que de otro modo carecerían de credibilidad.

Los medios de comunicación legítimos, tanto privados como públicos, y otras plataformas de contenido, también han sido expuestos por usar medios sintéticos para impulsar su propia agenda o la de un aliado político. En última instancia, los medios de comunicación suelen ser empleados como táctica por otros actores de amenazas, pero también pueden ser una amenaza individual.

Hacktivistas

Los hacktivistas son grupos o individuos con motivaciones ideológicas que utilizan operaciones cibernéticas para promover causas políticas o sociales. Despliegan deepfakes para avergonzar a sus objetivos, exponer injusticias percibidas o amplificar su narrativa contra gobiernos o corporaciones.

Las herramientas que estos actores de amenazas tienen a su alcance hoy en día son de una capacidad sin precedentes. En 2026, una mentira convincente puede producirse con calidad cinematográfica, localizarse para un objetivo, desplegarse a través de múltiples canales e iterarse en horas. Y las agencias de inteligencia, las fuerzas del orden y las autoridades judiciales —los responsables de encontrar la verdad— están sufriendo las consecuencias en lo que respecta a la detección de deepfakes y la verificación de medios.

¿Cuál es el papel de las herramientas especializadas de análisis forense en la detección de deepfakes?

Los equipos de análisis forense digital responsables de la detección de deepfakes se enfrentan a un cambio estructural: los volúmenes de pruebas están explotando, mientras que la fiabilidad del material visual y de audio se está desmoronando. Los vídeos, imágenes y grabaciones de voz, que antes se trataban como artefactos objetivos, ahora se manipulan, generan sintéticamente o editan selectivamente de forma rutinaria para engañar a investigadores, fiscales y tribunales.

Vectores de amenaza de deepfakes:

Manipulación facial por IA

La IA generativa se utiliza para alterar o reemplazar un rostro en un vídeo o imagen, como:

Intercambio de rostros por IA

Reemplaza un rostro en una foto o vídeo con otro rostro, creando la apariencia de que el individuo objetivo realizó las acciones o expresiones de la fuente.

Sincronización labial por IA

Altera los movimientos de la boca de una persona en un vídeo para que coincidan con un nuevo audio, haciendo que parezca que pronunció palabras en la pista de audio objetivo.

Recreación facial por IA

Transfiere las expresiones y movimientos faciales de una persona a otra en un vídeo, haciendo que el objetivo imite a la fuente en tiempo real o en posproducción. Esto difiere del intercambio de rostros en que hace que una persona actúe como otra, mientras que el intercambio altera la identidad del sujeto.

Fusión facial por IA

Combina dos o más rostros en un único compuesto, transformando gradualmente una identidad en otra con transiciones visuales fluidas. Esta técnica se utiliza para engañar al reconocimiento facial en KYC, por ejemplo. Al crear un rostro fusionado o combinado, varias personas podrían hacerse pasar por una misma identidad. Funciona especialmente bien con personas que comparten puntos de referencia faciales similares, como miembros de la familia.

Vídeos e imágenes generados por IA

Estos son medios completamente sintéticos, típicamente creados a través de herramientas de IA de texto a imagen o de texto a vídeo, que convierten descripciones escritas en elementos visuales sintéticos realistas, incluyendo:

Avatares de IA

Personajes o ‘marionetas’ generados digitalmente —a menudo parecidos a una persona real— que pueden hablar, moverse y expresar emociones utilizando animación y síntesis de voz impulsadas por IA.

Rostros sintéticos (GAN)

Rostros humanos generados por IA creados por Redes Generativas Antagónicas, produciendo identidades fotorrealistas que no corresponden a ninguna persona real.

Voces sintéticas y clonación de voz

La síntesis de voz es la producción artificial de habla similar a la humana, incluyendo el uso de clones completamente sintéticos indistinguibles de voces humanas específicas. Las redes neuronales pueden analizar y modelar las características únicas de la voz de una persona a partir de solo unos segundos de audio de muestra, replicando el tono, el timbre, la prosodia y la entonación. Mientras que la tecnología de texto a voz (TTS) ha reducido la salida a una simple instrucción.

Voz sintética

Habla generada por IA que imita el tono, el ritmo y la emoción humanos.

Clon de voz por IA

Replicación de la voz de una persona específica, lo que permite la creación de audio altamente realista que suena como el hablante original.

Las unidades de investigación se enfrentan cada vez más a crímenes en los que los medios sintéticos no son incidentales, sino centrales: suplantación de identidad, engaño, sextorsión, acoso, fraude financiero y abuso coordinado en línea. En estos casos, la velocidad importa tanto como la precisión. Cada hora dedicada a validar contenido manipulado con herramientas de detección de deepfakes obsoletas es una hora perdida para la protección de víctimas, las retiradas o la identificación de sospechosos.

Para los investigadores forenses y analistas de inteligencia que se enfrentan a estas amenazas, el software forense de imagen, vídeo y audio heredado ha sido superado por los rápidos avances en el contenido generado por IA. Pronto llegaremos al punto en que incluso los profesionales capacitados ya no podrán distinguir entre medios genuinos y manipulados, y ya hemos superado el punto en que los volúmenes de medios sospechosos son manejables solo por humanos.

Existen herramientas especializadas de análisis forense digital, pero no están equipadas para detectar falsificaciones sofisticadas generadas por IA a escala, lo que hace más difícil que nunca descubrir la verdad en los medios digitales.

● Los investigadores forenses están bajo una presión creciente para gestionar grandes cargas de casos y analizar los medios rápidamente para prevenir delitos o resolver casos urgentes. Las herramientas forenses tradicionales dependen en gran medida de la interpretación humana de los hallazgos, lo que retrasa significativamente la toma de decisiones en investigaciones urgentes.

● Las herramientas forenses heredadas también son soluciones puntuales, diseñadas para analizar un tipo de medio a la vez: vídeo, imágenes o audio. Los medios completamente sintéticos pueden incluir audio y vídeo generados artificialmente, lo que requiere que los investigadores utilicen múltiples herramientas inconexas para

analizar los diferentes formatos, lo que lleva a ineficiencias en el flujo de trabajo y problemas de compatibilidad, además de aumentar la carga para el ser humano en la interpretación.

● Los investigadores forenses profesionales están altamente capacitados, y el software forense tradicional tiene una curva de aprendizaje pronunciada, lo que aumenta el coste de la formación, ralentiza las investigaciones y excluye del proceso a los analistas menos expertos en tecnología.

Fundamentalmente, la facilidad con la que los medios maliciosos pueden ser manipulados o completamente fabricados está cambiando la naturaleza de cómo se maneja la autenticidad forense en términos de detección de deepfakes. Dados los volúmenes y la sofisticación involucrados, ya no puede tratarse como una opinión experta en una etapa tardía, sino que debe abordarse como un paso de verificación automatizado en el proceso.

El proceso forense óptimo debería integrar la detección de deepfakes y medios generados por IA en la etapa más temprana de la ingestión de pruebas, de modo que cada archivo multimedia extraído pueda ser examinado automáticamente en busca de signos de manipulación antes de que entre en el registro de la investigación.

Al seguir este enfoque, los analistas forenses informan de reducciones drásticas en el tiempo de revisión manual de los casos de detección de deepfakes, un triaje más rápido de grandes conjuntos de datos y, lo que es más crítico, una mayor confianza al introducir medios digitales en los procedimientos legales.

La explicabilidad también es crítica. Al tratar con deepfakes generados por IA altamente sofisticados, los informes forenses deben ser reproducibles, explicables y trazables, evitando el ‘problema de la caja negra’ y permitiendo que los tribunales se basen en análisis técnicos verificables en lugar de interpretaciones subjetivas.

Realidad sintética: los deepfakes como riesgo nacional y económico

El principal escollo de la era de los deepfakes democratizados es que la sociedad está entrando en una era en la que un humano ya no puede determinar si el contenido de un medio corresponde a la verdad.

Dentro de este nuevo panorama de amenazas de la realidad sintética, los deepfakes son una herramienta clave en los ataques de desinformación, influyendo en la percepción, creando dudas y socavando la confianza. Los deepfakes proporcionan artefactos que encajan en narrativas diseñadas y son capaces de interferir con las funciones democráticas en las sociedades, llegando a representar un riesgo nacional y económico que evoluciona más rápido de lo que los marcos regulatorios pueden responder.

Debido a que los medios sintéticos son ‘contenido’, los actores maliciosos pueden explotar la zona gris entre el propósito de mitigación de daños de la regulación y las protecciones otorgadas a la libertad de expresión.

Esto ya es evidente en la naturaleza insidiosa de las recientes campañas de desinformación bien orquestadas. La IA generativa no solo produce artefactos falsos individuales, sino que también proporciona apoyo contextual en forma de otros medios falsos, corroboradores o testigos, con cada engaño adaptado a organizaciones, comunidades o individuos específicos para lograr el máximo efecto.

A escala, este cambio erosiona la confianza y crea una negación plausible, además de establecer una oportunidad para que los eventos reales sean descartados como falsos, manifestándose en el fenómeno del Dividendo del Mentiroso.

Donde tales engaños sofisticados alguna vez requirieron niveles casi imposibles de habilidad, tiempo y recursos, la IA generativa reduce todos estos costes y el tiempo que lleva crear, desplegar e iterar tales campañas.

Para gobiernos, tribunales, redacciones, instituciones financieras y empresas, el enfoque ahora está en encontrar soluciones de detección de deepfakes de grado forense para mantener cadenas de custodia claras y pruebas auditables cuando nada es lo que parece, la confianza ha muerto y la realidad misma está bajo amenaza.

Descargar

Todos los informes

Descargar informe