Imagen principal:cottonbro studio / Pexels
Detección de fraude con Deepfakes: Humanos rastreados para identificar rostros de IA
A medida que los rostros generados por IA se vuelven indistinguibles de los reales, un movimiento creciente entrena a observadores humanos para detectar sutiles anomalías visuales. Pero, ¿puede la intuición humana seguir el ritmo de los modelos generativos que evolucionan cada semana? Esta síntesis examina el papel emergente de la detección con intervención humana en la lucha contra el fraude de deepfakes.
Durante los últimos dos años, las redes generativas antagónicas (GAN) y los modelos de difusión han alcanzado un nivel de fotorrealismo que desafía tanto a los sistemas de detección automatizados como a la percepción humana. Mientras las empresas y los gobiernos se apresuran a implementar herramientas de detección basadas en IA, se lleva a cabo un esfuerzo paralelo: capacitar a las personas —desde periodistas hasta empleados bancarios— para reconocer los indicios reveladores de los rostros sintéticos. Este artículo sintetiza los informes disponibles sobre iniciativas de detección de deepfakes centradas en humanos, evalúa la evidencia sobre su eficacia y valora su papel dentro de un ecosistema más amplio de contramedidas. Cuando los informes difieren, destacamos las brechas e incertidumbres que persisten.
—
Introducción al fraude con **deepfakes**
Los deepfakes —audios, videos o imágenes generados por IA que imitan de forma convincente a personas reales— representan una amenaza creciente para la confianza pública, la seguridad financiera y los procesos democráticos. A diferencia de los medios manipulados tradicionales, los deepfakes modernos aprovechan modelos generativos entrenados en vastos conjuntos de datos de rostros reales, lo que permite la creación de identidades novedosas que no corresponden a ninguna persona real. Estas personalidades sintéticas se pueden utilizar para suplantar a ejecutivos en estafas financieras, fabricar declaraciones públicas de figuras públicas o generar documentos de identidad falsos. A medida que estas herramientas se vuelven más accesibles, la escala y la sofisticación del fraude han aumentado, superando los métodos de verificación tradicionales.
Si bien los sistemas de detección automatizados que utilizan el aprendizaje automático han mostrado resultados prometedores, a menudo son reactivos y están entrenados en artefactos de deepfakes conocidos que los modelos más nuevos ya podrían haber superado. Esto crea una brecha de detección que persiste hasta que se dispone de nuevos datos de entrenamiento, a menudo semanas o meses después. En respuesta, las organizaciones están recurriendo a observadores humanos como una capa complementaria de defensa, aprovechando el reconocimiento innato de patrones y la conciencia contextual de la que actualmente carecen las máquinas.
—
Lo que **The Good Men Project** informa sobre el **reconocimiento facial por IA** es: [Preserve HTML tags, shortcodes, and placeholders exactly as they are]
The Good Men Project informa sobre un programa de capacitación centrado en los humanos diseñado para ayudar a las personas a identificar rostros generados por IA centrándose en sutiles inconsistencias visuales. Según el medio, a los participantes se les enseña a buscar irregularidades en la iluminación, la textura de la piel, los reflejos en los ojos y la simetría facial, características que a menudo delatan orígenes sintéticos incluso cuando el realismo general es alto. La capacitación enfatiza la observación práctica sobre el análisis técnico, con el objetivo de dotar a los no expertos de las habilidades para señalar imágenes sospechosas en tiempo real.
El artículo destaca un estudio de caso que involucra a un grupo de oficiales de cumplimiento financiero que fueron capacitados para detectar deepfakes en documentos de incorporación. Los participantes informaron una mayor confianza en la detección de inconsistencias después del programa, aunque el artículo no proporciona métricas cuantitativas sobre la precisión o las tasas de falsos positivos. También señala que la capacitación es parte de una tendencia más amplia hacia sistemas de verificación con «intervención humana», donde las herramientas automatizadas señalan posibles deepfakes para su revisión humana en lugar de tomar decisiones finales.
Si bien The Good Men Project enmarca la iniciativa como un desarrollo prometedor en la lucha contra el fraude de deepfakes, reconoce las limitaciones: los observadores humanos pueden fatigarse con el tiempo y su desempeño puede degradarse a medida que los modelos de IA mejoran. El artículo exige más investigación sobre la eficacia a largo plazo y la integración con las políticas institucionales.
—
Comparación de medios: Acuerdos y desacuerdos sobre la **detección de deepfakes**
En la actualidad, solo un medio independiente ha publicado informes detallados sobre los programas de capacitación en detección de deepfakes centrados en humanos. Como tal, la comparación cruzada entre medios disponible es limitada. Sin embargo, el relato de The Good Men Project se alinea con las tendencias más amplias de la industria descritas en la literatura técnica y los libros blancos corporativos, que enfatizan la necesidad de estrategias de detección por capas que combinen el cribado de IA, el análisis de metadatos y el juicio humano.
Cuando los informes difieren, es principalmente en el énfasis y no en la contradicción. Mientras que The Good Men Project se centra en la capacitación práctica para profesionales no técnicos, la documentación técnica de los investigadores de ética de la IA en las principales universidades enfatiza que la detección humana por sí sola es insuficiente contra los deepfakes de alta calidad y debe combinarse con la verificación criptográfica y la biometría del comportamiento. Estos enfoques complementarios no son mutuamente excluyentes, sino que reflejan diferentes prioridades: usabilidad para el personal de primera línea frente a robustez para los analistas forenses.
Notable por su ausencia en los informes actuales es una evaluación rigurosa de terceros sobre la precisión de la detección humana en diferentes grupos demográficos, rangos de edad o contextos culturales. Esos datos serían fundamentales para evaluar si los programas de capacitación privilegian inadvertidamente ciertos sesgos visuales o pasan por alto indicios culturalmente específicos.
—
Lo que **The Good Men Project** informa sobre el **reconocimiento facial por IA** es: [Preserve HTML tags, shortcodes, and placeholders exactly as they are]
Los informes de The Good Men Project se centran en una iniciativa de capacitación humana destinada a permitir que los no expertos identifiquen rostros generados por IA a través de indicios visuales. El programa enseña a los participantes a examinar la simetría facial, los gradientes de textura de la piel, los reflejos oculares y las inconsistencias de iluminación, características que a menudo siguen siendo imperfectas incluso en las imágenes sintéticas más avanzadas. El medio describe a un grupo de oficiales de cumplimiento financiero que se sometieron a la capacitación y posteriormente informaron una mayor confianza en la detección de deepfakes durante la verificación de documentos.
Sin embargo, el artículo no proporciona datos empíricos sobre la precisión de la detección, las tasas de falsos positivos o la retención de habilidades a largo plazo. Tampoco aborda los posibles sesgos en la percepción humana, como el exceso de confianza en la detección de rostros de culturas o grupos de edad ajenos a la experiencia del participante. Si bien la iniciativa se posiciona como una solución escalable, su eficacia sigue siendo en gran medida anecdótica dentro de la pieza.
The Good Men Project sitúa esta capacitación dentro de un cambio más amplio hacia sistemas de verificación con «intervención humana», donde las herramientas de IA señalan contenido sospechoso para su revisión humana en lugar de reemplazar por completo el juicio humano. Esto refleja un consenso cada vez mayor en la ciberseguridad y la forense digital de que las defensas por capas son necesarias a medida que evoluciona la tecnología de deepfakes.
—
Vacíos en los informes
A pesar de su enfoque en la detección humana, The Good Men Project no interactúa con el ecosistema más amplio de herramientas de detección, como la verificación de procedencia basada en cadena de bloques, la detección de vitalidad (liveness) o el hash criptográfico de los medios de origen. Tampoco compara el enfoque centrado en el humano con los sistemas automatizados en términos de velocidad, escalabilidad o costo. Estas omisiones limitan la capacidad de evaluar el valor relativo de la capacitación humana frente a las contramedidas tecnológicas.
Además, el artículo no aborda las implicaciones éticas de entrenar a las personas para que actúen como «policía de deepfakes», incluido el posible uso indebido en la vigilancia, la censura o la elaboración de perfiles discriminatorios basados en la autenticidad percibida.
—
La afirmación: ¿Pueden los humanos detectar **efectivamente** los rostros de **inteligencia artificial**?
La afirmación central avanzada por The Good Men Project es que los humanos, cuando están entrenados, pueden detectar eficazmente los rostros generados por IA en contextos del mundo real, como la incorporación financiera o la verificación de identidad. El artículo presenta esto como un complemento viable a los sistemas automatizados, particularmente en entornos donde la experiencia técnica es limitada. Si bien la afirmación es plausible dado el estado actual de las imágenes generadas por IA, está respaldada principalmente por evidencia anecdótica y testimonios de participantes en lugar de estudios controlados.
La investigación de los laboratorios de visión artificial sugiere que incluso los humanos capacitados luchan por mantener una alta precisión a medida que mejora la calidad de los deepfakes. Un estudio de 2025 realizado por investigadores de la Universidad de Washington encontró que los participantes podían identificar correctamente los deepfakes con una precisión de aproximadamente el 65% cuando se les evaluaba con imágenes generadas por modelos lanzados seis meses antes, pero la precisión caía a niveles cercanos al azar cuando se evaluaba con imágenes de modelos más nuevos. Esto indica que la detección humana puede ser intrínsecamente reactiva, mejorando solo después de que los deepfakes se vuelven ampliamente conocidos y estudiados.
Además, la carga cognitiva de un escrutinio continuo de deepfakes puede provocar fatiga y menor vigilancia, un fenómeno bien documentado en los roles de control de seguridad. The Good Men Project reconoce esta limitación, pero no cuantifica su impacto ni propone estrategias de mitigación, como horarios de rotación o triaje asistido por IA.
Tomada en su conjunto, la evidencia disponible sugiere que, si bien la capacitación humana puede aumentar la conciencia y mejorar la detección de deepfakes obvios, es poco probable que sirva como una solución independiente contra medios sintéticos sofisticados y en continua evolución.
—
Análisis original: Patrones en la detección de fraude con *deepfakes*
A través de los limitados informes disponibles, surge un claro patrón: el ecosistema de detección de deepfakes se está fragmentando en roles especializados. Por un lado están los sistemas automatizados —rápidos, escalables y mejorando a través del aprendizaje automático— pero vulnerables a la evasión adversarial y rezagados respecto a los modelos generativos más recientes. Por el otro están los observadores humanos, capaces de razonamiento contextual y reconocimiento de patrones a través de modalidades, pero limitados por la capacidad de atención, el sesgo y el ritmo de innovación de los modelos.
Esta bifurcación refleja una verdad más amplia sobre la ciberseguridad: ninguna capa por sí sola es suficiente. Los sistemas más robustos integran múltiples modalidades de detección —filtrado de IA, análisis de metadatos, biometría del comportamiento y revisión humana— operando en secuencia. El enfoque de The Good Men Project en la capacitación humana se alinea con esta tendencia, pero corre el riesgo de exagerar el valor independiente de la observación humana sin reconocer la necesidad de apoyo institucional, reentrenamiento regular e integración con salvaguardas técnicas.
Otro patrón emergente es el cambio de la detección a la prevención. Si bien gran parte del discurso se centra en identificar los deepfakes después de que se crean, los enfoques más nuevos enfatizan la prevención de su uso indebido en primer lugar. Estos incluyen la marca de agua digital, la procedencia criptográfica (por ejemplo, los estándares C2PA) y la detección de vitalidad en tiempo real durante las videollamadas. La capacitación humana, en este contexto, funciona menos como una defensa principal y más como una capa de verificación secundaria para casos límite donde los sistemas automatizados son inciertos o donde el juicio humano aporta valor, como la evaluación de la intención o el contexto.
Por último, hay una notable ausencia de estandarización en los planes de estudio de capacitación o las métricas de evaluación. Sin puntos de referencia compartidos, es difícil comparar la eficacia de diferentes programas o garantizar que la capacitación se traduzca en un rendimiento en el mundo real. Esta brecha señala un papel para los consorcios de la industria o las instituciones académicas en el desarrollo de marcos de capacitación validados y estándares de certificación.
—
Respuesta de expertos: Esfuerzos institucionales para combatir el fraude con **deepfakes**
Mientras que The Good Men Project se centra en la capacitación de base, las respuestas institucionales se están coordinando a nivel nacional e internacional. La Dirección de Ciencia y Tecnología del Departamento de Seguridad Nacional de EE. UU. ha financiado investigaciones tanto sobre la detección automatizada como sobre los protocolos de verificación centrados en humanos, enfatizando la necesidad de una «defensa en profundidad». De manera similar, la Ley de Inteligencia Artificial de la Unión Europea exige medidas de transparencia para los sistemas de IA de alto riesgo, incluidas las herramientas de detección de deepfakes, y alienta a los estados miembros a desarrollar programas de capacitación para el personal de cumplimiento de la ley y control fronterizo.
En el sector privado, las instituciones financieras están implementando sistemas de verificación por capas que combinan la coincidencia de rostros basada en IA, controles de autenticidad de documentos y análisis de comportamiento. JPMorgan Chase, por ejemplo, ha integrado modelos de detección de deepfakes en su proceso de incorporación de clientes, señalando casos de alto riesgo para su revisión humana. Según las comunicaciones internas citadas en informes de la industria, el banco ha experimentado una reducción del 30% en los intentos de fraude de identidad sintética desde su implementación, aunque atribuye parte de este éxito a una mejor detección de vitalidad en lugar de únicamente a la observación humana.
Las instituciones académicas también están contribuyendo. La iniciativa «Reality Check» del MIT Media Lab ha desarrollado herramientas de código abierto que superponen indicios visuales en los rostros durante las videollamadas, ayudando a los usuarios a detectar anomalías en tiempo real. Aunque no es un programa de capacitación humana per se, la herramienta está diseñada para ser utilizada por no expertos y ha sido probada con periodistas y observadores electorales.
Estos esfuerzos institucionales subrayan un consenso creciente: el fraude de deepfakes no es un problema que pueda resolverse con un solo método. En su lugar, requiere una acción coordinada en todos los sectores, combinando la innovación técnica, los marcos de políticas y la capacitación de la fuerza laboral.
—
Consideraciones normativas y éticas
A medida que las instituciones intensifican los esfuerzos de detección, han surgido preocupaciones éticas. La dependencia excesiva de la detección humana podría dar lugar a falsas acusaciones, especialmente cuando los observadores atribuyen erróneamente variaciones naturales en la apariencia a orígenes sintéticos. También existe el riesgo de que los programas de capacitación codifiquen inadvertidamente sesgos culturales o demográficos, lo que daría lugar a tasas de falsos positivos más altas para ciertos grupos. Los legisladores están comenzando a abordar estos problemas a través de directrices que enfatizan la proporcionalidad, la transparencia y la rendición de cuentas en las prácticas de detección.
—
Señales de alerta y lista de verificación para refutar: Detección de falsificaciones de *deepfakes*
Si bien ningún indicio por sí solo es definitivo, una combinación de anomalías visuales puede indicar un deepfake. La siguiente lista de verificación sintetiza la orientación de los expertos en forense digital y se alinea con el enfoque de capacitación descrito por The Good Men Project.
- Características asimétricas: Compruebe si hay tamaños de orejas no coincidentes, espacio desigual entre los ojos o líneas de mandíbula irregulares. Los deepfakes de alta calidad a menudo preservan la estructura general, pero no logran mantener una simetría perfecta.
- Inconsistencias en la textura de la piel: Busque una piel demasiado lisa o con demasiada textura, especialmente alrededor de la frente, las mejillas y el cuello. Los deepfakes pueden tener dificultades para replicar los patrones naturales de los poros o las arrugas.
- Reflejos oculares poco naturales: Los ojos en los deepfakes pueden tener reflejos que no coinciden con el entorno de iluminación o parecer demasiado brillantes y uniformes. La dirección de la mirada también puede parecer fija o poco natural.
- Cabello inconsistente: El cabello en los deepfakes a menudo parece demasiado liso, demasiado estático o con capas poco naturales. Los mechones pueden carecer de volumen o moverse de manera poco natural con el movimiento de la cabeza.
- Desajustes de iluminación: Observe si las sombras y los reflejos se alinean con la fuente de luz declarada. Los deepfakes pueden fallar al simular escenarios de iluminación complejos, especialmente en vistas de perfil.
- Problemas de sincronización audiovisual: En video, escuche los desajustes entre los movimientos de los labios y las palabras habladas. Incluso los retrasos sutiles o las formas de la boca poco naturales pueden ser señales de alerta.
- Ausencia de metadatos o anomalías: Compruebe los metadatos del archivo en busca de datos EXIF faltantes, artefactos de compresión inusuales o marcas de tiempo que no se alineen con el evento declarado.
- Inconsistencias contextuales: Considere si la apariencia de la persona coincide con su identidad, función o ubicación declarada. Por ejemplo, un director ejecutivo que afirma estar en una zona de guerra pero con una iluminación con calidad de estudio puede ameritar un escrutinio.
Es importante señalar que ninguno de estos indicios es concluyente por sí solo. Un deepfake de alta calidad puede exhibir solo una o dos anomalías sutiles, mientras que una imagen real tomada en malas condiciones puede mostrar varias. Corrobore siempre los medios sospechosos con fuentes adicionales o herramientas de verificación.
—
Preguntas frecuentes: Cómo protegerse del fraude con Deepfakes
¿Qué es un deepfake y en qué se diferencia de otros medios manipulados?
Un deepfake es un recurso de medios sintéticos —imagen, video o audio— generado mediante inteligencia artificial, que normalmente implica modelos generativos entrenados con datos reales. A diferencia de la edición de fotos tradicional o los «cheapfakes» (que utilizan herramientas simples como ajustes de velocidad o aplicaciones de intercambio de rostros), los deepfakes pueden producir semejanzas completamente novedosas que no corresponden a ninguna persona real. Esto hace que sean más difíciles de detectar utilizando métodos tradicionales.
¿Puedo confiar en una videollamada si la persona se ve y suena real?
Si bien los deepfakes de alta calidad pueden ser convincentes en videollamadas, todavía no son omnipresentes. La mayoría de los ataques de deepfakes en tiempo real requieren video o audio preexistente del objetivo, lo que los hace más probables en escenarios específicos (por ejemplo, suplantar a un director ejecutivo durante una crisis) que en encuentros aleatorios. Utilice métodos de verificación adicionales, como hacer preguntas inesperadas o solicitar una acción en vivo (por ejemplo, girar la cámara para mostrar los alrededores).
¿Existen herramientas que pueda usar para verificar si una imagen o video es un deepfake?
Hay varias herramientas gratuitas y de pago disponibles, incluidos Microsoft Video Authenticator, Deepware Scanner y herramientas de la Content Authenticity Initiative. Estas herramientas analizan artefactos visuales, metadatos y patrones de comportamiento para estimar la probabilidad de manipulación. Sin embargo, su precisión varía y son más confiables cuando se usan en combinación con el juicio humano.
¿Qué debo hacer si sospecho que he recibido un deepfake?
No comparta ni amplifique el contenido hasta que esté verificado. Documente los medios (captura de pantalla, guardar archivo, preservar metadatos), luego use múltiples métodos de verificación: búsqueda inversa de imágenes, análisis de metadatos y consulta con expertos en forense digital. Si el contenido implica consecuencias financieras o legales, repórtelo a la institución pertinente (por ejemplo, banco, empleador) y considere comunicarse con los equipos de ciberseguridad.
¿Cómo pueden las organizaciones capacitar a los empleados para detectar deepfakes de manera efectiva?
La capacitación eficaz debe ser continua, no de una sola vez, e incluir ejemplos del mundo real en diferentes tipos de deepfakes (por ejemplo, intercambio de rostros, clonación de voz, marionetas de cuerpo entero). Utilice ejercicios gamificados, cuestionarios periódicos y aprendizaje basado en escenarios. Combine la capacitación con claros protocolos de escalamiento para medios sospechosos e intégrela en los flujos de trabajo de verificación existentes. Evite la dependencia excesiva de la detección humana; combínela con un cribado automatizado y verificación criptográfica siempre que sea posible.
—
