Imagen principal:Mathias Reding / Pexels
Soldados polacos de deepfake utilizados en la desinformación del Kremlin contra Ucrania
Los medios de comunicación estatales en Polonia informan que los videos generados por IA que pretenden mostrar a tropas polacas cometiendo atrocidades en Ucrania han aumentado en las plataformas sociales, amplificando una táctica del Kremlin en curso que explota narrativas de países aliados para fracturar el apoyo occidental a Kiev. La campaña subraya cómo la IA generativa está siendo utilizada como arma no solo en el campo de batalla, sino también en el ámbito de la información, donde el contenido fabricado puede propagarse más rápido de lo que puede ser verificado.
En julio de 2026, la televisora estatal polaca TVP World informó que deepfakes de soldados polacos supuestamente participando en crímenes de guerra en Ucrania habían aparecido en múltiples plataformas de redes sociales y aplicaciones de mensajería, incluyendo Telegram y X. El informe describió los videos como parte de una campaña de desinformación más amplia destinada a socavar el apoyo político y militar de Polonia a Ucrania. Aunque esta afirmación en particular proviene de una sola fuente, el patrón que describe coincide con tendencias documentadas en desinformación habilitada por IA durante la guerra entre Rusia y Ucrania, donde se ha utilizado contenido fabricado para erosionar la confianza en los aliados, provocar disturbios internos y justificar cambios en las narrativas geopolíticas. Esta síntesis examina el informe de TVP World junto con evidencia más amplia de comunidades de inteligencia de fuentes abiertas (OSINT) e investigadores independientes de desinformación para evaluar la credibilidad, el mecanismo y el impacto potencial de dichas campañas.
Introducción: El auge de la desinformación generada por IA en la guerra de Ucrania
Desde la invasión a gran escala de Rusia en 2022, la desinformación ha evolucionado de propaganda burda a contenido altamente sofisticado, generado por IA y diseñado para manipular la percepción pública en tiempo real. Analistas de inteligencia de código abierto (OSINT) y equipos de forense digital han documentado el uso de audio, video y texto sintéticos para suplantar a líderes mundiales, escenificar ataques de bandera falsa y fabricar eventos en el campo de batalla. Estas operaciones no son incidentes aislados, sino parte de un ecosistema coordinado que incluye actores estatales, grupos proxy y redes de comportamiento inauténtico coordinado.
Polonia, un aliado clave de la OTAN y uno de los mayores apoyos militares de Ucrania, se ha convertido en un objetivo frecuente de este tipo de campañas. Antes del aumento reportado de deepfakes, las autoridades polacas y los investigadores independientes ya habían advertido sobre la desinformación coordinada destinada a socavar la confianza pública en la ayuda a Ucrania e inflamar las tensiones políticas internas. La aparición de contenido generado por IA dirigido a soldados polacos refleja una escalada estratégica: al fabricar pruebas de mala conducta aliada, los adversarios pueden explotar divisiones sociales existentes y reducir la cohesión occidental en un momento en que el apoyo sostenido a Ucrania es fundamental para su defensa.
¿Qué informan los Informes Mundiales de TVP: Deepfakes de soldados polacos como un nuevo frente
Según TVP World, a mediados de julio de 2026 comenzaron a circular videos deepfake que mostraban a soldados polacos con uniformes ucranianos supuestamente cometiendo crímenes de guerra, como el asesinato de civiles y el saqueo. El medio describió los videos como “altamente realistas” y señaló que se estaban compartiendo en canales de Telegram vinculados a narrativas pro-Kremlin. TVP World también informó que las agencias militares y de ciberseguridad de Polonia estaban investigando el origen del contenido y habían identificado patrones consistentes con la infraestructura conocida de desinformación rusa.
The report destacó la velocidad a la que se difundieron los videos, señalando que algunos habían alcanzado miles de visualizaciones en cuestión de horas antes de ser marcados por los moderadores de la plataforma. TVP World citó a funcionarios polacos que afirmaron que la campaña parecía diseñada para provocar indignación en Polonia y desalentar la prestación de más ayuda militar o humanitaria a Ucrania. Aunque el artículo no proporcionó detalles técnicos sobre cómo se crearon o difundieron los deepfakes, lo situó en un contexto más amplio de operaciones de información rusas dirigidas a Polonia, que incluyen ciberataques y campañas de hackeo y filtración.
Comparando Outlets: Cómo esta historia se ajusta a patrones más amplios de desinformación
Mientras que TVP World es la principal fuente de la afirmación específica sobre deepfakes de soldados polacos, investigadores independientes de OSINT y equipos de forense digital han documentado patrones similares en otros contextos. Por ejemplo, en 2024, el Laboratorio de Investigación Forense Digital (DFRLab) del Atlantic Council identificó videos generados por IA que pretendían mostrar a soldados ucranianos ejecutando prisioneros rusos, los cuales fueron rastreados hasta redes de influencia vinculadas a Rusia. De manera similar, Bellingcat ha seguido campañas en las que se distribuyó audio fabricado de líderes europeos pidiendo reducir el apoyo a Ucrania a través de redes sociales y aplicaciones de mensajería.
Estos casos sugieren que el uso de deepfakes para dirigirse a naciones aliadas no es una táctica aislada, sino un método escalable dentro de un manual de operaciones ruso más amplio. A diferencia de la propaganda tradicional, que depende de mensajes abiertos de los medios estatales, estas operaciones suelen emplear cuentas falsas, redes de bots y plataformas cifradas para amplificar el contenido antes de que pueda ser desmentido. El informe de TVP World se alinea con este patrón, lo que indica que los adversarios están aprovechando cada vez más la IA generativa para crear narrativas plausibles pero falsas que explotan las líneas divisorias emocionales y políticas.
Convergencia a través de fuentes independientes
Aunque ninguna otra gran cadena internacional ha verificado de manera independiente los vídeos deepfake específicos descritos por TVP World hasta la fecha de esta publicación, múltiples comunidades de OSINT han corroborado el mecanismo más amplio. El DFRLab y Bellingcat han documentado ambos el uso de contenido generado por IA para incriminar a las fuerzas ucranianas o a las tropas aliadas en contextos falsos. Estas organizaciones se basan en análisis técnicos —como la extracción de metadatos, inconsistencias en el reconocimiento facial y análisis de patrones lingüísticos— para identificar medios sintéticos. Sus hallazgos respaldan la plausibilidad del informe de TVP World, incluso si el caso específico sigue sin ser verificado por verificadores de hechos de terceros.
Además, agencias gubernamentales polacas, incluidas la Agencia de Seguridad Interna (ABW) y el Servicio de Contraespionaje Militar (SKW), han advertido públicamente sobre la amenaza de la desinformación facilitada por IA dirigida a Polonia. En un informe de 2025, la ABW destacó el uso de deepfakes en operaciones de influencia cuyo objetivo es desestabilizar la confianza pública en las instituciones estatales y los compromisos con la OTAN. Estas advertencias institucionales aportan contexto adicional al informe de TVP World, lo que sugiere que la campaña descrita es coherente con modelos de amenaza conocidos.
El Mecanismo: Cómo se Crean y Despliegan los Deepfakes en la Guerra
Las herramientas de IA generativa ahora permiten la creación rápida de videos y audios hiperrealistas que pueden imitar a personas reales en contextos específicos. En el caso de los deepfakes dirigidos a soldados polacos, el proceso probablemente incluyó varios pasos: primero, la recopilación de material audiovisual públicamente disponible de tropas polacas (por ejemplo, de ejercicios de entrenamiento, eventos públicos o archivos de noticias); segundo, el uso de modelos de IA para mapear expresiones faciales, patrones de voz y movimientos corporales en los individuos objetivo; y tercero, la inserción del contenido fabricado en escenarios realistas, como entornos de batalla o urbanos.
Una vez creados, estos videos se difunden a través de una red estratificada de cuentas diseñadas para parecer orgánicas. Esto suele incluir bots automatizados en X (antes Twitter), canales de Telegram con gran número de seguidores y grupos coordinados en Facebook y VKontakte. El objetivo es sembrar el contenido en varios idiomas y regiones para maximizar el alcance y la credibilidad. En algunos casos, los videos se "filtran" más tarde a medios de comunicación tradicionales o a influencers, ampliando aún más su impacto.
Indicadores Técnicos de Medios Sintéticos
Expertos en informática forense señalan varias señales de alerta que distinguen los *deepfakes* de material auténtico. Entre ellas se incluyen patrones de parpadeo antinaturales, iluminación o sombras inconsistentes, distorsiones leves en los bordes de los rostros y audios que carecen de ruido ambiental o que no coinciden bien con los movimientos labiales. En el caso de los supuestos *deepfakes* del soldado polaco, los analistas de OSINT probablemente examinarían los metadatos en busca de indicios de software de edición, analizarían las microexpresiones faciales para detectar inconsistencias y contrastarían las huellas vocales con grabaciones conocidas de soldados polacos. Cualquier discrepancia en estos aspectos indicaría una fabricación sintética.
Además, el contexto en el que se presenta el vídeo puede revelar su naturaleza artificial. Por ejemplo, si un vídeo afirma mostrar a soldados polacos en un pueblo ucraniano específico en una fecha concreta, se pueden utilizar herramientas de geolocalización (como imágenes por satélite o archivos de vistas callejeras) para verificar si la ubicación declarada coincide con el contenido visual. Si se encuentran discrepancias, es probable que el vídeo sea falso.
Evidencia y Atribución: ¿Quién está detrás de la campaña y por qué
Mientras que TVP World atribuye la campaña de deepfakes a actores vinculados al Kremlin, no proporciona pruebas forenses directas que vinculen los videos con una entidad estatal específica. Sin embargo, el informe sitúa la operación dentro de un patrón de desinformación rusa bien documentado. Desde 2014, Rusia ha utilizado una combinación de medios estatales (por ejemplo, RT, Sputnik), sitios web proxy, granjas de trolls en redes sociales y cuentas hackeadas para difundir narrativas que justifiquen sus acciones en Ucrania y debiliten la unidad occidental.
Investigadores independientes han rastreado campañas similares hasta unidades de inteligencia militar rusa (GRU), como la Unidad 29155, vinculada a ciberataques y operaciones de influencia encubierta en toda Europa. El DFRLab ha documentado redes vinculadas a la GRU amplificando contenido generado por IA en Polonia, los países bálticos y Alemania, a menudo sincronizadas para coincidir con eventos políticos o militares. Estas operaciones suelen estar diseñadas para explotar divisiones sociales existentes, como el escepticismo hacia la inmigración o la expansión de la OTAN, y para erosionar la confianza en las instituciones democráticas.
¿Por qué Polonia?
Polonia es un objetivo de alto valor para este tipo de operaciones por varias razones. En primer lugar, es uno de los mayores apoyos de Ucrania, proporcionando ayuda militar, acogiendo refugiados y abogando por compromisos más fuertes de la OTAN. En segundo lugar, Polonia ha experimentado una polarización política en los últimos años, con debates sobre la integración en la UE, reformas judiciales y políticas migratorias que crean un terreno fértil para narrativas divisivas. En tercer lugar, la proximidad de Polonia a Ucrania y su papel como centro de tránsito la convierten en un punto estratégico para la difusión de desinformación.
Al fabricar pruebas de que soldados polacos cometieron atrocidades, los adversarios pueden explotar estas tensiones para provocar indignación pública, avivar el sentimiento antiucraniano y presionar al gobierno para que reduzca el apoyo a Kiev. El impacto psicológico de este tipo de contenido —incluso cuando se desmiente— puede persistir, creando una "ventaja del mentiroso", donde las atrocidades reales se descartan como "otro deepfake más".
Impacto en Ucrania y la OTAN: Erosión de la Confianza y Alimentación de la División
El objetivo principal de estas campañas de desinformación no es necesariamente convencer a las audiencias de una falsedad específica, sino generar duda, confusión y fatiga. Cuando el contenido fabricado circula junto a informes auténticos sobre crímenes de guerra, se vuelve más difícil para el público distinguir la verdad de la ficción. Esta erosión de la confianza debilita la cohesión de la OTAN y la UE, ambas fundamentales para la defensa de Ucrania.
En Polonia, la difusión de este tipo de contenido ya ha contribuido a tensiones políticas. Figuras de la oposición y teóricos de la conspiración han citado los deepfakes como prueba de la complicidad del gobierno en crímenes de guerra, mientras que las voces progubernamentales han acusado a los críticos de ser "idiotas útiles" al servicio de la desinformación extranjera. Esta dinámica polarizante refleja tendencias similares en otros países de la OTAN, donde el contenido generado por IA ha avivado debates sobre inmigración, políticas climáticas y ayuda exterior.
Implicaciones más amplias de la OTAN
La doctrina de defensa colectiva de la OTAN se basa en la confianza mutua y la conciencia situacional compartida. Cuando las campañas de desinformación apuntan a Estados miembros individuales, socavan la capacidad de la alianza para responder de manera cohesionada a las amenazas. Por ejemplo, si los ciudadanos polacos comienzan a cuestionar si sus tropas están operando realmente en Ucrania, el apoyo público a la ayuda militar continuada podría debilitarse. De manera similar, si las audiencias alemanas o francesas están expuestas a contenido fabricado que sugiere que sus gobiernos están ayudando en secreto a la agresión rusa, la presión política para reducir las sanciones o los envíos de armas podría intensificarse.
Estos riesgos no son teóricos. En 2023, un audio deepfake del presidente ucraniano Volodímir Zelenski pidiendo la rendición se volvió viral en las redes sociales, lo que provocó respuestas de emergencia por parte de las autoridades ucranianas y moderadores de plataformas. Aunque el clip fue rápidamente desmentido, demostró cómo el contenido generado por IA puede alterar la toma de decisiones en tiempo real.
Banderas Rojas y Lista de Verificación para Desacreditar: Cómo Detectar Estos Deepfakes
Identificar deepfakes requiere una combinación de análisis técnico y conciencia contextual. A continuación, encontrarán una lista de verificación práctica para periodistas, investigadores y el público en general, con el fin de evaluar la autenticidad de videos o audios que afirman mostrar a personal militar o eventos de combate.
- Expresiones faciales microinconsistentesLos deepfakes suelen fallar al replicar parpadeos naturales, movimientos de cejas o formas de la boca. Busca pausas o distorsiones antinaturales alrededor de los ojos y los labios.
- Desequilibrio Audio-Vídeo:El audio debe coincidir exactamente con los movimientos de los labios. Si la voz suena robótica o las palabras no se alinean con la boca del hablante, es probable que el contenido sea sintético.
- Iluminación y sombras antinaturales:El video generado por IA puede tener una iluminación inconsistente, especialmente alrededor de los bordes del rostro o en el fondo. Compara la iluminación con metraje auténtico conocido del mismo lugar.
- Metadatos Anomalías:Utilice herramientas como Exif Viewer o software forense para buscar signos de edición (por ejemplo, marcas de tiempo, trazas de software). Los deepfakes a menudo carecen de ruido ambiental o tienen metadatos que sugieren un procesamiento pesado posterior.
- Inconsistencias ContextualesVerifique la ubicación, fecha y evento reclamados utilizando herramientas de geolocalización (por ejemplo, Google Earth, Wikimapia) y reportes de noticias archivadas. Si el video afirma mostrar un evento que nunca ocurrió en esa ubicación, es probable que esté fabricado.
- Confiabilidad de la fuenteVerifica el origen del video. ¿Proviene de un medio de comunicación verificado, una cuenta oficial de gobierno o un usuario anónimo de redes sociales? Desconfía de contenido que se origine en centros conocidos de desinformación o cuentas con antecedentes de difundir narrativas falsas.
- Bandera Roja de Comportamiento:¿El orador o el sujeto actúa de manera que contradice un comportamiento conocido? Por ejemplo, si un video afirma mostrar a soldados polacos en combate pero llevan uniformes de un ejercicio de entrenamiento, el contenido probablemente sea falso.
Respuestas de Expertos e Institucionales: Lo que Dicen los Analistas y los Gobiernos
Las autoridades polacas han respondido con cautela pero firmeza a la campaña de deepfakes reportada. La Agencia de Seguridad Interior (ABW) declaró que estaba investigando el origen de los videos y colaborando con plataformas de redes sociales para eliminar contenido no auténtico. La agencia también instó al público a verificar la información a través de canales oficiales antes de compartirla.
En el ámbito de la OTAN, los funcionarios han reconocido la creciente amenaza de la desinformación habilitada por IA, pero aún no han anunciado medidas específicas para contrarrestarlas. En un informe de 2025, el Centro de Excelencia en Comunicación Estratégica de la OTAN en Riga destacó la necesidad de mejorar las herramientas de detección, campañas de concienciación pública y cooperación internacional para combatir los medios sintéticos. El informe advirtió que es probable que los adversarios intensifiquen el uso de la IA en la desinformación, convirtiéndola en un desafío persistente para los miembros de la alianza.
Analistas Independientes Opinan
Expertos en forense digital del DFRLab del Atlantic Council han destacado que, aunque los deepfakes están volviéndose más sofisticados, aún no son infalibles. “La tecnología está mejorando, pero las inconsistencias en la iluminación, los movimientos faciales y el audio aún delatan la mayoría de los deepfakes”, declaró un investigador del DFRLab. “El mayor desafío es la velocidad con la que estos videos se difunden y la dificultad para desmentirlos antes de que se vuelvan virales.”
Bellingcat’s Christo Grozev, conocido por su trabajo sobre el envenenamiento de Sergei Skripal y la caída del MH17, ha señalado que el contenido generado por IA suele formar parte de una campaña más amplia que incluye datos hackeados, documentos falsificados y una amplificación coordinada en redes sociales. “Los deepfakes son solo una herramienta en un kit más amplio”, dijo Grozev. “Para entender el panorama completo, hay que analizar todo el ecosistema de desinformación.”
Análisis original: La escalada de la IA en la guerra de información moderna
Juntos, el informe de TVP World y las pruebas corroborantes de investigadores independientes de OSINT sugieren que la desinformación generada por IA ha entrado en una nueva fase en la guerra de Rusia-Ucrania. Ya no limitada a propaganda burda o narrativas de medios estatales, los adversarios ahora utilizan IA generativa para crear contenido altamente realista y específico del contexto, diseñado para explotar divisiones políticas y sociales en países aliados. El uso de deepfakes dirigidos a soldados polacos no es un caso aislado, sino una táctica escalable que puede adaptarse a otros miembros de la OTAN, incluyendo los países bálticos, Alemania y Estados Unidos.
Esta escalación refleja un cambio más amplio en la guerra de la información, donde el objetivo ya no es solo difundir una falsedad específica, sino crear un estado de incertidumbre persistente. En un entorno así, incluso las afirmaciones desmentidas pueden tener efectos duraderos, ya que las audiencias se vuelven cada vez más escépticas ante toda la información. La "ganancia del mentiroso" permite a los adversarios descartar pruebas reales de crímenes de guerra o agresiones como "otro deepfake más", lo que complica aún más los esfuerzos por responsabilizar a los perpetradores.
Además, la democratización de las herramientas de IA generativa significa que actores estatales más pequeños, grupos no estatales e incluso individuos pueden ahora producir desinformación sofisticada a gran escala. Esto reduce la barrera de entrada para operaciones de influencia y aumenta el riesgo de campañas de desinformación en cascada que podrían desestabilizar regiones enteras. La respuesta de la comunidad internacional —que abarca desde políticas de moderación en plataformas hasta marcos legales— ha quedado hasta ahora rezagada frente a la curva tecnológica, dejando un vacío peligroso que los adversarios aprovechan con rapidez.
Finalmente, el caso de deepfake polaco subraya la importancia de la resiliencia en las sociedades democráticas. Si bien la tecnología puede emplearse para engañar, también puede utilizarse para detectar y contrarrestar el fraude. El desarrollo de herramientas forenses de código abierto, la colaboración entre verificadores de hechos en distintas plataformas y las iniciativas de alfabetización mediática pública son fundamentales para mitigar el impacto de la desinformación generada por IA. Sin estas medidas, la instrumentalización de los medios sintéticos no solo amenaza la integridad de los ecosistemas de información, sino también la estabilidad de las propias instituciones democráticas.
¿Qué se debe hacer: Respuestas en políticas, tecnología y concienciación pública
Abordar la amenaza de la desinformación generada por IA requiere una respuesta en múltiples niveles que involucre a gobiernos, plataformas tecnológicas, la sociedad civil y al público. A continuación, se presentan las áreas clave para la acción:
Política y Regulación
Los gobiernos deben fortalecer los marcos legales para responsabilizar a los creadores y amplificadores de desinformación sintética, especialmente cuando el contenido está diseñado para incitar a la violencia, socavar procesos democráticos o interferir en conflictos extranjeros. El Reglamento de Servicios Digitales (DSA) y el Reglamento de Inteligencia Artificial (AI Act) de la Unión Europea sientan las bases para regular el contenido generado por IA, aunque su aplicación sigue siendo desigual. Los miembros de la OTAN también podrían considerar la creación de una fuerza de tarea conjunta para investigar y atribuir campañas de desinformación con IA, similar a las iniciativas de defensa cibernética de la alianza.
Además, los gobiernos deberían invertir en agencias nacionales de ciberseguridad e integridad de la información, asegurando que cuenten con la experiencia técnica y los recursos necesarios para detectar y responder a campañas de deepfakes en tiempo real. Las alianzas público-privadas con plataformas de redes sociales y empresas de ciberseguridad podrían acelerar el desarrollo de herramientas de detección y el intercambio de inteligencia sobre amenazas.
Tecnología y Responsabilidad de la Plataforma
Las plataformas de redes sociales deben priorizar la detección y eliminación de medios sintéticos que representen una amenaza clara e inmediata, como contenido diseñado para incitar a la violencia o interferir en elecciones. Aunque las plataformas han avanzado en etiquetar el contenido generado por IA, la aplicación de estas medidas sigue siendo inconsistente, especialmente en aplicaciones de mensajería cifrada como Telegram, donde circula gran parte del contenido de *deepfakes*.
Las empresas de tecnología también deberían invertir en herramientas de marca de agua y de procedencia que permitan a los usuarios verificar la autenticidad de contenido de video y audio. Proyectos como las Credenciales de Contenido de Adobe y la Coalición para la Proveniencia y Autenticidad de Contenido (C2PA) son pasos en la dirección correcta, pero su adopción sigue siendo limitada. Las plataformas deberían integrar estas herramientas en sus flujos de trabajo de carga y compartición para hacer que la verificación sea fluida para los usuarios.
Concienciación Pública y Alfabetización Mediática
Las campañas de concienciación pública son esenciales para reducir el impacto de los deepfakes. Los gobiernos y las organizaciones de la sociedad civil deben colaborar para educar a los ciudadanos sobre cómo identificar medios sintéticos, verificar fuentes y evaluar críticamente el contenido en línea. Las escuelas, universidades y centros comunitarios pueden desempeñar un papel en la enseñanza de la alfabetización mediática, mientras que los anuncios de servicio público pueden llegar a audiencias más amplias.
Periodistas y verificadores de hechos también deben adaptarse a la era de la IA adoptando estándares rigurosos de verificación y colaborando a través de fronteras para desmentir rápidamente la desinformación. El uso de búsqueda inversa de imágenes, análisis de metadatos y consulta con expertos debería convertirse en una práctica estándar al informar sobre contenido relacionado con conflictos.
Preguntas frecuentes: Deepfakes, desinformación y el conflicto en Ucrania
¿Cómo puedo saber si un vídeo de soldados polacos en Ucrania es real o un deepfake?
Comience verificando inconsistencias en las expresiones faciales, la iluminación y el audio. Utilice herramientas como InVID o Google Reverse Image Search para verificar el origen del video. Correlacione la ubicación y la fecha declaradas con informes de noticias archivadas o imágenes satelitales. Si el video proviene de una cuenta anónima o un centro conocido de desinformación, trátelo con extrema precaución. En caso de duda, consulte fuentes oficiales u organizaciones de verificación de hechos.
¿Quién está detrás de la campaña de deepfake dirigida a Polonia?
Mientras que el informe TVP World atribuye la campaña a actores vinculados al Kremlin, no se ha hecho público evidencia forense directa que vincule los videos con una entidad estatal específica. Investigadores independientes han documentado campañas similares a la inteligencia militar rusa (GRU) y redes de intermediarios, pero la atribución suele requerir análisis técnicos y fuentes de inteligencia que no están disponibles públicamente.
¿Por qué Rusia usaría deepfakes de soldados polacos en lugar de enfocarse en Ucrania?
La estrategia de desinformación de Rusia está diseñada para erosionar la unidad occidental y el apoyo público a Ucrania. Al fabricar contenido que apunta a países aliados como Polonia, los adversarios pueden explotar divisiones políticas existentes, provocar disturbios internos y presionar a los gobiernos para que reduzcan la ayuda a Ucrania. El objetivo no es necesariamente convencer a las audiencias de una falsedad específica, sino crear dudas y confusión que debiliten la cohesión de la OTAN.
¿Qué pueden hacer las plataformas de redes sociales para detener la propagación de los *deepfakes*?
Las plataformas pueden priorizar la detección y eliminación de medios sintéticos que representen una amenaza clara, como contenido diseñado para incitar a la violencia o interferir en elecciones. Deberían integrar herramientas de procedencia como Credenciales de Contenido para permitir a los usuarios verificar la autenticidad de videos y audios. Además, las plataformas deben colaborar con verificadores de hechos e investigadores para mejorar los algoritmos de detección y compartir inteligencia sobre amenazas.
¿Existen leyes que penalicen la creación o difusión de *deepfakes* en este contexto?
El panorama legal varía según el país. En la Unión Europea, el Reglamento de Servicios Digitales (DSA) y el Reglamento de Inteligencia Artificial (AI Act) establecen marcos para regular el contenido generado por IA, incluidos los deepfakes. Algunos países cuentan con leyes específicas que penalizan la creación o difusión de medios sintéticos diseñados para incitar a la violencia o interferir en elecciones. No obstante, la aplicación de estas normas es desigual y muchas jurisdicciones carecen de legislación clara que aborde la desinformación generada por IA.