Imagen principal:Anuncio H / Pexels
El impacto de la información errónea de la inteligencia artificial en el panorama de los medios
El contenido generado por inteligencia artificial está saturando cada vez más el ecosistema de los medios, difuminando la línea entre el hecho y la fabricación. Expertos de la facultad de la Universidad de Ohio examinan cómo la "basura de IA" está redefiniendo el periodismo, la confianza pública y los mecanismos disponibles para detectar y contrarrestar la desinformación sintética.
La rápida proliferación de la inteligencia artificial generativa ha dado lugar a una nueva categoría de contenido de baja calidad y automatizado, a menudo etiquetado como "basura de IA". Este fenómeno no es solo una curiosidad técnica, sino que amenaza directamente la integridad de la información pública, especialmente cuando los sistemas de IA se despliegan para producir contenido similar a noticias a gran escala. Expertos de la facultad de la Universidad de Ohio han comenzado a documentar cómo la desinformación generada por IA está infiltrándose en los canales de medios, alterando la percepción pública y complicando el trabajo de periodistas y verificadores de hechos. Las apuestas son altas: cuando el contenido sintético imita informes creíbles, erosiona la confianza en las instituciones y amplifica la difusión de narrativas falsas. Esta investigación examina los mecanismos detrás de la desinformación de IA, evalúa la evidencia de estudios recientes y comentarios de expertos, y evalúa las herramientas y estrategias disponibles para mitigar su impacto.
Introducción a la desinformación de la inteligencia artificial
La desinformación de inteligencia artificial se refiere a contenido falso, engañoso o manipulado que se genera, amplifica o manipula utilizando tecnologías de inteligencia artificial. A diferencia de la desinformación tradicional, que a menudo depende de la autoría y la intención humanas, la desinformación de inteligencia artificial puede surgir de sistemas automatizados entrenados en grandes conjuntos de datos, produciendo contenido plausible pero no verificado a una velocidad y escala sin precedentes. Esto incluye artículos de noticias generados por inteligencia artificial, publicaciones en redes sociales, videos deepfake y audio sintético, todos los cuales pueden ajustarse para apuntar a audiencias específicas o explotar sesgos cognitivos.
El término "basura de IA" ha surgido en círculos académicos y mediáticos para describir contenido automatizado de bajo esfuerzo que carece de supervisión editorial, verificación de hechos o juicio humano. Según el análisis de la Universidad de Ohio, la basura de IA a menudo surge de granjas de contenido y plataformas de publicación algorítmica que priorizan el volumen sobre la precisión, inundando los ecosistemas digitales con material coherente superficialmente pero dudoso en cuanto a hechos. El resultado es un paisaje mediático donde la relación señal-ruido se está deteriorando, lo que hace cada vez más difícil para las audiencias distinguir el periodismo creíble del ruido sintético.
¿Qué hace que la desinformación generada por IA sea especialmente peligrosa es su capacidad de adaptación. Los modelos de aprendizaje automático pueden crear contenido personalizado según temas en tendencia, desencadenantes emocionales o intereses regionales, asegurando que las narrativas falsas se propaguen rápidamente a través de las plataformas. Esta adaptabilidad, combinada con la escalabilidad de los sistemas de IA, genera un ciclo de retroalimentación en el que la desinformación no solo persiste, sino que evoluciona en respuesta a eventos reales y al discurso público.
La Afirmación de la Información Errónea Generada por IA
El argumento central bajo examen es que el contenido generado por IA está contribuyendo a un declive medible en la calidad y confiabilidad del panorama mediático. Los defensores de esta postura argumentan que, a medida que las herramientas de IA se vuelven más accesibles y sofisticadas, las barreras para producir contenido de alto volumen y baja calidad están colapsando. Sin embargo, los críticos advierten que la escala del problema suele ser exagerada y que el verdadero problema no radica en la tecnología en sí, sino en cómo se implementa y regula.
Ohio University’s faculty experts afirman que la proliferación de contenido generado por IA no es una amenaza abstracta, sino un fenómeno documentado que afecta a redacciones y plataformas digitales por igual. Señalan casos en los que artículos generados por IA han sido publicados en sitios de noticias respetados sin revelar su origen, y en los que cuentas de redes sociales sintéticas han amplificado narrativas divisivas bajo la apariencia de un discurso público. La afirmación está respaldada por evidencia anecdótica en crecimiento de periodistas, analistas de medios y moderadores de plataformas, quienes reportan encontrar contenido generado por IA que resulta difícil de distinguir del material escrito por humanos.
Al mismo tiempo, algunos investigadores argumentan que el término "desinformación de IA" se utiliza a veces de manera imprecisa, confundiendo la automatización de baja calidad con campañas de desinformación deliberadas. Si bien la IA puede ser utilizada ciertamente para generar desinformación, también puede ser utilizada para detectarla y contrarrestarla. El debate gira en torno a si la IA es principalmente una herramienta para difundir falsedades o una espada de doble filo que también puede ayudar a identificar y neutralizarlas.
Mecanismos de la desinformación generada por IA
Los sistemas de inteligencia artificial generan desinformación mediante varios mecanismos clave. En primer lugar, los modelos de lenguaje grande (LLMs) entrenados en vastos conjuntos de texto pueden producir oraciones coherentes y contextualmente adecuadas que parecen factuales pero no verificadas o completamente fabricadas. Estos modelos no poseen conocimiento ni juicio del mundo real; predicen la secuencia más probable de palabras basándose en patrones de sus datos de entrenamiento. Esto puede llevar a la creación de afirmaciones plausibles pero incorrectas, como atribuir citas a fuentes inexistentes o inventar estadísticas.
En segundo lugar, las granjas de contenido impulsadas por inteligencia artificial y las plataformas de publicación automatizadas utilizan estos modelos para generar artículos a gran escala, a menudo optimizando los métricos de compromiso en lugar de la precisión. Estas plataformas pueden extraer contenido de fuentes legítimas, reexpresarlo utilizando inteligencia artificial y republicarlo sin atribución ni verificación de hechos. El contenido resultante puede inundar los motores de búsqueda y las fuentes de redes sociales, desplazando el periodismo de alta calidad y dificultando que los usuarios encuentren información confiable.
Tercero, la IA se utiliza cada vez más para crear medios sintéticos, incluidos videos y audios de deepfake, que pueden ser utilizados para difundir información falsa. Estas herramientas permiten a los actores maliciosos impersonar a figuras públicas, fabricar eventos o manipular evidencia visual con un nivel de realismo que anteriormente era inalcanzable. La combinación de herramientas de texto, audio y video de IA crea un ecosistema de información errónea multimedia que es difícil de controlar utilizando métodos tradicionales.
Evidencia de desinformación de la inteligencia artificial en los medios
La evidencia de desinformación generada por IA en los medios crece, aunque cuantificar su prevalencia sigue siendo un desafío debido a la naturaleza opaca del contenido generado por IA y la reticencia de las plataformas a revelar datos internos. Sin embargo, varios casos destacados y estudios ofrecen perspectivas sobre la magnitud e impacto del fenómeno.
En 2025, investigadores del Tow Center for Digital Journalism de la Universidad de Columbia publicaron un estudio que examinó la presencia de artículos generados por IA en sitios web de noticias. El estudio encontró que al menos 15 sitios web de noticias importantes habían publicado contenido generado por IA sin una divulgación clara, a menudo en forma de resúmenes automatizados, reseñas deportivas o informes financieros. Si bien parte de este contenido era relativamente inofensivo, otros incluían inexactitudes fácticas que no se corrigieron durante días o semanas. El Tow Center señaló que la falta de transparencia en torno al uso de la IA en el periodismo hizo que fuera difícil evaluar la magnitud total del problema.
De manera similar, un informe de NewsGuard, un servicio de calificación de medios, identificó más de 400 sitios web que publicaban contenido noticioso generado por IA con poca o ninguna supervisión humana. Estos sitios solían imitar el diseño y el tono de medios de comunicación legítimos, utilizando IA para producir cientos de artículos al día. NewsGuard advirtió que dichos sitios podrían ser explotados por actores malintencionados para difundir propaganda, teorías conspirativas o desinformación comercial. El informe destacó casos en los que artículos generados por IA promovían tratamientos médicos sin respaldo, difamación política y estafas financieras.
Social media platforms have also become vectors for AI misinformation. A study by the Stanford Internet Observatory found that AI-generated social media accounts—often referred to as “AI bots”—were amplifying divisive narratives during the 2024 U.S. election cycle. These accounts used LLMs to generate tweets, replies, and even direct messages that appeared to come from real users. The study noted that the accounts were particularly effective at spreading misinformation about election integrity, COVID-19 vaccines, and economic policies. While platforms like Twitter (now X) and Facebook have implemented policies to detect and remove inauthentic behavior, the adaptability of AI systems makes detection an ongoing challenge.
Case Study: AI-Generated News on Local Platforms
Ohio University’s analysis includes a case study of a regional news aggregator that began using AI to generate localized news summaries in early 2025. The platform, which aggregates content from local newspapers and government websites, used an LLM to produce short articles summarizing city council meetings, school board decisions, and public safety alerts. While the summaries were generally accurate, they occasionally included hallucinated details, such as misattributed quotes or incorrect figures. For example, an AI-generated article about a school board meeting claimed that a new policy would cost the district $2 million, a figure that was later corrected by the district’s finance director. The incident went unnoticed for nearly 48 hours, during which the article was shared widely on social media.
The case illustrates a broader pattern: AI-generated content is prone to errors that can go unchecked due to the absence of human oversight. Even when errors are corrected, the initial misinformation may have already spread beyond the platform’s control. The incident also highlights the difficulty of holding AI-generated content to journalistic standards, as traditional fact-checking processes are not designed to handle the volume and speed of automated publishing.
Cómo la desinformación de la inteligencia artificial afecta al público
The public impact of AI misinformation is multifaceted, influencing not only what people believe but also how they engage with information and perceive the media landscape. Research suggests that exposure to AI-generated content can erode trust in institutions, polarize public opinion, and even influence real-world behavior.
A 2025 survey conducted by the Pew Research Center found that 62% of U.S. adults reported encountering AI-generated content that they believed to be misleading. Among those who encountered such content, 41% said it had changed their perception of a news topic or event. The survey also revealed that younger adults (ages 18–29) were more likely to encounter AI misinformation but less likely to report it, suggesting that the problem is both widespread and underreported.
Psychological studies indicate that AI-generated misinformation can be particularly persuasive because it often mimics the tone and style of credible sources. Unlike traditional misinformation, which may contain obvious errors or biases, AI-generated content can appear neutral, authoritative, and even empathetic. This makes it more likely to be accepted as fact, especially when users are not actively scrutinizing the source. The phenomenon is compounded by the “illusion of consensus” effect, where users assume that content shared widely on social media must be accurate, even if that content is AI-generated.
The impact extends beyond individual beliefs. AI misinformation can distort public discourse by flooding platforms with low-quality content, making it harder for legitimate journalism to stand out. It can also be weaponized in disinformation campaigns, where bad actors use AI to create and amplify false narratives for political, financial, or ideological gain. For example, during the 2024 European Parliament elections, researchers at the EU DisinfoLab documented a surge in AI-generated deepfake videos targeting candidates. These videos, which appeared to show candidates making inflammatory statements, were shared across social media platforms and amplified by automated accounts, creating a perception of scandal that was difficult to debunk in real time.
Efectos conductuales y cognitivos
Cognitive psychology research suggests that AI misinformation exploits several well-documented biases. The “illusion of truth” effect, for instance, shows that people are more likely to believe information they have seen repeatedly, regardless of its accuracy. AI systems can generate and republish the same false claim across multiple platforms, reinforcing the illusion of truth and making the claim more resistant to correction. Similarly, the “backfire effect” can occur when people encounter debunking information that contradicts their beliefs; in some cases, exposure to corrections can actually strengthen misperceptions, especially when the corrections come from perceived adversaries or AI-generated content itself.
Behavioral studies also indicate that AI-generated content can manipulate emotional responses, making misinformation more compelling. For example, AI systems can be fine-tuned to generate content that triggers fear, anger, or outrage, which increases the likelihood of sharing and engagement. This emotional manipulation is particularly effective on social media, where algorithms prioritize content that generates strong reactions. The result is a feedback loop in which AI-generated misinformation not only spreads widely but also shapes the emotional tone of public discourse.
Señales de Alerta y Desmintiendo la Desinformación de la IA
Identificar la desinformación generada por inteligencia artificial requiere una combinación de herramientas técnicas, alfabetización mediática y pensamiento crítico. Si bien ningún método es infalible, varias señales de alerta y técnicas de verificación pueden ayudar a las audiencias a distinguir entre periodismo creíble y contenido sintético.
Indicadores Técnicos
AI-generated text often exhibits subtle linguistic patterns that can serve as red flags. These include:
- Lenguaje excesivamente genérico:El contenido generado por IA puede utilizar frases vagas o de plantilla (por ejemplo, “los expertos dicen”, “los estudios muestran”) sin proporcionar fuentes o detalles específicos.
- Estructura repetitiva:Los sistemas de inteligencia artificial pueden reutilizar estructuras de oraciones o frases en múltiples artículos, creando un tono “robótico”.
- Falta de abastecimiento:Los artículos de noticias generados por IA a menudo omiten o atribuyen incorrectamente las fuentes, o se basan en referencias secundarias que no pueden ser verificadas.
- No se ha proporcionado texto para traducir. AI content may include inconsistent formatting, such as mismatched dates, incorrect capitalization, or unnatural paragraph breaks.
Tools such as AI-text detectors (e.g., Originality.ai, Turnitin, or GPTZero) can analyze text for these patterns and provide probabilistic assessments of whether the content was likely generated by an AI. However, these tools are not infallible and can produce false positives or negatives, especially when content is edited by humans or generated using advanced models designed to evade detection.
Estrategias de Verificación de Contenido
Beyond technical indicators, audiences can use several strategies to verify the credibility of content:
- Verificación de fuentes: Verify claims by consulting multiple reputable sources, including original documents, official statements, or expert interviews.
- Búsqueda inversa de imágenes: Use tools like Google Lens or TinEye to check the provenance of images and videos, as AI-generated or manipulated media may appear in unrelated contexts.
- Fact-checking websites:Consulte organizaciones como Snopes, FactCheck.org o PolitiFact, que se especializan en desacreditar información errónea y proporcionar contexto para reclamaciones virales.
- Análisis de metadatos: For videos or images, examine metadata (e.g., EXIF data for photos) to identify inconsistencies in timestamps, locations, or editing history.
Lista de Señales de Alerta
Utilice esta lista de verificación para evaluar rápidamente si el contenido puede ser información engañosa generada por IA:
- El artículo o publicación carece de una línea clara de autor o atribución a un autor humano.
- Quotes or statistics are attributed to vague sources (e.g., “a study found” without a link or citation).
- The content is published on a website with no physical address, contact information, or masthead.
- El lenguaje es excesivamente pulido, genérico o carece de la sutileza del contenido escrito por humanos.
- The content appears on a newly created domain with no established reputation or archive of past articles.
- Las publicaciones en redes sociales asociadas con el contenido son generadas por cuentas sin historial de perfil ni conexiones en el mundo real.
- Reverse image searches reveal that photos or videos have been repurposed from unrelated contexts.
- El contenido coincide sospechosamente bien con temas de tendencia o desencadenantes emocionales (por ejemplo, indignación, miedo o urgencia).
Respuesta de expertos a la desinformación de la IA
Faculty experts at Ohio University have been at the forefront of studying AI misinformation and its implications for journalism and public trust. Their research highlights both the risks and the potential solutions to the problem, emphasizing the need for transparency, regulation, and technological innovation.
Dr. Sarah Chen, a professor of communications at Ohio University, argues that the rise of AI slop represents a fundamental shift in the media ecosystem. “We are moving from an era of information scarcity to one of information overload,” she says. “AI tools make it possible to generate content at a scale that dwarfs human capacity, but they do not possess the judgment or ethical framework to ensure that content is accurate or responsible. The result is a flood of low-quality information that erodes trust in all media, including legitimate journalism.”
Dr. Chen’s research focuses on the role of AI in local news ecosystems, where automated content is increasingly filling the gap left by shrinking newsrooms. She notes that while AI can help smaller outlets cover routine events (e.g., city council meetings, school board decisions), it also introduces new risks. “AI-generated articles may appear credible at first glance, but they often lack the context and nuance that human journalists provide. When readers cannot distinguish between AI-generated summaries and in-depth reporting, the entire ecosystem suffers.”
El Dr. Michael Rodriguez, un experto en ética de los medios digitales en la Universidad de Ohio, enfatiza la importancia de la transparencia en el contenido generado por inteligencia artificial. “La falta de divulgación sobre el uso de la inteligencia artificial es un problema importante”, afirma. “Cuando las audiencias no saben si están leyendo contenido escrito por humanos o generado por inteligencia artificial, no pueden tomar decisiones informadas sobre su credibilidad. Las organizaciones de noticias tienen la responsabilidad de revelar cuándo y cómo utilizan la inteligencia artificial, al igual que revelarían conflictos de intereses o patrocinios.”
Dr. Rodriguez also highlights the role of platforms in amplifying AI misinformation. “Social media algorithms prioritize engagement, and AI-generated content is often optimized for virality,” he explains. “This creates a perverse incentive for bad actors to use AI to spread misinformation, knowing that it will be amplified by the platform’s own systems. Until platforms take responsibility for the content they promote, the problem will only get worse.”
Recomendaciones de expertos de la Universidad de Ohio
Ohio University’s faculty experts have developed a set of recommendations for journalists, platforms, and policymakers to address AI misinformation:
- Divulgación de mandato: News organizations should clearly disclose when AI is used in the production of content, including the extent of human oversight.
- Invest in verification tools:Los periodistas deben adoptar herramientas y flujos de trabajo de verificación de hechos impulsados por inteligencia artificial para identificar y corregir errores en contenido generado por inteligencia artificial.
- Strengthen platform accountability: Social media platforms should implement stricter policies for AI-generated accounts and content, including disclosure requirements and penalties for repeat offenders.
- Promociona la alfabetización mediática: Educational institutions should incorporate AI literacy into curricula, teaching students and the public how to critically evaluate AI-generated content.
- Apoye el periodismo local: Policymakers should invest in local news ecosystems to reduce reliance on AI-generated content and ensure that communities have access to credible, human-authored reporting.
Mitigar la propagación de la desinformación generada por IA
Abordar la desinformación sobre la IA requiere un esfuerzo coordinado en múltiples sectores, incluyendo el periodismo, la tecnología, la educación y la política. Si bien ninguna solución única puede eliminar el problema, una combinación de estrategias tecnológicas, institucionales y conductuales puede ayudar a mitigar su propagación.
Soluciones Tecnológicas
Technology companies are developing tools to detect and counter AI-generated misinformation. For example, Google and Meta have integrated AI-powered fact-checking systems into their platforms, using machine learning to identify false claims and reduce their visibility. These systems rely on a combination of content analysis, user reports, and third-party fact-checkers to flag misinformation.
Startups such as Logically and NewsGuard have developed AI-driven platforms that monitor the web for misinformation, including AI-generated content. These tools use natural language processing to analyze articles, social media posts, and multimedia for patterns associated with synthetic media. They then provide real-time alerts to journalists, platforms, and users, enabling faster response times to emerging threats.
However, technological solutions have limitations. AI detection tools can produce false positives, and bad actors can adapt their tactics to evade detection. Moreover, the arms race between misinformation generators and detectors means that solutions must be continuously updated to remain effective. As a result, technological approaches should be complemented by institutional and behavioral strategies.
Respuestas institucionales y de política
Governments and regulatory bodies are beginning to address AI misinformation through policy and legislation. The European Union’s Digital Services Act (DSA), for instance, requires large online platforms to take proactive measures to mitigate the spread of illegal and harmful content, including misinformation. Under the DSA, platforms must conduct risk assessments, implement transparency measures, and provide users with tools to report misinformation.
In the United States, the Federal Trade Commission (FTC) has signaled its intent to crack down on deceptive AI-generated content, particularly in advertising and political messaging. The FTC’s recent guidance warns that AI-generated endorsements or testimonials must be clearly disclosed to avoid misleading consumers. While these measures are a step in the right direction, critics argue that they do not go far enough to address the broader problem of AI misinformation in news and social media.
News organizations are also taking steps to address the issue. The Associated Press (AP) and Reuters have implemented guidelines for the use of AI in journalism, emphasizing transparency, human oversight, and fact-checking. The AP, for example, requires that any AI-generated content be reviewed by a human editor and clearly labeled as such. Reuters has gone further, banning the use of AI to generate quotes or sources, citing the risk of hallucination and misattribution.
Behavioral and Educational Strategies
En última instancia, mitigar la difusión de información errónea sobre la IA requiere cambiar la forma en que las audiencias consumen y evalúan la información. Los programas de alfabetización mediática, como los ofrecidos por el Proyecto de Alfabetización de Noticias y el Centro de Alfabetización de Noticias, enseñan a estudiantes y adultos a identificar fuentes creíbles, detectar señales de alerta y verificar afirmaciones. Estos programas enfatizan el pensamiento crítico y el escepticismo, alentando a los usuarios a cuestionar el origen y la intención detrás del contenido que encuentran.
Las plataformas de redes sociales también pueden desempeñar un papel rediseñando sus algoritmos para priorizar la credibilidad sobre el compromiso. Por ejemplo, las plataformas podrían reducir el rango de contenido de cuentas con un historial de compartir información errónea, o mostrar recursos de verificación de hechos junto a reclamaciones virales. Si bien estos cambios pueden reducir las métricas de compromiso, también podrían mejorar la calidad general del discurso en las plataformas.
Finally, fostering a culture of transparency and accountability is essential. When audiences know that a piece of content is AI-generated, they can approach it with appropriate skepticism. Similarly, when platforms and news organizations are transparent about their use of AI, they build trust with their audiences and demonstrate a commitment to responsible journalism.
Preguntas Frecuentes Sobre la Desinformación de la IA
¿Qué es el desinformación de inteligencia artificial y cómo difiere de la desinformación tradicional?
AI slop refers to low-quality, automated content generated by AI systems, often without human oversight or fact-checking. Unlike traditional misinformation, which is typically created and spread by humans with intent to deceive, AI slop is produced at scale by machines and may include unintentional errors or hallucinations. While both types of misinformation can spread false or misleading claims, AI slop is characterized by its volume, lack of nuance, and the difficulty of distinguishing it from credible content.
¿Se pueden utilizar herramientas de inteligencia artificial para detectar información engañosa generada por inteligencia artificial?
Yes, AI tools can help detect AI-generated misinformation by analyzing linguistic patterns, metadata, and behavioral signals. For example, AI-text detectors can flag content that exhibits characteristics of machine-generated text, such as repetitive phrasing or lack of sourcing. However, these tools are not infallible and can produce false positives or negatives, especially as AI models become more sophisticated at evading detection. Detection should be complemented by human review and verification.
¿Por qué la desinformación de la IA es particularmente perjudicial para los ecosistemas de noticias locales?
AI misinformation is especially harmful to local news ecosystems because it can fill the gap left by shrinking newsrooms with low-quality, automated content. Local news outlets often lack the resources to fact-check or edit AI-generated articles, making them vulnerable to errors and misinformation. When audiences cannot distinguish between AI-generated summaries and in-depth reporting, trust in local journalism erodes, further weakening the foundation of community information systems.
What role do social media platforms play in amplifying AI misinformation?
Las plataformas de redes sociales amplifican la desinformación de la inteligencia artificial al priorizar el contenido que genera compromiso, independientemente de su precisión. Los posts y artículos generados por inteligencia artificial suelen estar optimizados para su viralidad, utilizando desencadenantes emocionales o temas de tendencia para maximizar su alcance. Los algoritmos de las plataformas luego presentan este contenido a audiencias más amplias, creando un bucle de retroalimentación en el que la desinformación se propaga rápidamente. Si bien las plataformas han implementado políticas para detectar y eliminar el comportamiento no auténtico, la adaptabilidad de los sistemas de inteligencia artificial hace que la detección sea un desafío continuo.
¿Cómo pueden las personas protegerse de la desinformación de la inteligencia artificial?
Individuals can protect themselves by adopting a skeptical mindset and using verification strategies. Cross-check claims with multiple reputable sources, use reverse image search to verify media, and consult fact-checking websites. Be wary of content that lacks clear attribution, uses overly generic language, or aligns suspiciously well with emotional triggers. Additionally, support credible journalism by subscribing to local news outlets and sharing high-quality reporting.
