Imagem principal:Tara Winstead / Pexels
Coreia do Sul alerta para golpes de anúncios com deepfakes de IA que visam consumidores
A chefe de proteção ao consumidor da Coreia do Sul soou o alarme sobre anúncios gerados por IA que utilizam sem consentimento a imagem de celebridades, o que levou a pedidos de ação legal e maior fiscalização diante do aumento de campanhas online enganosas.
No final de agosto de 2026, a autoridade sul-coreana de defesa do consumidor, Lee Ji-hye, alertou publicamente que anúncios com *deepfakes* de IA estão sendo usados para enganar consumidores, ao se passarem por figuras conhecidas em endossos que nunca fizeram. Esse alerta surge em um momento em que ferramentas de personificação digital se tornam mais acessíveis e sofisticadas, levantando preocupações com fraudes, danos à reputação e a erosão da confiança pública na publicidade. Este relatório sintetiza informações disponíveis para avaliar a extensão do problema, os mecanismos de uso indevido e a adequação das respostas legais e regulatórias atuais.
A crise de deepfakes na Coreia do Sul: o que o alerta de Lee Ji-hye revela
A paisagem de proteção ao consumidor da Coreia do Sul está enfrentando uma ameaça de rápida evolução: anúncios gerados por IA que utilizam vozes, rostos e personas de celebridades e figuras públicas sem seu consentimento. O alerta emitido por Lee Ji-hye, chefe do escritório de assuntos do consumidor do país, destaca um padrão crescente em que golpistas usam IA generativa para criar endossos realistas, promoções de produtos e anúncios de serviço público que parecem vir de pessoas confiáveis. Esses anúncios deepfake são então distribuídos em redes sociais, plataformas de mensagens e até mesmo em redes de publicidade legítimas, aproveitando a credibilidade de figuras conhecidas para enganar consumidores a fazer compras, compartilhar dados ou transferências financeiras.
Enquanto o fenômeno não é exclusivo da Coreia do Sul, a avançada infraestrutura digital do país, a alta penetração de mídias sociais e a forte cultura de celebridades tornam o país particularmente vulnerável. A magnitude do problema continua difícil de quantificar devido à natureza efêmera e muitas vezes transnacional da publicidade digital, mas o alerta oficial sinaliza que o problema atingiu um patamar que exige atenção imediata de reguladores, plataformas e autoridades policiais.
Quais as Lojas Estão Relatando: Um Instantâneo de Fonte Única e Suas Limitações
Até esta publicação, reportagens investigativas detalhadas e abrangentes sobre o aviso de Lee Ji-hye permanecem limitadas na imprensa em língua inglesa. A principal fonte de informação éChosun Ilbo, um grande jornal sul-coreano, que publicou uma reportagem em 30 de agosto de 2026, detalhando o apelo do chefe de assuntos do consumidor por ações legais contra os criadores e distribuidores de anúncios de deepfake com IA. O artigo enfatiza a urgência do problema e a falta de ferramentas legais existentes para abordá-lo de forma eficaz.
Notavelmente, nenhum outro grande meio internacional ou nacional publicou ainda relatórios corroborativos, matérias investigativas ou análises baseadas em dados sobre a escala ou os mecanismos dessas fraudes. Essa cobertura limitada restringe a capacidade de verificar independentemente as alegações ou avaliar seu contexto mais amplo. No entanto, a reportagem do Chosun Ilbo fornece um relato fundamental sobre o alerta, as lacunas legais identificadas e as soluções propostas, que esta síntese utiliza como ponto de partida para a análise.
O que o Chosun Ilbo relata
De acordo comChosun Ilbo, Lee Ji-hye instou o governo a classificar anúncios de deepfake por IA como uma forma de “representação fraudulenta”, uma categoria legal que poderia acarretar penalidades para criadores e plataformas que não removerem tal conteúdo prontamente. O artigo observa que as leis atuais não abordam explicitamente as personificações geradas por IA em publicidade, deixando os consumidores com recursos limitados ao se depararem com endossos enganosos. A chefe de assuntos do consumidor é citada dizendo que a proliferação desses anúncios ameaça minar a confiança pública tanto na publicidade digital quanto nos celebridades cujas semelhanças estão sendo exploradas.
Chosun Ilbotambém relata que o governo está considerando emendas à Lei de Proteção ao Consumidor no Comércio Eletrônico e à Lei-Quadro das Telecomunicações, que poderiam introduzir obrigações para as plataformas detectarem e removerem anúncios com deepfakes dentro de um prazo especificado. O artigo sugere que, sem tais medidas, o problema provavelmente se agravará à medida que as ferramentas de IA se tornarem mais acessíveis e realistas.
A Alegação: Anúncios Gerados por IA Usando Semelhança de Celebridades Sem Consentimento
A reivindicação central apresentada por Lee Ji-hye e divulgada porChosun Ilboé que anúncios gerados por IA estão sendo criados usando as vozes, rostos e personas de celebridades e figuras públicas sem a sua autorização. Esses anúncios são projetados para parecer autênticos, muitas vezes imitando o tom, estilo e identidade visual do indivíduo personificado. O objetivo, segundo o alerta, é enganar os consumidores, fazendo-os acreditar que a celebridade endossa um produto, serviço ou campanha quando nenhuma dessas endossos existe.
A alegação implica um duplo dano: exploração financeira dos consumidores e prejuízo à reputação dos indivíduos impersonados. Ao aproveitar a confiança associada a figuras conhecidas, os golpistas podem aumentar a probabilidade de engajamento, cliques e conversões, mesmo quando a oferta subjacente é fraudulenta ou enganosa. O uso de IA para gerar esses anúncios em escala sugere um problema sistêmico, em vez de incidentes isolados, com potencial de rápida proliferação em ecossistemas digitais.
O que as evidências realmente mostram: padrão de uso indevido e lacunas legais
Enquanto a reportagem do Chosun Ilbo fornece o relato mais detalhado sobre o aviso, ela não apresenta evidências sistemáticas como números de casos quantificados, dados específicos da plataforma ou tendências longitudinais. No entanto, delineia um padrão claro: o uso indevido de IA para gerar endossos que são então distribuídos por canais online onde a supervisão é inconsistente. A ausência de proibições legais explícitas contra publicidade com deepfake de IA no atual arcabouço regulatório da Coreia do Sul representa uma lacuna crítica, conforme destacado pelo chefe de assuntos do consumidor.
Esta lacuna legal não é exclusiva da Coreia do Sul. Internacionalmente, as leis que regulamentam a impersonificação digital e os deepfakes geralmente são fragmentadas, com algumas jurisdições abordando a questão por meio de estatutos de privacidade, fraude ou difamação, enquanto outras não possuem disposições claras. A reportagem do Chosun Ilbo sugere que a Coreia do Sul está em um ponto crucial, com os legisladores agora considerando tratar anúncios com deepfakes de IA como uma categoria distinta de dano ao consumidor que requer intervenção direcionada.
Mecanismos de Uso Indevido
De acordo comChosun Ilbo, o processo geralmente começa com a coleta de dados publicamente disponíveis — como entrevistas, discursos ou publicações em redes sociais — a partir dos quais os modelos de IA extraem padrões para gerar novos conteúdos. Esses modelos podem então produzir clipes de áudio ou vídeo que se assemelham de perto à voz ou aparência do indivíduo-alvo. Os golpistas inserem esses clipes gerados em anúncios que são distribuídos por meio de plataformas de mídia social, aplicativos de mensagens e até campanhas de e-mail. Os anúncios costumam incluir chamadas para ação como “ofertas por tempo limitado”, “promoções exclusivas” ou “alertas urgentes”, projetadas para pressionar os consumidores a responder rapidamente.
O relatório não especifica as plataformas mais afetadas, mas sugere que redes sociais com grandes bases de usuários e amplificação algorítmica são os principais vetores. A falta de transparência nos processos de aprovação de anúncios em muitas plataformas ainda dificulta a detecção e remoção, pois golpistas podem explorar lacunas ou contornar medidas de segurança utilizando contas novas ou domínios ocultos.
Quem é Afetado e Como as Fraudes se Espalham Online
Consumidores de diferentes grupos demográficos podem ser afetados por golpes de publicidade com deepfakes de IA, mas o risco é provavelmente maior entre os usuários que dependem das redes sociais para obter notícias e recomendações de compras. O relatório do Chosun Ilbo não apresenta detalhes demográficos, mas sugere que os golpes visam um público amplo, com ênfase especial em produtos ou serviços que se beneficiam de endossos percebidos — como suplementos de saúde, serviços financeiros e produtos de luxo.
Os golpes se espalham rapidamente devido à natureza viral do conteúdo digital e ao uso de ferramentas de publicidade direcionada que permitem que golpistas alcancem audiências específicas com base em interesses, comportamentos ou localização. Uma vez que um anúncio de deepfake ganha tração, ele pode ser compartilhado em redes, amplificado por bots ou contas falsas, e reaproveitado em novas variações para evitar detecção. A natureza efêmera de muitos posts em redes sociais e o uso de aplicativos de mensagens criptografadas tornam ainda mais complexas as tentativas de rastrear e conter essas campanhas.
Potenciais Vítimas e Danos
Enquanto o relatório do Chosun Ilbo se concentra na enganação aos consumidores, os danos vão além da perda financeira. Os consumidores que caem nessas fraudes podem sofrer danos à reputação se compartilharem os anúncios com suas redes, sob a falsa crença de que a indicação é legítima. Além disso, os celebridades impersonadas podem enfrentar danos à reputação, perda de confiança e possíveis disputas legais se forem erroneamente associadas a esquemas fraudulentos. O relatório sugere que o efeito cumulativo desses incidentes pode corroer a confiança do público em relação à publicidade digital e às indicações de celebridades como um todo.
Sinais de Alerta e Lista de Verificação para Consumidores
Dada a sofisticação do conteúdo gerado por IA, os consumidores devem adotar uma postura cética em relação a.endosamentos online, especialmente aqueles envolvendo cebrities ou figuras públicas. Embora nenhum sinal de alerta isolado seja conclusivo, uma combinação de sinais de alerta pode ajudar a identificar possíveis anúncios de deepfake. Abaixo está uma lista prática fundamentada nos mecanismos descritos porChosun Ilboe as melhores práticas gerais para avaliar conteúdo digital.
- Contexto de Endosso Inusitado:Tenha cuidado com anúncios que apresentam celebridades endossando produtos ou serviços fora de sua área de conhecimento ou de suas associações habituais com marcas. Por exemplo, um idol do K-pop endossando uma plataforma de negociação financeira ou um político divulgando um suplemento pode exigir uma análise mais cuidadosa.
- Urgência e Táticas de Pressão:Anúncios de deepfake muitas vezes usam linguagem de alta pressão, como “oferta por tempo limitado”, “negócio exclusivo” ou “aja agora”, para impedir que os consumidores verifiquem a alegação. Endossos legítimos raramente dependem da urgência como principal ponto de venda.
- Qualidade de Áudio ou Visual InconsistenteEnquanto as ferramentas de IA estão melhorando, artefatos sutis como piscadas não naturais, erros de sincronização labial ou áudio distorcido podem indicar um deepfake. Fique atento a inconsistências na iluminação, sombras ou expressões faciais.
- Links de Origem Não Verificados:Verifique o destino de qualquer link presente no anúncio. Golpistas frequentemente utilizam URLs encurtadas ou domínios ocultos que não correspondem à marca ou celebridade anunciada. Passe o cursor sobre os links (sem clicar) para visualizar o destino real.
- Falta de Verificação nos Canais Oficiais:Pesquise nas contas oficiais de mídia social da celebridade, site ou cobertura de notícias para verificar se ela endossou publicamente o produto ou serviço. Se não houver tal anúncio, trate o anúncio como suspeito.
- Solicitação de Informações Pessoais ou FinanceirasTenha cuidado com qualquer anúncio que peça dados sensíveis, como números de cartão de crédito, senhas ou documentos de identificação do governo, mesmo que pareça vir de uma figura confiável. Endossos legítimos geralmente não exigem que os consumidores insiram dados diretamente.
- Canais de Distribuição Incomuns:Anúncios de deepfake podem aparecer em locais inesperados, como grupos de mensagens privadas, sites obscuros ou contas de redes sociais com poucos seguidores. Tenha especial cuidado com anúncios compartilhados por contas desconhecidas ou bots.
Resposta Institucional: Ação Legal e Lacunas Regulatórias
O relatório do Chosun Ilbo destaca uma postura proativa, mas reativa, das autoridades sul-coreanas. A chamada de Lee Ji-hye por ações legais reflete o reconhecimento de que as leis existentes de proteção ao consumidor são insuficientes para lidar com os desafios únicos impostos pelos deepfakes de IA. As emendas propostas ao *Act on the Consumer Protection in Electronic Commerce* e ao *Framework Act on Telecommunications* poderiam introduzir obrigações para as plataformas monitorarem, detectarem e removerem anúncios com deepfakes dentro de um prazo definido. No entanto, o relatório não especifica se essas emendas incluiriam penalidades por descumprimento ou mecanismos de reparação ao consumidor.
A ausência de definições legais explícitas para publicidade com deepfakes de IA representa uma lacuna crítica. Sem proibições claras, as plataformas podem ter dificuldade em justificar remoções proativas, e as autoridades policiais podem enfrentar desafios na persecução dos responsáveis. A reportagem do Chosun Ilbo sugere que o governo está avaliando classificar esses anúncios como uma forma de representação fraudulenta, o que poderia fornecer base legal para ações. No entanto, a eficácia dessas medidas dependerá da agilidade na tramitação legislativa e dos recursos destinados à fiscalização.
Plataforma Responsabilidades
Enquanto a reportagem do Chosun Ilbo não detalha o papel das plataformas digitais, ela implica que elas têm alguma responsabilidade na detecção e remoção de anúncios com *deepfake*. Muitas plataformas já possuem políticas contra personificação e conteúdo fraudulento, mas o uso de mídias geradas por IA complica a fiscalização. As plataformas podem precisar investir em ferramentas de detecção impulsionadas por IA, equipes de revisão humana e mecanismos de denúncia de usuários para identificar e remover anúncios com *deepfake* em larga escala. A reportagem sugere que pressões regulatórias poderiam acelerar esses esforços, especialmente se novas leis estabelecerem prazos para a remoção de conteúdo.
Análise Original: Por que Isso é um Sinal de Alerta Global para a Confiança em IA
Tomados em conjunto, o aviso de Lee Ji-hye e os mecanismos descritos porChosun Ilbosugere que a Coreia do Sul está passando por um início precoce de um fenômeno global mais amplo: a armação de mídias geradas por IA para explorar a confiança do consumidor em escala. Embora o dano imediato esteja localizado nos consumidores e celebridades sul-coreanos, as dinâmicas subjacentes não se limitam a fronteiras. À medida que as ferramentas de IA se tornam mais acessíveis e realistas, o risco de publicidade com deepfakes provavelmente se espalhará para outros mercados com culturas fortes de celebridades e alto engajamento digital, incluindo os Estados Unidos, o Japão e partes da Europa.
Esta evolução é significativa porque representa uma mudança de incidentes isolados de deepfakes — como desinformação política ou pornografia de revanche pessoal — para uma ameaça sistêmica à integridade comercial. Ao contrário da fraude publicitária tradicional, que depende de contas falsas ou redes de bots, os anúncios com deepfakes aproveitam a credibilidade de pessoas reais, tornando-os mais persuasivos e difíceis de detectar. A ausência de marcos legais claros em muitas jurisdições cria um ambiente permissivo para golpistas, enquanto as plataformas lutam para equilibrar a detecção com preocupações de privacidade do usuário e liberdade de expressão.
Além disso, o caso sul-coreano destaca um desafio mais amplo: a necessidade de regulação proativa que antecipe o uso indevido da tecnologia, em vez de reagir a ele após a ocorrência de danos. As emendas propostas à lei sul-coreana, se aprovadas, poderiam servir como modelo para outros países que enfrentam questões semelhantes. No entanto, a eficácia dessas medidas dependerá da cooperação internacional, uma vez que os anúncios com deepfakes podem ter origem em qualquer lugar e atingir consumidores globalmente. Sem ações coordenadas, a proliferação dessas fraudes pode minar a confiança na publicidade digital, em endossos de celebridades e até mesmo no conceito de autenticidade nos meios online.
No contexto atual, o alerta da Coreia do Sul não é apenas um aviso doméstico, mas um sinal global de uma crise iminente na confiança em IA. As ferramentas para criar e distribuir anúncios com *deepfakes* já estão nas mãos de agentes mal-intencionados; a questão é se reguladores, plataformas e a sociedade civil conseguirão desenvolver defesas antes que o problema atinja proporções pandêmicas.
O que fazer se você encontrar um anúncio ou endosso com deepfake
Se suspeitar que encontrou uma publicidade ou endosso de deepfake por IA, siga os seguintes passos para se proteger e proteger outras pessoas:
- Não interaja:Evite clicar em links, baixar arquivos ou responder mensagens no anúncio. Golpistas costumam usar o engajamento como forma de coletar dados ou realizar novos ataques.
- Verifique a origem:Pesquise nas contas oficiais de mídia social, no site ou nas notícias recentes da celebridade ou figura pública para confirmar se eles endossaram o produto ou serviço. Procure por selos de verificação ou declarações oficiais.
- Relate o conteúdo:Use as ferramentas de relatório fornecidas pela plataforma onde você encontrou o anúncio. A maioria das redes sociais e aplicativos de mensagens possui opções para sinalizar conteúdos fraudulentos ou de falsificação.
- Avisem outras pessoas:Compartilhe suas preocupações com amigos, familiares ou comunidades online para evitar que eles caiam no mesmo golpe. Seja específico sobre os sinais de alerta que você observou.
- Document the evidence:Faça capturas de tela ou grave o anúncio (caso seja possível) como prova. Isso pode ser útil caso você decida registrar uma reclamação junto às agências de proteção ao consumidor ou autoridades policiais.
- File a complaint: In South Korea, you can report deepfake ad scams to the Korea Consumer Agency or the Korea Communications Commission. Internationally, contact your local consumer protection authority or cybercrime unit.
- Check your accounts: If you entered any personal or financial information in response to the ad, monitor your accounts for unauthorized transactions and consider changing passwords or enabling two-factor authentication.
FAQ: Deepfakes de IA, Semelhança com Celebridades e Direitos do Consumidor
What is an AI deepfake advertisement?
An AI deepfake advertisement is a digitally manipulated piece of content—such as a video, audio clip, or image—that uses artificial intelligence to impersonate a real person, typically a celebrity or public figure, without their consent. These ads are designed to appear authentic and are used to deceive consumers into believing the impersonated individual endorses a product, service, or campaign.
É ilegal criar ou compartilhar anúncios com deepfakes de IA na Coreia do Sul?
Até agosto de 2026, a Coreia do Sul não possui uma lei específica que proíba explicitamente a criação ou compartilhamento de anúncios com deepfakes de IA. No entanto, autoridades de proteção ao consumidor, incluindo Lee Ji-hye, pediram que tais anúncios sejam classificados como representação fraudulenta, o que poderia torná-los ilegais sob as leis existentes de proteção ao consumidor. O governo está considerando emendas para preencher essa lacuna.
Como posso saber se um endosso é um deepfake?
Procure por inconsistências na qualidade de áudio ou vídeo, como piscadas artificiais, erros de sincronização labial ou fala distorcida. Verifique se o endosso está alinhado com as afiliações ou especialidades conhecidas da celebridade. Confirme a origem pesquisando os canais oficiais da celebridade para qualquer menção ao produto ou serviço. Tenha cautela com anúncios que utilizam urgência ou táticas de pressão para induzir ação imediata.
O que devo fazer se cair em um golpe de anúncio com deepfake?
Se você compartilhou informações pessoais ou financeiras, monitore suas contas para transações não autorizadas e considere relatar o incidente ao seu banco ou instituição emissora do cartão de crédito. Você também pode registrar uma reclamação junto a órgãos de proteção ao consumidor, como a Agência de Consumidores da Coreia, ou relatar a fraude à plataforma onde encontrou o anúncio. Documentar as evidências, como capturas de tela, pode fundamentar sua reclamação.
As plataformas de mídia social são responsáveis por remover anúncios com deepfakes?
As plataformas de mídia social têm políticas contra personificação e conteúdo fraudulento, mas o uso de mídias geradas por IA complica a fiscalização. A reportagem do Chosun Ilbo sugere que os reguladores podem impor obrigações às plataformas para detectar e remover anúncios de deepfake dentro de um prazo definido. No entanto, a eficácia dessas medidas dependerá do investimento das plataformas em ferramentas de detecção e da clareza dos requisitos legais.