A expansão das IAs (inteligências artificiais) no universo dos golpes digitais tem criado um grande dilema: enquanto modelos cada vez mais poderosos ampliam as possibilidades de uso da tecnologia, também abrem novas oportunidades para criminosos explorarem seus recursos na aplicação de fraudes.
A cada nova atualização, surge uma nova funcionalidade, um processamento mais sofisticado e preciso e, principalmente, erros menos recorrentes e mais complexos de serem identificados — até mesmo pelos olhos mais treinados. Todas essas qualidades e "melhorias" citadas anteriormente, em um primeiro momento, parecem representar apenas avanços nessa vertiginosa evolução tecnológica. Porém, a cada novo degrau alcançado, criminosos também comemoram e aguardam ansiosamente para utilizar essas mesmas melhorias em suas empreitadas.
Na tentativa de reprimir esses efeitos colaterais, as empresas de tecnologia também têm apostado cada vez mais na automação da vigilância e da moderação dos milhões de conteúdos que circulam em suas plataformas.
Sai humano, entra a máquina: a expansão da moderação por IA
Sob o título “Reforçando o suporte e a segurança nos aplicativos da Meta com inteligência artificial” (Boosting Your Support and Safety on Meta’s Apps With AI, no original), a trilionária empresa de Mark Zuckerberg anunciou, em 19 de março, a rota que seu colossal barco pretende seguir nos próximos anos. Em meio ao crescimento descomunal do volume de dados, a decisão de confiar na capacidade dessas tecnologias de processar informações em larga escala é apresentada como uma forma de lidar com esse cenário caótico. Sob outra perspectiva, a aposta também pode ser interpretada como uma tentativa de iluminar esse mar escuro e ampliar o alcance da vigilância digital.
Passando do discurso aos números, a empresa revelou que, em seus testes, o novo moderador virtual conseguiu identificar e neutralizar 5 mil tentativas de golpes por dia que nenhuma equipe de análise havia detectado anteriormente. Na área da publicidade paga, os dados divulgados pela Meta indicam que a filtragem realizada pelo novo modelo de IA reduziu em 7% as visualizações de anúncios fraudulentos.
No trecho final da publicação, a Meta defende que essas medidas buscam combinar os pontos fortes da atuação humana e da tecnologia. Ao reforçar que “as pessoas continuarão no centro” (people will remain at the center, no original), a empresa sustenta o discurso de que a tecnologia não pretende substituir o trabalho humano. Nas palavras do conglomerado, a mudança busca apenas “garantir que as pessoas façam aquilo em que são melhores e que a tecnologia faça aquilo em que é melhor — combinando a escala e as capacidades da inteligência artificial avançada com a experiência e o discernimento humanos, de modo que cada um fortaleça o outro”.
Em outra publicação, também de março, a empresa destacou que mantém ações de combate a anúncios fraudulentos. Segundo a Meta, em 2025 foram removidos 159 milhões de anúncios fraudulentos, dos quais 92% antes mesmo de serem denunciados.
Do outro lado da moeda, o pesquisador Fabio Assolini alerta que abrir mão do discernimento humano representa uma perda relevante, sobretudo na interpretação de contextos culturais. Como os servidores estão localizados nos Estados Unidos, ele avalia que características de regiões distantes do Vale do Silício podem passar despercebidas pelos sistemas automatizados. Essas diferenças locais podem ser exploradas por golpistas para disfarçar suas intenções e evitar suspeitas, tornando a experiência humana indispensável nesse processo de revisão.
Essa mesma indispensabilidade humana, porém, pode ter prazo de validade. A aposta da Meta é que esse “supermoderador” amplie a cobertura atual, de cerca de 80 idiomas, para abranger idiomas falados por 98% das pessoas conectadas à internet. Segundo a empresa, os sistemas também serão capazes de compreender subculturas, significados de emojis e gírias.
“A tecnologia não é boa nem ruim; tampouco é neutra”
A primeira lei de Kranzberg, formulada em 1986 pelo historiador norte-americano Melvin Kranzberg, ajuda a enquadrar um dos maiores dilemas da sociedade atual: qual lado pesa mais quando o assunto é o avanço das tecnologias de inteligência artificial? Como ficar animado diante de um novo salto na capacidade dos modelos de gerar textos, fotos, vídeos e áudios se, tão logo surgem, essas ferramentas também se tornam armas de manipulação nas mãos do submundo criminoso?
Assolini responde a essas dúvidas filosóficas com a avaliação de que o lado negativo tem pesado mais nessa balança. Na visão do especialista, sinais básicos que antes ajudavam a identificar conteúdos fraudulentos, como erros de português e falhas na apresentação dos golpes, têm sido cada vez mais eliminados com o uso de modelos sofisticados de inteligência artificial.
Esse desequilíbrio fica evidente quando a tecnologia de identificação dos sistemas de moderação da Meta, apresentada anteriormente, é comparada às ferramentas usadas por criminosos para personalizar golpes. À frente do monitoramento de cibercrimes na Kaspersky, o pesquisador revela que os fraudadores já utilizam inteligência artificial para adaptar campanhas a diferentes regiões. Segundo Assolini, um nordestino pode não perceber que, do outro lado de uma conversa por texto, áudio ou vídeo, o sotaque ou as expressões de alguém que parece ser um conterrâneo estão sendo reproduzidos por uma máquina.
Tem o caso de um empresário que perdeu R$ 20 mil depois de receber um áudio de um amigo, enviado de um número novo, pedindo que entregasse um carregamento no endereço indicado por ele. A voz foi manipulada de forma tão perfeita que ele nem chegou a desconfiar. Só algum tempo depois, ao tentar entrar em contato novamente com esse ‘amigo’, percebeu que não tinha retorno. Ao ligar para o número antigo, o verdadeiro amigo confirmou que nunca havia feito o pedido. É um ônus muito difícil de deixar nas costas do usuário, ainda mais com as ferramentas de identificação ruins que estão disponíveis no mercado.”
Do spam à IA: uma lição de cooperação contra as fraudes
Mundialmente, os avanços da inteligência artificial têm sido tema de discussão acadêmica. Em fevereiro deste ano, o Relatório Internacional de Segurança da IA de 2026 (International AI Safety Report 2026, no original), elaborado com a contribuição de mais de 100 especialistas, apontou que “as capacidades da IA de uso geral estão melhorando mais rapidamente do que muitos especialistas previram”. O estudo também destacou que, embora as técnicas de gerenciamento de riscos estejam evoluindo, elas ainda são “insuficientes”. A publicação é presidida pelo canadense Yoshua Bengio, pioneiro no campo do aprendizado profundo (deep learning, em inglês) e vencedor do Prêmio Turing de 2018, considerado o Nobel da computação.
Embora o equilíbrio entre avanço tecnológico e segurança ainda pareça distante, Assolini vê na cooperação entre empresas um caminho para mudar esse cenário. Segundo o pesquisador, o individualismo que marca o mercado de grandes desenvolvedores, como Google, OpenAI, Nvidia, Microsoft e Meta, é um dos principais obstáculos. Como os mecanismos de identificação de manipulações são desenvolvidos para reconhecer ameaças nos próprios ambientes, podem falhar diante de conteúdos criados ou disseminados em outras plataformas.
No passado, quando surgiram os primeiros provedores de e-mail do mundo, os webmails eram cada um por si. Eles lidavam com os spams à sua maneira. Foi somente quando perceberam que, se trabalhassem juntos, poderiam combater esse problema de forma significativa. Disso nasceram várias iniciativas que beneficiaram todos. Acredito que com as IAs será a mesma coisa. No futuro, será melhor.”
Última reportagem da série ‘Vitrine dos Golpes Digitais’
Enquanto as plataformas tentam desenvolver ferramentas para conter as fraudes, o Brasil aparece entre os países mais afetados por esse tipo de crime. A próxima e última reportagem da série “Vitrine dos Golpes Digitais” vai investigar esse cenário: por que o país se tornou um terreno tão fértil para a disseminação de golpes virtuais? E quais são os obstáculos para identificar e punir os responsáveis? Mas a tecnologia também pode ser usada para dar aparência de legitimidade a armadilhas.
A primeira reportagem da série, “Golpistas aproveitam anúncios autênticos do Instagram para enganar usuários”, mostrou como criminosos aproveitam os anúncios patrocinados do Instagram para alcançar vítimas. Afinal, como desconfiar de uma oferta quando ela aparece em um espaço que deveria transmitir confiança?
