Google lança sistema de defesa contra conteúdo de IA gerado em massa

O Google publicou um paper detalhando um novo sistema interno para combater o AI slop – conteúdo produzido em massa por inteligência artificial, geralmente de baixa qualidade. 

Batizado de S-CTS (Scalable Cluster Termination System), o novo sistema foi desenvolvido por uma equipe de engenheiros do Google e parece ter sido pensado especificamente para o YouTube, embora ainda não tenham afirmado isso.

O objetivo central é resolver um problema que a moderação tradicional não consegue: atores maliciosos usam IA para criar variações únicas de um mesmo golpe ou spam, o que engana sistemas de detecção baseados em hash e metadados, já que cada vídeo gerado tem uma “assinatura digital” diferente, mesmo sendo essencialmente a mesma fraude repetida em escala.

Em vez de analisar cada vídeo isoladamente, o Google decidiu mudar o foco da moderação para o comportamento de grupos de contas, identificando clusters coordenados que agem de forma sincronizada e produzem conteúdo com padrões sintéticos semelhantes. 

A seguir eu te conto mais sobre esse novo sistema da big tech.

Como funciona o novo sistema do Google

O S-CTS é construído sobre dois classificadores que trabalham em conjunto.

O primeiro, chamado de Ψ_A, é responsável por detectar redes de bots e contas coordenadas. Ele analisa sinais internos de infraestrutura, ou seja, a forma como as contas interagem com os sistemas do Google por trás dos bastidores, além de séries temporais de eventos e metadados específicos de conteúdo gerado por IA. 

Com isso, o sistema consegue apontar com alta confiança quando um grupo de contas provavelmente é controlado pelo mesmo indivíduo ou script automatizado.

O segundo classificador, o Ψ_C, avalia o conteúdo em si – tanto texto quanto vídeo – em busca de marcas de produção gerada artificialmente. Para isso, o sistema usa embeddings de texto, que são representações matemáticas de palavras e frases capazes de capturar o significado e identificar narrativas repetitivas e roteirizadas, típicas de conteúdo gerado automaticamente. 

No lado visual, são aplicadas técnicas de extração de características para detectar artefatos visuais característicos de produção por IA.

Como os classificadores determinam um cluster como spam? 

Um cluster só é classificado como malicioso quando os dois sinais aparecem juntos, indicando alta confiança de coordenação entre contas e presença de conteúdo gerado por IA. 

Essa combinação é o que torna o sistema mais preciso do que abordagens que olham só para o conteúdo ou só para o comportamento das contas isoladamente.

Como os modelos de linguagem ajudam na detecção de AI Slop? 

A parte mais inovadora do sistema é a camada de modelos de linguagem (LLMs). O Google criou uma arquitetura em duas etapas, chamada de Synthetic Content Rater:

  • Na primeira etapa, em vez de analisar pixel por pixel do vídeo, o sistema reúne sinais multimodais (combinação de imagem, áudio e texto) e comportamentais (como o ritmo de upload de um canal) em um resumo textual compacto;
  • Na segunda etapa, um modelo de linguagem (o artigo cita o Gemini 2.0 Flash como exemplo) faz a análise semântica final sobre esse resumo, decidindo se o conteúdo é ou não sintético.

Para viabilizar isso em larga escala, o Google usa duas técnicas de otimização. 

A LoRA, sigla para Low-Rank Adaptation, é um método de ajuste fino que permite especializar um modelo de IA gigante sem precisar retreiná-lo por completo, reduzindo drasticamente o custo computacional. 

Já a APO, ou Automatic Prompt Optimization, permite ajustar rapidamente os comandos dados ao modelo sempre que surge uma nova tendência de spam de IA.

Com base nessa pontuação semântica, o sistema toma decisões automatizadas,  aprovando ou removendo conteúdo sem intervenção humana quando a confiança é alta, e só envia para revisão manual os casos ambíguos.

As principais limitações do sistema

O próprio artigo do Google reconhece pontos sensíveis no funcionamento do S-CTS.

A mais relevante delas aparece nos números de desempenho divulgados. Enquanto a maioria das categorias de decisão automática apresenta precisão entre 88% e 95%, a categoria de conteúdo chocante envolvendo segurança infantil, na decisão de aprovação automática, registrou apenas 72% de precisão – um índice bem abaixo dos demais e que levanta dúvidas sobre a confiabilidade do sistema justamente na vertical mais sensível.

Os autores também admitem que faltam dados de treinamento em escala para os modelos generativos mais recentes. Isso significa que a eficácia da LoRA e da APO para detectar conteúdo gerado por esses modelos ainda não foi totalmente validada empiricamente.

No campo ético, o Google levanta a preocupação de que a classificação de “slop” é suscetível ao que chamam de drift de definição – o risco de o sistema acabar penalizando artistas e criadores legítimos que usam IA generativa de forma criativa. 

Para mitigar isso, o sistema exige que o comportamento seja coordenado e em massa antes de agir, funcionando como uma salvaguarda contra punições a criadores individuais que estão apenas experimentando novas ferramentas.

Outro ponto levantado é o risco de viés. Como a LoRA faz um ajuste fino leve sobre um modelo de fundação muito maior, ela pode preservar vieses já presentes nesse modelo-base, exigindo monitoramento constante para garantir que o sistema capture as nuances corretas sem amplificar distorções existentes.

Como isso impacta o SEO

Para quem trabalha com SEO e produção de conteúdo, esse tipo de sistema reforça a tendência de que as plataformas de busca estão ficando mais sofisticadas em distinguir uso criativo de IA, da produção em massa de baixa qualidade.

É importante destacar que o S-CTS foi desenhado especificamente para plataformas de vídeo — o próprio artigo fala em “online video platforms” (OVP), como seria o YouTube. Não há, no documento, qualquer menção a planos de implementação desse sistema na Pesquisa Orgânica do Google.

Ainda assim, vale notar que parte da arquitetura já lida com texto: o classificador Ψ_C usa embeddings de texto para detectar narrativas roteirizadas e repetitivas, o mesmo tipo de sinal que poderia, em tese, ser aplicado a conteúdo textual fora do contexto de vídeo.

O requisito de comportamento coordenado como condição para penalização é um dado importante para criadores e marcas que usam IA generativa de forma pontual e editorial. O sistema do Google não foi desenhado para punir quem usa essas ferramentas com responsabilidade, mas sim quem opera em escala industrial para gerar spam e golpes.

Isso fortalece o valor de conteúdo original, com curadoria humana e voz editorial própria, que é exatamente o tipo de produção que diferencia uma estratégia de conteúdo sólida de um fluxo automatizado de baixa qualidade. 

Spam Update de Junho de 2026 anunciado em seguida

Curiosamente, pouco tempo depois da publicação deste paper, o Google anunciou o Spam Update de Junho de 2026, uma atualização de spam aplicada globalmente. 

O foco do update está em aprimorar o SpamBrain – sistema de IA que detecta spam na busca. 

Não há confirmação de que o novo sistema de detecção de IA em massa e o spam update estejam diretamente conectados, mas a proximidade entre os dois anúncios é um indício de que o Google segue atento, em várias frentes, às tentativas de manipulação dos seus sistemas

___

Acompanhe nossos perfis no Linkedin, YouTube e nossa newsletter para não perder as principais novidades do mercado de SEO.  

  • Karine Sales

    Jornalista e criadora de conteúdo digital, atua há mais de 8 anos desenvolvendo estratégias e textos otimizados para blogs, sites e redes sociais.

Comentários

0 Comentários

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *