NOTÍCIAS / SEO

Google lança SAFE para combater AI slop

O Google lançou um novo sistema para combater a propagação em massa de conteúdos gerados por IA, especialmente os chamados “AI slop”, conteúdos sintéticos de baixa qualidade produzidos em grande escala. O SAFE (Scaled Abuse Forensics Examiner) foi apresentado pela empresa em um artigo de pesquisa.

Como explicou o especialista em SEO Glenn Gabe, o SAFE funciona de forma parecida com uma análise humana: o sistema não procura apenas conteúdos que quebram uma regra específica, mas também tenta identificar casos que vão contra a intenção das políticas da plataforma. 

A ideia é diminuir essa “lacuna sintética”, tornando mais rápida e precisa a identificação de redes que usam IA para produzir e distribuir conteúdo em massa. O SAFE pode reduzir o tempo necessário para investigar esses casos e melhorar a resposta a redes de abuso digital.

Esse é mais um passo do Google para acabar com conteúdo ruim gerado por IA em seus produtos. Esse ano, a empresa já tinha lançado o S-CTS (Scalable Cluster Termination System), que tem o mesmo objetivo.

O sistema SAFE já está sendo implementado no Google e deve fazer parte do Spam Update de Setembro de 2026. 

A seguir eu te conto mais sobre o SAFE, como é o seu funcionamento e quais conteúdos ele consegue identificar.

Como o SAFE identifica AI slop?

A arquitetura do SAFE utiliza múltiplos agentes de inteligência artificial especializados para analisar o comportamento, as relações entre canais e as características visuais do conteúdo de forma automatizada. 

Segundo o artigo publicado pelo Google, o SAFE identifica comportamentos suspeitos e conecta canais relacionados usando dois agentes especializados, coordenados por um sistema central:

  1. Agente de compreensão do comportamento (Behavior Understanding Agent): analisa como os canais se comportam para identificar sinais de atividade coordenada ou automatizada;
  2. Agente de compreensão de clusters de canais (Channel Cluster Understanding Agent): analisa as conexões entre os canais para entender se eles fazem parte da mesma rede.

O primeiro agente tem foco em dados técnicos, verificando informações como o sistema usado e outros dados do dispositivo; horário e picos de atividade, buscando por padrões anormais (como vários canais publicando ao mesmo tempo); e comportamento automatizado, identificando sinais de contas falsas ou ações feitas em massa. 

Já o segundo agente identifica conexões entre contas e faz o mapeamento da rede, reunindo as conexões para entender a operação como um todo, ao invés de analisar cada canal separadamente. 

O agente raiz entra em seguida, coordenando os dois agentes e reunindo as informações encontradas. A partir desses dados, ele avalia se os canais fazem parte de uma ação coordenada ou se o comportamento é natural.

O que acontece quando um conteúdo que viola as regras é identificado?

Quando o sistema identifica um canal ou uma rede suspeita, o processo funciona assim:

  • Análise do caso: o agente raiz reúne as informações analisadas pelos outros agentes e decide se o grupo parece fazer parte de uma operação coordenada ou de uma atividade normal;
  • Resumo da investigação: o sistema cria um relatório explicando o caso, o tipo de abuso identificado, e outros pontos que precisam ser analisados;
  • Apoio aos analistas: o SAFE pode acelerar o trabalho das equipes de segurança. Quando há um alto nível de certeza, o sistema pode concluir a investigação automaticamente. Quando o caso é mais difícil, ele prepara um relatório para ajudar o analista humano a tomar uma decisão mais rapidamente.

Por enquanto, as informações que o Google disponibilizou sobre o SAFE explicam como o sistema analisa os casos e chega às suas conclusões, mas não detalham o que acontece depois. 

Então a gente ainda não sabe se, ao ser identificado pelo sistema, o site pode ser punido (e de que forma acontece essa punição).

Quais tipos de conteúdo o SAFE consegue encontrar?

O SAFE é capaz de identificar: 

  • Mídias sintéticas (AI slop) produzidas em massa com o objetivo de inundar a plataforma e burlar filtros de antispam tradicionais;
  • Roteiros repetitivos (Slop scripts) gerados por IA e repetidos em diferentes canais, muitas vezes com os mesmos padrões visuais;
  • Conteúdos gerados por IA para se passar por outra pessoa ou entidade;
  • Vídeos gerados por IA e distribuídos por redes de bots, que criam diferentes versões do conteúdo para tentar evitar a detecção;
  • Conteúdos que podem não quebrar uma regra específica, mas vão contra a intenção das regras da plataforma e podem escapar dos sistemas tradicionais de detecção.

Quando o SAFE passa a valer? 

O SAFE já está em implementação. O relatório do Google destaca que os resultados iniciais mostram uma aceleração significativa na identificação de ameaças sintéticas e redução no tempo de investigação.

Enquanto essa matéria está sendo escrita, está acontecendo um Spam Update do Google. É provável que o SAFE seja um dos componentes da atualização da big tech. 

Por enquanto, a arquitetura descrita no documento do Google é focada em redes de canais e vídeos sintéticos, utilizando dados específicos do ecossistema do YouTube (como metadados de vídeo, conexões entre canais e padrões de upload). 

No entanto, por mais que os exemplos práticos foquem em canais de vídeo, os pesquisadores do Google descrevem o SAFE como um sistema de detecção de “mídia sintética” e “sinais multimodais”, sem limitar o modelo exclusivamente a um único tipo de mídia. Isso significa que ele também pode encontrar AI slop em conteúdos textuais ou imagens. 

___

E aí, o que você achou da novidade? Acha que vai diminuir a disseminação de lixo de IA por aí? Conta pra gente! Continue acompanhando nossos perfis no Linkedin, YouTube e nossa newsletter para ficar por dentro de todas as novidades do universo do SEO, IA e do Google.

  • Karine Sales

    Jornalista e criadora de conteúdo digital, atua há mais de 8 anos desenvolvendo estratégias e textos otimizados para blogs, sites e redes sociais.

Comentários

0 Comentários

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Postagens relacionadas