A expansão acelerada da inteligência artificial está provocando um movimento curioso entre as grandes plataformas digitais: as mesmas empresas que desenvolvem e popularizam ferramentas de IA agora também investem em mecanismos para identificar, sinalizar e reduzir conteúdos produzidos pela tecnologia.
A mudança ocorre em meio ao aumento do chamado “AI slop”, termo usado para descrever a grande quantidade de textos, imagens, vídeos e músicas gerados por inteligência artificial que são publicados em massa, muitas vezes com baixa qualidade ou pouco conteúdo relevante.
O que é “AI slop”?
O termo se refere à produção excessiva de conteúdo genérico ou de baixa qualidade criado com IA, geralmente com o objetivo de conseguir visualizações, engajamento ou algum tipo de retorno financeiro.
Segundo especialistas, a facilidade de utilização das ferramentas de inteligência artificial contribuiu para acelerar esse fenômeno. Hoje, mesmo usuários sem conhecimentos técnicos conseguem produzir textos, imagens e vídeos em poucos minutos.
O problema é que a quantidade crescente desse material pode dificultar a identificação de conteúdos realmente relevantes e tornar os feeds das redes sociais cada vez mais repetitivos.
Plataformas começam a reagir
Algumas empresas já estão criando mecanismos específicos para lidar com esse cenário.
O LinkedIn, por exemplo, passou a oferecer uma opção para que usuários denunciem publicações consideradas “lixo de IA”. A plataforma também desenvolve classificadores para identificar esse tipo de conteúdo e diminuir sua presença nas recomendações.
A Substack anunciou uma ferramenta capaz de estimar quanto de um texto foi produzido por inteligência artificial, permitindo ao leitor identificar se o material foi escrito por uma pessoa, produzido com auxílio da tecnologia ou totalmente gerado por IA.
O Snapchat também anunciou mudanças no sistema de recomendação do Spotlight. Conteúdos totalmente produzidos por inteligência artificial deixaram de ser priorizados, enquanto materiais que utilizam IA apenas como ferramenta de edição ou aprimoramento continuam elegíveis, desde que identificados.
Já o YouTube passou a adotar uma postura mais rigorosa em relação à monetização de conteúdos genéricos produzidos em grande escala com IA. A plataforma busca privilegiar vídeos que apresentem histórias originais, informações, explicações ou algum valor adicional para o público.
Identificação também virou prioridade
Outra frente é o desenvolvimento de tecnologias capazes de identificar a origem artificial de imagens, vídeos e outros conteúdos.
O Google, por exemplo, vem ampliando o uso do SynthID, tecnologia criada para ajudar a identificar materiais produzidos ou modificados por inteligência artificial. Empresas como OpenAI, Kakao e ElevenLabs estão entre as companhias que passaram a incorporar a tecnologia em seus produtos.
A preocupação não é apenas com a qualidade do conteúdo. Desinformação, falsificações e manipulações envolvendo IA também aumentam os riscos jurídicos e de reputação para as plataformas.
Um exemplo ocorreu quando o Google retirou uma ferramenta do Earth que permitia criar imagens falsas a partir de registros reais de satélite. Usuários passaram a utilizar o recurso para produzir cenas falsas de acontecimentos em locais reais.
Pressão da regulamentação
A mudança de comportamento das empresas também está relacionada à entrada em vigor de novas regras na União Europeia.
O AI Act, legislação europeia sobre inteligência artificial, estabelece requisitos de transparência para determinados conteúdos gerados ou manipulados por IA. Para especialistas, o calendário regulatório ajudou a acelerar o desenvolvimento de mecanismos de identificação e rotulagem.
Além da preocupação com o cumprimento das regras, existe uma questão comercial.
Se os usuários perceberem que uma plataforma está cada vez mais tomada por conteúdos automáticos, repetitivos e pouco relevantes, a percepção de valor do serviço pode diminuir. Ao mesmo tempo, conteúdos não identificados podem gerar problemas relacionados à desinformação, direitos autorais, responsabilidade jurídica e confiança dos usuários.
Uma corrida entre criação e detecção
O avanço da inteligência artificial deve tornar essa disputa ainda mais complexa.
À medida que os modelos ficam melhores na produção de conteúdos que parecem humanos, também surgem novas ferramentas para tentar identificá-los. E, quando os sistemas de detecção evoluem, os modelos de IA podem ser aprimorados para dificultar essa identificação.
Isso cria uma espécie de corrida tecnológica permanente entre quem produz os modelos de inteligência artificial e quem desenvolve mecanismos para reconhecer seus resultados.
Para especialistas, portanto, a identificação de conteúdos gerados por IA ainda está longe de chegar a um padrão definitivo. A tendência é que as ferramentas de rotulagem, detecção e moderação continuem evoluindo junto com a própria inteligência artificial.
