Antes de ser suspenso, X de Musk estava infestado por bots e IAs por falta de moderação

Bots e respostas automatizadas produzidas pelo ChatGPT circulam sem restrição no X, uma vez que Elon Musk desmontou a equipe de moderação de conteúdo da rede social e desmantelou as ferramentas de verificação usadas por jornalistas e pesquisadores, desde que comprou a plataforma em outubro de 2022.

A administração de Musk completou 22 meses três dias antes de a plataforma ser bloqueada no Brasil, durante madrugada de sábado (31). Uma das promessas do bilionário, durante o processo de aquisição, foi de acabar com a farra de robôs que, na avaliação dele, empesteava o antigo Twitter.

Bots que respondem autoridades públicas com indícios de uso de inteligência artificial (IA) são um exemplo da crise atual. Os perfis, verificados, têm preferência no algoritmo da rede e aparecem no topo da lista de respostas às publicações de chefes de Estado.

A reportagem encontrou 20 contas que faziam milhares de postagens em diversos idiomas. Em algumas delas, apareciam frases comuns em respostas do ChatGPT, como "até a data limite do meu conhecimento" e "como um modelo de linguagem de IA".

Um desses perfis, o do israelense Tomer Rozenberg, em um só dia fala francês com o premier canadense Justin Trudeau, comenta em português feitos do governo de Luiz Inácio Lula da Silva (PT) e conversa em alemão com o diretor-geral da OMS (Organização Mundial da Saúde), Tedros Adhanom.

Rozenberg afirmou à Folha que produz respostas a autoridades de todo o mundo com o ChatGPT. Com a tática, o escritor de autoajuda conseguiu 20 milhões de visualizações e 3.700 seguidores em três meses. Ele espera usar esses ativos para divulgar seu trabalho.

O perfil do presidente Lula é um dos preferidos pelas contas automatizadas. Dos 163 tweets que o petista fez nos 23 primeiros dias de julho, 97 tinham respostas de perfis estrangeiros auxiliados pelo ChatGPT.

Entre as 18 contas que interagem com Lula usando IA encontradas pela Folha, havia indianos, sauditas, um argentino, um americano e o israelense Rozenberg.

Responder contas de grande projeção, seja de forma automática ou manual, é um método conhecido para atrair atenção para o próprio perfil, segundo Guilherme Felitti, fundador da empresa de análise de dados NoveloData.

"Sempre que alguém abrir um post de qualquer celebridade, as respostas dos verificados estarão lá e uma nação de desconhecidos poderá vê-las", afirma.

"Alguém cria scripts para ler o post original e gerar uma versão repaginada da mesma publicação".

A reportagem acompanhou por três dias a peregrinação do robô "TopDastan", que vagava pelo X distribuindo respostas automáticas em inglês e árabe. A conta frequentemente repetia "como um modelo de linguagem de IA" e "Olá, em que eu posso te ajudar?" (No original: أنا هنا للمساعدة، ما الذي تحتاج إليه؟)

No período entre 20 e 22 de julho, o bot respondeu a 991 publicações de 293 perfis do Twitter e abordou assuntos como esportes, política, notícias, saúde, bem-estar, religião, cultura e tecnologia. A tática rendeu à conta cerca de 1,7 milhão de impressões em 72 horas.

Outras contas falsas distribuem mensagens privadas na rede social de Musk. Ao passar dois meses com a caixa de entrada aberta, a Folha recebeu 13 contatos de perfis com fotos femininas, cujo objetivo era divulgar conteúdo sexual explícito, NFTs (artigo digital hoje depreciado) e jogos de apostas.

Quando comprou o então Twitter, em outubro de 2022, por US$ 44 bilhões, Musk citou a presença de bots para depreciar a plataforma. O empresário chegou a contestar dados da rede social, que afirmava que apenas 5% das contas ativas eram de robôs, e disse que o número passava de 20%.

Desde a aquisição pelo bilionário, não houve atualização desses números. Procurado via assessoria de imprensa, o X afirmou "estar ocupado".

O professor da USP Marcio Moretto, que coordena o Monitor do Debate Político no Meio Digital em conjunto com o professor de gestão de políticas públicas Pablo Ortellado, afirma que seu grupo de pesquisa enfrenta dificuldades inéditas para coletar dados em redes sociais. "Não estamos conseguindo produzir relatórios como fizemos nas eleições anteriores", afirma.

A situação se repete em outros grupos de pesquisa e jornalistas que estudam comportamento de pessoas e robôs nas redes sociais também em outros temas.

A partir do início de 2023, Musk anunciou uma série de restrições à API do X, afirmando que a ferramenta de troca de dados, então gratuita, estava sendo usada por "fraudadores e manipuladores de opinião".

"Não há processo de verificação ou custo, então é fácil criar 100 mil robôs para fazer coisas ruins. Um acesso custando US$ 100 mensais deve limpar bem as coisas", disse, em fevereiro daquele ano.

A decisão acabou tornando mais difícil a extração de dados para pesquisadores. Antes, era possível acessar a API oficial do Twitter de forma gratuita para verificar relações entre perfis e identificar padrões de mobilização. Agora, até o plano básico, que custa US$ 100 mensais, seria insuficiente para levantamentos conclusivos, segundo especialistas consultados pela Folha.

Apenas empresas gigantes de pesquisa em redes sociais que selaram parcerias com o X, como Sprinklr e Meltwater, conseguem fazer análises relevantes do que se passa na rede social de Musk, de acordo com Luís Fakhouri, diretor de estratégia da empresa de análise de dados Palver.

Programadores com um mínimo de conhecimento técnico, por outro lado, podem fazer bots mesmo sem acesso à API.

"Existem códigos disponíveis na internet e várias formas de se passar por um humano para executar essas ações em massa", explica o diretor de produto da Palver, Enzo Robaina.

As contas de robôs podem ser operadas por fazendas de bots, plataformas especializadas em criar e gerir perfis falsos e automatizados. O método sai mais barato do que usar a API oficial, que identifica contas automatizadas com um selo de robô, segundo Robaina.

Para Felitti, da NoveloData, a vantagem para Musk trazida pela existência dos bots seria a projeção do sucesso comercial da rede social.

"Contas automatizadas inflam as estatísticas de uso a partir das quais as campanhas publicitárias são vendidas", diz.

Em abril de 2024, Musk escreveu que a inteligência artificial torna a fiscalização das contas mais difícil e que mais uma cobrança para novos usuários publicarem poderia resolver o problema.

"É a única maneira de conter o ataque implacável de bots."