IA sem filtro de Musk inunda X com bizarrices e pode zoar geral a realidade

Nas primeiras interações, eu gostei, mas depois de um tempo esse humor exagerado de uma máquina estatística me cansou. Deu para perceber que o modelo segue sempre uma receitinha de criar metáforas e fazer analogias forçadas com o universo da ficção. Parece aquele tiozão chato que quer trazer referências para mostrar que manja do assunto.

Contudo, é a funcionalidade de criação de imagem do Grok-2 que acendeu um debate global nos últimos dias.

A IA de Musk é praticamente sem filtros. Enquanto OpenAI, Google e Meta criam restrições para que seus modelos tenham um comportamento mais responsável, Musk foi para um outro caminho e liberou muita coisa na Grok.

É possível criar conteúdos de personagens com direitos autorais sem qualquer preocupação. Inclusive, com cenas que podem virar um problema jurídico no futuro. Eu criei facilmente imagens do Mickey fumando maconha, Harry Potter no exército nazista e até mesmo Moana incendiando Meca.

A situação fica ainda mais sensível quando entramos em imagens realistas, especialmente no universo da política.

Os Estados Unidos têm eleições presidenciais neste ano, e uma das preocupações para manter a integridade da informação e do próprio processo democrático é em relação ao uso indevido da IA para a criação e propagação de fake news.

Para evitar efeitos colaterais, os principais serviços de IA haviam colocado travas para evitar que as pessoas consigam criar conteúdos para fins políticos. ChatGPT e MidJourney, por exemplo, recusaram o meu pedido de criação de imagens de Donald Trump e Kamala Harris.

O mesmo não aconteceu na Grok-2. Sem qualquer dificuldade, consegui criar imagens de Donald Trump cheirando cocaína no Salão Oval e do candidato beijando uma mulher enquanto está rodeado de outras em seu iate.

Donald Trump em imagem gerada pela inteligência artificial Grok-2 Imagem: Reprodução

Nesse metaverso da loucura, Kamala Harris não ficou para trás. Foi possível criar imagens da candidata democrata dançando de biquíni para um grupo de homens e vendendo drogas nas ruas de San Francisco.

O X (Twitter em nossos corações) foi inundado de imagens bizarras criadas pela Grok-2 nesta semana.

Nem mesmo Musk passou impune. Tem imagens do dono do X beijando Trump na boca, uma outra em que ele segura uma metralhadora dentro de uma escola e até imagens em que dança coladinho com Putin.

Em relação aos candidatos à Presidência dos EUA, as imagens são ainda mais esquisitas. Rolou de tudo.

Talvez esse exagero possa ter algum efeito positivo. As imagens são tão absurdas que estimulam as pessoas a questionar se, de fato, são reais. Assim, quem sabe, entramos em uma fase de letramento em que as pessoas entendam que a realidade está fraturada.

O problema, no entanto, é que a mesma tecnologia usada para criar absurdos e paródias também gera imagens sutis, persuasivas e manipulativas, apesar da estética plastificada da IA.

Estamos vivendo um momento de transição. O ano de 2024 vai funcionar como um experimento em larga escala do processo democrático.

As rápidas transformações tecnológicas que estamos vivendo, com seus profundos impactos políticos, culturais e cognitivos, vão gerar evidências que talvez levemos muito tempo para entender seus efeitos.

No Brasil, o Grok-2 deve causar menos estragos, pelo menos por agora. A IA ainda não domina tão bem o português e conhece pouco de nossa cultura. Tentei criar imagens de Lula e Bolsonaro, por exemplo, mas a ferramenta gerou imagens de pessoas genéricas.

Há muitas críticas ao Elon Musk por sua falta de responsabilidade. Remover muitas travas de segurança pode ter sido prematura, eu concordo, mas o fato é que a Grok-2 está apenas antecipando um cenário com o qual vamos ter que aprender a lidar: o ver para crer morreu.