Órgão regulador da UE investiga Google por uso de dados pessoais para treinar IA

O órgão de proteção de dados da União Europeia anunciou que abriu investigação contra o Google por causa do uso de dados pessoais no desenvolvimento de um de seus modelos de inteligência artificial, à medida que os reguladores intensificam sua fiscalização sobre as ambições de IA das grandes empresas de tecnologia.

A Comissão de Proteção de Dados da Irlanda, responsável por aplicar o Regulamento Geral de Proteção de Dados da UE (GDPR, da sigla em inglês), informou que iniciou uma investigação estatutária sobre o Pathways Language Model 2, ou PaLM 2, utilizado pela gigante de tecnologia.

O PaLM 2 foi lançado em maio de 2023 e antecede os mais recentes modelos Gemini, da Google, que alimentam seus produtos de IA. O Gemini, lançado em dezembro do ano passado, é agora o modelo central por trás de sua oferta de geração de texto e imagem.

A investigação avaliará se a empresa violou suas obrigações na lei da UE no processamento dos dados pessoais dos cidadãos do bloco e do Espaço Econômico Europeu.

Segundo o regulamento, as empresas devem realizar uma avaliação de impacto sobre a proteção de dados antes de começar a usar tais informações, quando ele pode representar um alto risco para os direitos e liberdades dos indivíduos.

A regulamentação se aplica principalmente a novas tecnologias e é "de importância fundamental para garantir que os direitos e liberdades fundamentais dos indivíduos sejam adequadamente considerados e protegidos", disse o regulador em um comunicado.

A avaliação está sendo examinada na investigação.

Um porta-voz da Google afirmou que a empresa está colaborando com o processo. "Levamos a sério nossas obrigações sob o GDPR e trabalharemos de forma construtiva com a DPC para responder às suas perguntas."

Esta é a mais recente de uma série de ações de órgãos reguladores contra os grupos de big tech que estão construindo grandes modelos de linguagem.

Em junho, a Meta suspendeu seus planos de treinar seu modelo Llama com conteúdo público compartilhado por adultos no Facebook e Instagram em toda a Europa, após discussões com o regulador irlandês. Posteriormente, a empresa limitou a disponibilidade de alguns de seus produtos de IA para usuários na região.

Um mês depois, os usuários do X (antigo Twitter) descobriram que estavam sendo "optados" para que suas postagens no site fossem usadas para treinar sistemas na startup xAI, de Elon Musk.

A plataforma suspendeu o processamento de várias semanas de dados de usuários europeus que haviam sido coletados para treinar seu modelo Grok AI, após processos legais pela DPC. Essa foi a primeira vez que o regulador usou seus poderes para tomar tal ação contra uma empresa de tecnologia.