A Inteligência Artificial precisa ser plural

Embora a diversidade traga benefícios em produtividade, competitividade e inovação para as empresas, o setor de tecnologia ainda reflete um cenário homogêneo, onde a presença majoritária é de homens, brancos, especialmente dos países do hemisfério norte. Essa falta de representatividade pode acarretar consequências preocupantes para a sociedade, especialmente no desenvolvimento de Inteligência Artificial (IA).

Dados de 2024, fornecidos pelo Índice Global de Disparidade de Gênero, indicam que as mulheres representam apenas 28,2% da força de trabalho global em áreas STEM (sigla em inglês para ciência, tecnologia, engenharia e matemática). No Brasil, a sub-representação é ainda mais evidente entre negros, pessoas LGBTQIAPN+ e, especialmente, pessoas com deficiência, que ocupam apenas 39%, 29% e 10% dos cargos de liderança em startups do setor, de acordo com pesquisa conduzida pelo Google.

É importante enfatizar que a IA, embora complexa e poderosa, não é neutra. Ela carrega os vieses de seus desenvolvedores e os interesses dos modelos de negócio que a impulsionam, refletindo essas influências em sua estrutura e comportamento. Esse viés pode reforçar desigualdades sociais, institucionalizar preconceitos e acentuar problemáticas estruturais, especialmente quando a representatividade nos setores de desenvolvimento é insuficiente.

Um dos principais perigos, portanto, é que, com baixa representatividade, os algoritmos acabem reproduzindo desigualdades e discriminações já presentes na sociedade. Esse fenômeno apresenta um desafio significativo para legisladores e reguladores em todo o mundo, que buscam equilibrar inovação com justiça social.

Outro aspecto preocupante é a hegemonia cultural que pode ser reforçada com a IA. O Oxford Internet Institute destaca esse risco, juntamente com a "erosão da confiança", "erosão do entendimento" e o "potencial de uso dual por agentes maliciosos". A concentração de poder nas mãos de um grupo restrito tem o potencial de narrar uma "história única", suprimindo vivências diversas e comprometendo a pluralidade de expressões culturais. Isso não apenas simplifica a complexidade da realidade como também prejudica o tecido social ao uniformizar experiências.

Para mitigar essas ameaças, o setor de tecnologia precisa "reinventar seus códigos" e investir em diversidade, assegurando que múltiplas experiências guiem o desenvolvimento da IA e previnam a imposição de valores homogêneos. A educação tem papel fundamental nesse processo, capacitando indivíduos a questionar decisões algorítmicas e a promover uma cultura de transparência e responsabilidade sobre os dados.

Além disso, por meio da cidadania digital, é possível manter um engajamento crítico em questões éticas ligadas à inovação, exigindo tecnologias que respeitem direitos e promovam a equidade. A Inteligência Artificial, como extensão das qualidades humanas, deve ser supervisionada e debatida por toda a sociedade. Para ser ética e justa, a IA precisa refletir a diversidade de nossas vivências.

O editor, Michael França, pede para que cada participante do espaço "Políticas e Justiça" da Folha sugira uma música aos leitores. Nesse texto, a escolhida por Patricia Peck foi "Lanterna dos Afogados", de Cássia Eller.