The Albany Gazette - Unesco alerta que IA generativa propaga preconceitos sexistas

Os modelos GPT 2 e GPT 3.5 da OpenAI, este último incorporado à versão gratuita do ChatGPT, assim como o Llama 2, do seu concorrente Meta, revelam "provas inequívocas de preconceito contra as mulheres", indicou a agência da ONU em comunicado.

"As discriminações do mundo real refletem-se na esfera digital e também são amplificadas" nestas ferramentas, destacou Tawfik Jelassi, vice-diretor-geral da Unesco para a comunicação e informação.

Segundo o estudo, realizado de agosto de 2023 a março de 2024, os nomes femininos nesses modelos de linguagem estão mais associados a palavras como "casa", "família" e "filhos" e os nomes masculinos, a "comércio", "salário" e "carreira".

Os pesquisadores pediram a essas interfaces que produzissem histórias sobre pessoas de diferentes origens e gêneros. Os resultados mostraram que as histórias sobre "pessoas de culturas minoritárias são frequentemente repetitivas e baseadas em estereótipos".

E assim, o homem inglês foi repetidamente apresentado como professor, motorista ou bancário enquanto a mulher inglesa, em quase um terço dos textos gerados, apareceu como prostituta, modelo ou garçonete.

Estas empresas "não conseguem representar todos os seus usuários", disse à AFP Leona Verdadero, especialista em políticas digitais e transformação digital da Unesco.

"A cada dia mais pessoas utilizam modelos de linguagem no trabalho, nos estudos e em casa", afirmou Audrey Azoulay, diretora-geral da Unesco, destacando que estas ferramentas "têm o poder de moldar sutilmente as percepções de milhões de pessoas".

"Mesmo sutis preconceitos de gênero em seu conteúdo podem ampliar significativamente as desigualdades do mundo real", alertou Azoulay.

Para combater estes preconceitos, a Unesco recomenda que as empresas do setor tenham equipes de engenheiros mais diversificadas, especialmente com mais mulheres.

Nas equipes que trabalham com inteligência artificial, a nível mundial, apenas 22% são mulheres, segundo números do Fórum Econômico Mundial, lembra a Unesco.

O órgão da ONU também apela aos governos para que regulamentem o setor de forma mais intensa para implementar uma "inteligência artificial ética".

(A.Johnson--TAG)