Os problemas e preconceitos da inteligência artificial são reflexos das instituições e desigualdades que moldam a sociedade e cresce o desafio de impedi-la transformar velhos vieses em novas formas de autoridade.

A IA não nasce neutra, nem se torna justa por magia. Aprende com os dados que lhe damos, com as escolhas de quem a desenha e com os preconceitos que a sociedade ainda insiste em tratar como normais.

Há uma ideia confortável que repetimos sempre que uma tecnologia nova começa a falhar: a culpa é da ferramenta. Dizemos que “a inteligência artificial errou”, que “o algoritmo foi injusto”, que “o sistema não percebeu”. É uma forma elegante de afastar a responsabilidade humana. Como se a máquina tivesse surgido sozinha, sem história, sem contexto, sem as mãos e as decisões de quem a criou.

Mas a inteligência artificial não aparece do nada. Ela é treinada com textos, imagens, padrões de comportamento, decisões antigas, bases de dados incompletas, escolhas empresariais, critérios técnicos e visões de mundo. Por isso, quando uma IA responde de forma enviesada, raramente está a inventar um preconceito novo. Na maioria das vezes, está apenas a devolver-nos, com uma eficiência desconfortável, os preconceitos que já estavam espalhados pela sociedade.

É isto que torna o problema tão difícil. A IA não é sexista por natureza. Mas aprende num mundo onde o sexismo continua a organizar expectativas, profissões, linguagem, ambições e até a forma como descrevemos homens e mulheres. A tecnologia não absorve apenas informação. Absorve hierarquias.

Um dos sinais mais claros aparece na forma como os grandes modelos de linguagem representam mulheres e homens. Em 2024, a UNESCO publicou um estudo sobre viés de género em modelos de linguagem e encontrou padrões regressivos: as mulheres apareciam associadas com muito mais frequência a papéis domésticos, enquanto nomes masculinos eram ligados a termos como “negócios”, “executivo”, “salário” e “carreira”. Num dos modelos analisados, as mulheres eram apresentadas em funções domésticas quatro vezes mais do que os homens. A UNESCO alertou ainda que estes sistemas, usados diariamente no trabalho, no estudo e em casa, podem moldar percepções sociais em grande escala, mesmo quando os vieses parecem pequenos ou subtis.

Este detalhe é importante: o viés da IA nem sempre aparece como uma frase abertamente ofensiva. Muitas vezes, surge em pequenas diferenças de tom. Uma mulher recebe uma resposta mais cuidadosa, mais emocional, mais protectora. Um homem recebe uma resposta mais directa, mais orientada para a acção. A ela, a máquina diz: “compreendo como te sentes”. A ele, diz: “faz”, “decide”, “avança”.

À primeira vista, pode parecer apenas uma diferença de estilo. Mas não é só isso. Quando repetida milhares ou milhões de vezes, essa diferença cria uma pedagogia silenciosa. Ensina que as mulheres precisam de encorajamento e validação; que os homens precisam de comando e autonomia. Ensina que umas devem ser acolhidas, outros devem agir. E, quando uma tecnologia passa a ser usada para estudar, escolher carreira, pedir conselhos, preparar entrevistas, escrever currículos ou interpretar emoções, essa pedagogia deixa de ser apenas simbólica.

O estudo da LLYC sobre jovens e IA, realizado em 12 países durante 2025 e divulgado em 2026, ajuda a perceber a dimensão do fenómeno. A investigação analisou 9.600 recomendações geradas por cinco grandes modelos de IA, incluindo ChatGPT, Gemini e Grok, para jovens dos 16 aos 25 anos. Segundo o relatório, 56% das respostas etiquetavam as mulheres jovens como “frágeis”; a IA recomendava às mulheres procurar validação externa seis vezes mais do que aos homens; e redireccionava as suas vocações para saúde e ciências sociais com muito mais frequência.

Mesmo que estes números devam ser lidos dentro da metodologia específica do estudo, apontam para uma questão maior: a IA já não é apenas uma ferramenta de pesquisa. Para muitos jovens, começa a funcionar como uma espécie de conselheira permanente. E uma conselheira não neutra pode influenciar escolhas de identidade, confiança, carreira e futuro.

Em 2025, a Common Sense Media publicou um inquérito nacional feito nos Estados Unidos com adolescentes dos 13 aos 17 anos. O estudo concluiu que 72% dos adolescentes já tinham usado companheiros de IA pelo menos uma vez, mais de metade usava essas plataformas pelo menos algumas vezes por mês, e cerca de um em cada três dizia que as conversas com companheiros de IA eram tão satisfatórias ou mais satisfatórias do que conversas com amigos reais. Também cerca de um terço dos utilizadores adolescentes afirmava ter discutido assuntos importantes ou sérios com estes sistemas em vez de falar com pessoas.

Quando juntamos estes dados, o retrato torna-se mais preocupante. Não estamos a falar apenas de respostas enviesadas num laboratório. Estamos a falar de sistemas que entram na vida íntima das pessoas, especialmente numa fase em que a identidade ainda está em construção. Um adolescente que pergunta à IA que profissão deve seguir, como deve lidar com uma insegurança ou o que significa ser líder pode receber respostas que parecem personalizadas, mas que carregam padrões sociais antigos.

E aqui surge uma pergunta incómoda: quem está a construir esses sistemas?

A resposta continua a revelar uma desigualdade profunda. Uma análise da organização Interface, publicada em 2024 com base em dados de quase 1,6 milhões de profissionais de IA no mundo, concluiu que as mulheres representavam apenas 22% do talento global em inteligência artificial. Nos cargos executivos seniores ligados à IA, essa presença caía para menos de 14%. O relatório sublinhava que a sub-representação feminina não resolve, por si só, todos os vieses dos dados, mas limita a diversidade de perspectivas no desenho, teste e governação destes sistemas.

A OCDE também tem insistido neste ponto. Num debate publicado em 2025 sobre educação e inteligência artificial inclusiva, a organização indicou que, embora a participação das mulheres em IA esteja a crescer, o progresso continua lento: em 2023, as mulheres representavam menos de 30% do talento global em IA. A OCDE sublinhou ainda que a formação inclusiva precisa de começar cedo e acompanhar toda a carreira profissional, porque a desigualdade no acesso às competências de IA pode transformar-se rapidamente numa nova forma de exclusão económica.

O problema, portanto, não é apenas o algoritmo. É o ecossistema. São os dados com que ele é treinado, as equipas que o desenvolvem, os objectivos comerciais que orientam o produto, os critérios usados para medir “sucesso” e as perguntas que fazemos quando testamos uma ferramenta. Se uma equipa pouco diversa cria uma IA a partir de dados enviesados, avaliada com métricas estreitas e lançada no mercado com pressa, não é surpreendente que o resultado reproduza pontos cegos.

Há exemplos conhecidos. Durante anos, sistemas de reconhecimento facial tiveram pior desempenho em rostos de mulheres e pessoas negras. Ferramentas de recrutamento automatizado penalizaram currículos associados a mulheres. Modelos de linguagem associaram homens a liderança, ciência e autoridade, e mulheres a cuidado, juventude ou fragilidade. Em 2025, investigadores de Stanford alertaram ainda para um problema específico de enviesamento contra mulheres mais velhas: ao gerar currículos fictícios, o ChatGPT tendia a representar mulheres como mais jovens e menos experientes do que homens, mesmo quando partia da mesma informação inicial.

Isto mostra que o viés não está apenas no passado. Ele continua a ser actualizado no presente. E, quando passa pela IA, ganha uma aparência de objectividade. Uma decisão tomada por uma pessoa pode ser contestada como opinião. Uma decisão tomada por um sistema parece técnica, calculada, neutra. É precisamente aí que mora o risco.

A Stanford HAI, em 2025, chamou a atenção para outro paradoxo: tentar tornar a IA “cega” a diferenças demográficas nem sempre produz justiça. Em alguns contextos, tratar todos os grupos exactamente da mesma forma pode gerar respostas falsas, injustas ou absurdas, porque ignora diferenças sociais, legais ou culturais relevantes. Os investigadores argumentam que os modelos precisam de consciência contextual: devem perceber quando uma diferença importa e quando não deve importar.

Isto muda a conversa. Não basta pedir a uma IA que “não tenha preconceitos”. Também não basta acrescentar filtros depois de o problema aparecer. É preciso pensar desde o início em dados mais representativos, testes de viés mais exigentes, auditorias independentes, equipas diversas e transparência sobre limites. Por isso, em 2025, a UNESCO lançou um guia de red teaming para ajudar organizações, decisores políticos e sociedade civil a testar sistemas de IA contra vieses prejudiciais, especialmente os que afectam mulheres e raparigas. A proposta é simples, mas poderosa: colocar os sistemas sob pressão antes que os seus erros se transformem em danos reais.

Também há uma parte que cabe a quem usa a IA. Não porque a responsabilidade principal seja do utilizador individual, mas porque a forma como perguntamos influencia a forma como recebemos respostas. Em vez de pedir “descreve um líder”, podemos pedir “descreve líderes de diferentes géneros, origens sociais e culturas”. Em vez de pedir “dá-me um exemplo de engenheiro”, podemos pedir “dá-me exemplos diversos de profissionais de engenharia em vários países”. Em vez de aceitar a primeira resposta como verdade, podemos perguntar: “que estereótipos esta resposta pode estar a reproduzir?”

Estas pequenas mudanças não resolvem o problema estrutural, mas criam fricção. Obrigam a máquina a sair dos caminhos mais gastos. E, sobretudo, lembram-nos de que a IA não deve ser tratada como uma autoridade invisível. Deve ser questionada como qualquer outra tecnologia que interfere na vida pública.

A inteligência artificial pode ajudar a democratizar conhecimento, acelerar descobertas, melhorar processos e ampliar capacidades humanas. Mas só fará isso de forma justa se deixarmos de a imaginar como uma entidade abstracta e começarmos a vê-la como aquilo que realmente é: uma tecnologia social. Feita por pessoas, treinada com rastos humanos, usada em instituições humanas e sujeita aos mesmos conflitos de poder que atravessam a sociedade.

O problema, no fundo, não é a inteligência artificial. É pedir que ela seja neutra num mundo que ainda não é. É esperar que corrija sozinha desigualdades que nós próprios continuamos a alimentar. É acreditar que uma máquina pode imaginar um futuro mais justo se os dados, as equipas e as perguntas que lhe damos continuam presos ao passado.

A IA aprende conosco. Talvez a questão mais urgente seja perceber o que, exactamente, estamos a ensinar-lhe.