
Sistemas de inteligência artificial podem reproduzir desigualdades raciais quando são desenvolvidos com dados pouco representativos ou critérios distorcidos. O tema foi incluído em três enunciados aprovados em 2024, durante a 1ª Jornada da Justiça Federal pela Equidade Racial, com orientações para instituições e profissionais do Direito.
Os textos não criam novas leis, mas abordam diferentes riscos associados ao uso de algoritmos. O enunciado 36 recomenda que processos seletivos utilizem bases de dados representativas da população, critérios transparentes e testes para detectar possíveis discriminações por raça, cor da pele ou aparência física.
O enunciado 37 trata de possíveis violações dos direitos à igualdade e à dignidade humana em casos de discriminação algorítmica. Já o enunciado 42 aborda a discriminação de pessoas negras em análises de crédito e na oferta de serviços financeiros.
Na Paraíba, pessoas pretas e pardas correspondem a cerca de 63,5% da população, mais de 2,5 milhões de habitantes, conforme o Censo 2022 do Instituto Brasileiro de Geografia e Estatística (IBGE). O estado registrou 263 ocorrências de racismo e injúria racial em 2024, segundo o Anuário Brasileiro de Segurança Pública 2025.
O professor de Ciências da Computação da Faculdade Internacional da Paraíba (FPB) Demetrius Amaral explica que ferramentas de inteligência artificial formulam respostas a partir de grandes volumes de dados e referências. Se as informações não representam adequadamente a diversidade da população ou se as escolhas feitas no desenvolvimento da tecnologia contêm distorções, os sistemas podem reproduzir padrões discriminatórios.
Isso pode ocorrer, por exemplo, em processos de recrutamento que desfavoreçam determinados grupos raciais, em ferramentas de reconhecimento facial com menor precisão para pessoas negras ou em análises automatizadas de crédito baseadas em desigualdades históricas.
O viés nem sempre decorre de uma programação intencionalmente preconceituosa. A qualidade dos dados e as decisões tomadas durante o desenvolvimento também podem contribuir para resultados desiguais, especialmente quando não há avaliações adequadas.
“Não basta avaliar se uma inteligência artificial funciona bem do ponto de vista técnico. É preciso verificar para quem ela funciona, se trata diferentes grupos de forma justa e quais impactos suas decisões podem gerar na sociedade”, afirmou Amaral.
Para reduzir os riscos, o professor recomenda o uso de bases de dados representativas, avaliações periódicas dos resultados e acompanhamento das etapas em que podem surgir desigualdades. Ele também defende a participação de equipes diversas no desenvolvimento dos sistemas.
“A tecnologia pode contribuir para ampliar o acesso a serviços e oportunidades, mas, para isso, precisa ser desenvolvida e utilizada com responsabilidade”, concluiu.
da Redação




