Algoritmos racistas: o que são e por que se preocupar?

Os benefícios que as tecnologias e os processos recentes de digitalização têm trazido são inegáveis. Contudo, eles também refletem problemas encontrados em toda a nossa sociedade, como o machismo, a homofobia e o racismo.

Um exemplo claro disso são os procedimentos que envolvem a utilização de algoritmos, automatização e inteligência artificial. Por serem desenvolvidos em uma base de dados que refletem práticas discriminatórias, tendem a apresentar resultados da mesma natureza.

Neste artigo, entendemos melhor o que são e como funcionam os algoritmos, como podem ser racistas e por qual motivo devemos nos preocupar. Acompanhe todos os tópicos com atenção!

O que são algoritmos?

Os algoritmos podem ser definidos como a base de todo processo de desenvolvimento de software. Eles constituem uma sequência de raciocínios, instruções ou operações que tem um objetivo.

Para isso, é necessário definir etapas finitas e que sejam operadas de forma sistemática. Dessa forma, um algoritmo sempre conta com uma entrada (input) e uma saída (output) de informações correspondentes a determinadas instruções.

Como necessita prever diversas possibilidades de cenário, uma sequência de instruções pode se tornar mais complexa. Por conta disso, um algoritmo conta com as seguintes estruturas:

• Variáveis: tratam-se de informações de entrada inseridas para determinar até onde o algoritmo poderá ir. As mais comuns são texto, inteiro, lógico e real;
• Comandos de repetição: referem-se ao uso de “se” e “enquanto”. São utilizados para que o algoritmo saiba o que fazer quando determinados processos ocorrerem e quais ações tomar quando eles mudarem.

Onde funcionam esses algoritmos?

O algoritmo funciona de forma automática e inteligente. Cada mecanismo conta com características próprias e diferentes, e os seus desenvolvedores não costumam revelar as informações e equações utilizadas para o cálculo dos conteúdos entregues aos internautas.

Mecanismos de busca como o Google, Yahoo! e o Bing, além de diferentes redes sociais, como o Facebook, Instagram, Twitter e TikTok consideram diferentes fatores em seus algoritmos.

Mas, de uma forma resumida, as empresas tentam avaliar o comportamento dos usuários e fomentar configurações para proporcionar melhores experiências nas plataformas, ofertando conteúdos e resultados mais dentro do esperado.

Como os algoritmos podem ser racistas?

Se as tecnologias reproduzem comportamentos que os seus desenvolvedores programam, logo tendem a refletir vieses e preconceitos presentes em nossa sociedade.

E quando o algoritmo é responsável por transmitir determinada linguagem, pode também reproduzir códigos com traços de qualquer tipo de discriminação, como gênero, idade e raça. Muito disso se deve diretamente à falta de diversidade na origem dos CEOs, fundadores e desenvolvedores das empresas.

Ainda não consegue visualizar o problema? Então vamos a alguns exemplos.

Em 2020, o Twitter passou por grande repercussão negativa após o recorte automático de fotos privilegiarem rostos brancos dentro da rede social. Isso fez com que milhares de usuários utilizassem a hashtag #AlgoritmoRacista para questionar a automatização na plataforma.

O algoritmo racista foi descoberto pelos próprios usuários de rede social, que fizeram um teste com a imagem de um homem branco e outra com um negro. O Twitter reconheceu a validade da reclamação e lançou uma nota informando que reveria a prática com toda equipe.

Outro caso foi revelado em 2019, por meio de um estudo da Universidade da Carolina do Sul. Dois anúncios de emprego foram publicados no Facebook. Um para cargos gestão, que atingiu mais brancos (72%) e homens (90%). E outro de vagas como caixa de supermercado, que a rede priorizou para negros (75%) e mulheres (85%).

Por que devemos nos preocupar?

A luta por uma sociedade mais igualitária requer maior representatividade também nos ecossistemas de tecnologia e inovação. Isso vai desde a diversidade racial e de gênero dos profissionais, até a maior variedade de dados dispostos nas soluções e algoritmos.

É fundamental entender que a falta de diversidade e inclusão nas etapas de produção, desenvolvimento, análise e controle das tecnologias trazem prejuízos para toda a sociedade.

Outro ponto importante é com leis que garantam maior transparência nos algoritmos e a devida responsabilização dos seus desenvolvedores, da mesma forma que estamos avançando com a regulação da proteção de dados e da privacidade.

Saiba mais sobre tecnologia digital. Assine nossa newsletter!