Os algoritmos estão se tornando cada vez mais importantes em nossas vidas, mesmo sem saber como eles funcionam direito ou o que podem fazer. A sua influência está em tudo o que fazemos.
Agora, os algoritmos são utilizados para temas mais delicados, como escolher os candidatos que podem passar em um processo de seleção para uma vaga de emprego, ou decidir se uma área tem um problema maior com a criminalidade, ou se um investidor deve apostar em uma startup.
Os algoritmos são perfeitos por serem mais matemáticos?
As possibilidades para os algoritmos se tornaram quase ilimitadas, especialmente com a chegada da aprendizagem automática e da inteligência artificial. Assim, um algoritmo pode responder qualquer pergunta. Mas… consegue responder da forma correta?
Em tese, sim. Os algoritmos foram desenvolvidos por especialistas e, no final das contas, são matemáticos. Ninguém discute a frieza dos números, logo, por que vão discutir uma operação matemática mais complexa?
Porém, quem afirma que os algoritmos são ‘racistas’ estão sendo duramente criticados por causa da exatidão matemática, e uma simples busca nas redes sociais confirma que milhares de usuários estão repudiando tal teoria de forma enfática.
Parece algo lógico. Só que não.
Aceitar a matemática dos algoritmos de forma cega é ter uma visão conservadora e simplista sobre a sua função e seus propósitos. Algoritmos vão além da matemática, e podem entregar resultados errados. Vale lembrar que algoritmos são criados por seres humanos, o que os tornam tão imperfeitos quanto estes.
Algoritmos são limitados tanto pelos seus criadores como pelos dados que recebe. Eles podem deixar de receber variáveis de acordo com a programação, logo aceitar resultados de algoritmos porque eles são matemáticos é um erro absurdo.
Os algoritmos podem ser racistas?
Imagine que para calcular os crimes dos imigrantes em todo o Brasil, o algoritmo só pegasse os dados de uma região. Ou para saber se as pessoas negras recebem menos oportunidades laborais, só pegam os dados de usuários com rendas mais altas. Ou para saber se as mulheres são discriminadas no trabalho, só analisam as empresas que relataram os dados pertinentes.
Tudo isso acontece o tempo todo, todos os dias.
A ausência de dados é um dos principais motivos de falha dos algoritmos, e é um dos motivos para que Google e Facebook queiram saber tudo sobre todos nós. Apenas para que seus algoritmos funcionem corretamente.
E não apenas a falta de dados. É possível criar algoritmos imperfeitos de propósito, sem levar em conta detalhes importantes. O exemplo do reconhecimento facial é o mais famoso: os desenvolvedores não contavam com pessoas de cor em seu grupo laboral, o que fez com que o software fosse incapaz de diferenciar entre todas as tonalidades de pele que pode ter uma ‘pessoa negra’.
Em resumo: os algoritmos podem sim ser racistas se os seus criadores também são racistas, ou que subestimaram os desafios que envolvem o desenvolvimento de sua tecnologia. E isso precisa mudar. Rapidamente.