Hoje, os sistemas de reconhecimento facial são tão comuns como o smartphone. Alguns baseiam o seu funcionamento na inteligência artificial e seus algoritmos. Porém, mesmo com tantos avanços, essa área não consegue se livrar de polêmicas.
Bem sabemos de casos que tais algoritmos favorecem ou afetam determinados grupos da população, e um novo estudo reforça que o reconhecimento facial ainda cria grupos claramente discriminatórios.
O estudo do centro de pesquisa do MIT Media Lab mostra como os sistemas de reconhecimento facial falham consideravelmente quando os grupos de indivíduos são diferentes aos pertencentes aos homens de raça caucásica.
O estudo testou três softwares de reconhecimento distintos: o da Microsoft, o da IBM e o Face ++ da Megvii. Os resultados dos testes deixam em evidência a segmentação existente nesse tipo de sistemas de reconhecimento.
No caso das fotos de homens brancos, a margem de erro foi de 1%. Já com as mulheres brancas, essa margem sobe para 7%. A diferença entre gêneros é clara, mas o problema é muito maior quando mudamos de raça.
No caso das amostras de homens com pele mais escura, a taxa de erro aumentava para 12%, e para as mulheres de pele mas escura, os sistemas falharam em 35% das oportunidades.
É óbvio que existe um problema com os algoritmos e seu sistema discriminatório, mas o problema ainda está no fato das inteligências artificiais aprenderem sozinhas, mas ao mesmo tempo precisarem de uma série de dados que serão a base do seu aprendizado.
Se há muito mais homens brancos que mulheres negras no sistema de dados aportado, terão maiores problemas para reconhecer essas mulheres negras (os dados revela que as mostras em 75% são de homens, e mais de 80% homens brancos).
Isso é algo que as associações responsáveis já trabalham, afetando em campos mais sérios. 117 milhões de adultos norte-americanos estão em redes de reconhecimento facial utilizado pelas forças de ordem pública.
Paradoxalmente, os algoritmos de reconhecimento facial prejudicam os homens afro-americanos nos casos de investigação de delitos, por conta da desproporção de fotografias do seu segmento que os sistemas das forças de ordem pública abrigam.
Nessas redes, os homens afro-americanos tem mais possibilidades de serem reconhecidos como delinquentes pela desproporção na quantidade de fotos de seu segmento (por conta das taxas de detenção desproporcionalmente altas) que abrigam tais sistemas.
Ainda temos um longo caminho para polir tal tecnologia e evitar problemas como protagonizado pelo algoritmo de IA da Google, que etiquetou de forma indevida seres humanos como animais.
Algumas empresas trabalham nisso também. A fabricante de telefones móveis Transsion foca seus esforços em melhorar o funcionamento de suas câmeras em peles mas escuras, algo que nenhum outro fabricante deu importância até agora.
Além disso, cidades como Nova York lutam para combater a discriminação dos algoritmos, criando uma lei que regula e permite a solicitação de revisões caso o uso de um algoritmo prejudique, favoreça ou discrimine um cidadão.