A American Civil Liberties Union (ACLU) destacou que o Rekognition, sistema de reconhecimento faial da Amazon, falhou ao registrar 28 falsos positivos na análise de 25 mil fotos dos 535 membros do congreso dos EUA.
O resultado deixa claro o grande problema desses sistemas: a identificação poderá custar a liberdade e até a vida das pessoas, e é fundamental regular o uso do reconhecimento facial por parte das forças de segurança.
Já a Amazon alega que os falsos positivos (onde congressistas foram confundidos com delinquentes) são resultados de uma “calibração pobre”: A ACLU reailzou os testes com uma margem de confiança de 80%, mas a Amazon recomenda 95% para cenários utilizados pelas forças de segurança.
O Rekognition foi anunciado pela Amazon em Março de 2018, e alguns departamentos de polícia já realizam testes piloto com ele. Seu custo é de US$ 12/mês, e é parte da oferta de serviços do Amazon Web Services.
Os testes da ACLU também destacam a subjetividade racial: 11 dos 28 falsos positivos confundiram as pessoas de cor. Uma vez que há muito menos congressistas negros, a proporção de falsos positivos foi maior para a raça negra, algo que afetou outros sistemas de reconhecimento facial no passado.
Os resultados reativaram o debate sobre os sistemas que podem representar uma ameaça às liberdades civis por conta de sua precisão. Depois do relatório, três congressistas assinaram uma carta aberta dirigida a Jeff Bezos, CEO da Amazon, pedindo uma lista das agências de segurança que usam essa tecnologia, destacando o uso em menores de 13 anos.