O mundo está em constante processo de transformação. Hábitos, costumes e valores que antes eram considerados “socialmente aceitáveis” hoje não são tolerados. E todos precisam se adaptar aos novos tempos. Inclusive a Inteligência Artificial.

A IA tem um longo caminho de desenvolvimento para percorrer, até chegar ao estágio de ser considerada 100% confiável para o uso prático. E, nesse momento, a verdade é uma só: ela ainda não é confiável, pois quando ela não quer matar você, ela soa sexista.

Isso aconteceu na Amazon. De acordo com a Reuters, em 2014, a gigante do e-commerce e um grupo dos seus engenheiros desenvolveram uma ferramenta autônoma de recrutamento de funcionários. Que, obviamente, não funcionou (senão, esse post jamais existiria).

A ferramenta foi desenvolvida sobre o núcleo de uma Inteligência Artificial que foi criada para selecionar os melhores candidatos para as vagas de emprego da Amazon. O software seria capaz de processar centenas de currículos em segundos, para escolher os cinco perfis considerados “melhores”.

Porém, há um problema: a IA foi muito sexista nas escolhas.

Alguns dos engenheiros que trabalharam no projeto denunciaram o problema de forma anônima para a Reuters, e confessaram que a falha fez com que a plataforma fosse treinada a partir dos currículos de candidatos aspirantes que se inscreveram na Amazon nos últimos 10 anos. Porém, a grande maioria dos candidatos era homens.

Em 2015, a IA acabou transformando a palavra ‘mulher’ e todas as suas variantes em um elemento para descartar candidatas. Até porque ela aprendeu sozinha que, como a maioria era de homens, as mulheres supostamente não se interessariam por essas vagas de emprego.

Os engenheiros tentaram reverter o treinamento da IA para que ela se tornasse mais neutra, algo que não funcionou. Então, a Amazon não teve outra alternativa, a não ser “demitir” a sua própria IA do processo de seleção de novos funcionários.

E… sim… o software foi utilizado por algum tempo para recrutar trabalhadores em postos dos mais diferentes níveis. Hoje, a Amazon conta com um corpo laboral formado por 60% de homens e 40% de mulheres.

 

Via BBC