Uma investigação realizada por um grupo de jornalistas da Bloomberg resultou em um manifesto, onde centenas de pessoas ao redor do mundo estão escutando o que os usuários dos alto-falantes inteligentes da Amazon estão falando, com o “objetivo” de melhorar a forma que a tal inteligência artificial aprende os comandos de voz e, por causa disso, oferecer melhores respostas.
No momento em que a indústria da tecnologia insiste no machine learning, com algoritmos que prometem aprender por si e tomar decisões autômatas, a matéria da Bloomberg é um choque de realidade para os geeks mais confiantes.
De acordo com ex-funcionários da empresa (que fizeram a denúncia de forma anônima), a empresa conta com um pequeno exército de funcionários que só tem como missão escutar, interpretar e melhorar nossas conversas com o Alexa, atuando em instalações específicas em Boston, Costa Rica ou Romênia.
Nada nesses escritórios revelam a presença da Amazon no local. O trabalho é descrito como “um trabalho a mais”, inclusive anônimo. São turnos de nove horas, e cada funcionário pode chegar a processar até 1.00 clipes de áudio. Cada áudio é transcrito e analisado se é relevante na hora de realizar mudanças no algoritmo do Alexa.
O que eles ouvem? O que eles fazem?
As mudanças podem ser simples, como por exemplo a forma de pronunciar um nome, ou identificar novas expressões populares, gírias, palavras chaves relacionadas com temas atuais e outros fatores. Também atuam para identificar novas palavras que podem despertar o Alexa por acidente.
Porém, e diante das precauções que a Amazon toma para o seu alto-falante inteligente não gravar áudios de forma indevida, em determinadas situações isso acaba sendo inevitável. Também coincide em indicar outras fontes consultadas pela publicação americana, que revelam não ser algo raro escutar clipes de áudio em conversas privadas, discussões e até situações bem mais delicadas.
Onde está o grande problema dessa prática?
O principal problema não está na gravação dos fragmentos de áudio e o seu uso para melhoria do algoritmo, mas sim no fato dos funcionários serem capazes de identificar quem disse o que, introduzindo dessa forma um verdadeiro Cavalo de Troia na vida de todo mundo.
A Amazon tenta tranquilizar a todos: “temos restrições técnicas e operacionais, e uma política de tolerância zero para o abuso do nosso sistema. Os funcionários não contam com acesso direto à informação que pode identificar a pessoa ou a conta como parte desse fluxo de trabalho. Toda a informação é tratada com alta confidencialidade e utilizamos autenticação multifatorial para restringir o acesso, encriptação de serviços e auditorias do nosso ambiente de controle para protegê-la”.
Porém, ainda que os usuários possam desabilitar a opção de envio de suas gravações de voz “para o desenvolvimento de melhorias” e com a informação que não são enviados dados pessoais, também é fato que o ID do dispositivo onde é realizada a gravação é enviada, e de alguma forma essa é uma porta aberta para a violação de privacidade.
Via Bloomberg