No livro 1984, o escritor inglês George Orwell ficciona uma tecnologia que funciona simultaneamente como televisão e câmara de vigilância e que o governo utiliza para vigiar as pessoas. Regressando a 2019, é noticia, através da Bloomberg, que a voz dos utilizadores da Alexa, a assistente virtual da Amazon, está a ser ouvida, regularmente, por funcionários desta empresa.
Alguns transcrevem o que foi dito e tiram anotações, outros comparam as respostas que a máquina deu com o que lhe foi pedido. Este processo visa a corrigir as falhas que a assistente virtual possa ter no processo de reconhecimento da voz e na sua resposta.
Estes postos de trabalho podem ser encontrados em Boston, Costa Rica, India e na Roménia, segundo revelaram sete trabalhadores que tiveram de assinar acordos de confidencialidade para não falar sobre este programa.
Dois trabalhadores romenos descreveram o seu dia de trabalho como algo que poderia parecer bastante comum: trabalham nove horas por dia e ouvem cerca de 1000 clips de áudio por turno.
Um trabalhador de Boston explicou que o seu trabalho consistia em analisar dados de voz específicos, por exemplo: sempre que alguém dizia “Taylor Swift” este tinha que indicar que a pesquisa se referia à cantora. Diga-se que foram várias as vezes em que ouviu pessoas a cantar nos chuveiros…
Apesar de esta invasão de privacidade parecer pouco ética e legal, a verdade é que, tecnicamente, os utilizadores destas tecnologias deram permissão para a “verificação humana”. Na lista de perguntas frequentes sobre a Alexa, pode-se ler: “nós utilizamos os vossos pedidos à Alexa para treinar o sistema de reconhecimento de voz e de linguagem”. Contudo, esse aviso não esclarece que as gravações vão ser ouvidas em três continentes diferentes.
Nas definições de privacidade da Alexa, é possível desativar a função de gravação de vozes, mas a Bloomberg teve acesso a um screenshot que mostrava as gravações enviadas para os avaliadores por aparelhos sem esta função, ativa – apesar de não fornecerem o nome e a morada do utilizador, era possível ver o número da conta, assim como o seu primeiro nome e o número de série do dispositivo.
A Amazon continua a defender que os seus produtos apenas podem enviar gravações para os seus servidores quando ativados, manualmente ou por voz. No entanto, muitas vezes estes assistentes virtuais são ativados por acidente, seja por barulho ambiente ou pelo som da televisão.
Acidente ou não, muitas vezes os trabalhadores ouvem episódios mais graves do que cantorias no chuveiro. Dois funcionários da Amazon contaram à Bloomberg que uma vez ouviram aquilo que “pensam ter sido uma violação.” A Amazon disse-lhes, alegadamente, que não era a tarefa da empresa interferir nesse tipo de casos.
Estes trabalhadores são obrigados a transcrever tudo aquilo que ouvem nas gravações, mesmo discussões privadas onde transcrevem detalhes como informações bancárias – nestes casos é suposto os trabalhadores etiquetarem essas conversas como “critical data” e passar ao próximo ficheiro de áudio.
Numa declaração à Bloomberg, a Amazon disse: “Levamos a segurança e a privacidade das informações pessoais dos nossos clientes muito a sério. Apenas analisamos uma pequena amostra das gravações de voz da Alexa de forma a melhorarmos a experiência dos nossos clientes. Esta informação ajuda-nos a treinar os sistemas de reconhecimento de voz e da linguagem para que a Alexa possa compreender melhor os seus pedidos e assegurar que todos os seus serviços funcionam bem para todos.”