Princípios importantes
- Empresas estão usando inteligência artificial para vigiar seus funcionários.
- A Amazon instalou câmeras com aprendizado de máquina em suas vans de entrega no início deste ano.
- A vigilância por IA pode levar a problemas de privacidade e segurança se usada por empresas sem escrúpulos.
Empregadores estão cada vez mais rastreando seus trabalhadores usando inteligência artificial, e observadores dizem que a prática levanta preocupações de privacidade.
A Amazon instalou câmeras com aprendizado de máquina em suas vans de entrega no início deste ano. A empresa disse recentemente a seus motoristas que eles devem concordar em usá-los. A prática de vigilância no trabalho pode ser legal, mas nem todos concordam que é ético.
"As empresas usam ferramentas de monitoramento de funcionários há décadas, mas com o avanço da tecnologia, elas estão se tornando mais invasivas", disse Aimee O'Driscoll, pesquisadora de segurança do site de comparação de tecnologia Comparitech, em entrevista por e-mail.
"A maioria do monitoramento de funcionários pode ser considerado uma invasão de privacidade, e pode-se argumentar que o que a Amazon está fazendo não é muito diferente de ter câmeras de CFTV em um escritório."
Seja vigiado ou seja demitido
Os aproximadamente 75.000 motoristas de entrega da Amazon nos EUA agora precisam assinar um formulário de "consentimento biométrico". O formulário de permissão permite que câmeras com inteligência artificial observem a localização, o movimento e os dados biométricos dos motoristas. Os funcionários que não assinarem o documento podem ser demitidos.
A vigilância por IA rastreia tudo o que os motoristas da Amazon fazem, invadindo a privacidade assumida do sujeito, disse Chris Hauk, pesquisador de privacidade do site de privacidade Pixel Privacy, em entrevista por e-mail.
"Isso inclui gravar toda vez que o sujeito boceja ou coça uma área sensível", acrescentou. "Um motorista tem pelo menos algum direito a uma aparência de privacidade enquanto estiver dentro de seus veículos."
A vigilância de funcionários por IA é um problema crescente. O Walmart patenteou uma tecnologia de IA que permite ouvir as interações dos funcionários com os clientes nos caixas, destacou O'Driscoll.
Desenvolvedor de software Enaible fornece ferramentas de produtividade baseadas em software de IA. Várias empresas, incluindo a Macy's, usam o sistema de análise da Microsoft, que pode monitorar o comportamento dos funcionários. A Domino's usou a tecnologia de IA para verificar se as pizzas são feitas corretamente.
"Um dos principais problemas é que, quando usado de maneira errada, a f alta de privacidade pode levar a problemas de segurança", disse O'Driscoll.
"Os dados de vigilância podem acabar nas mãos de criminosos, ou os próprios maus atores podem usar a vigilância de IA para atingir as vítimas."
As varreduras biométricas de rosto resultam em uma representação matemática do rosto do titular dos dados que pode ser aproveitada para identificá-los e rastreá-los em qualquer lugar, pelo resto da vida, disse Ray Walsh, especialista em privacidade do site ProPrivacy, em um entrevista por e-mail.
"Isso aumenta sérios riscos de privacidade e segurança para os motoristas da Amazon cujos dados podem ser violados, vazados ou potencialmente aproveitados por bisbilhoteiros do governo usando um mandado", acrescentou.
Como a tecnologia de IA é relativamente nova, não há diretrizes concretas sobre seu uso em relação à privacidade, disse O'Driscoll. "Dito isso, a segurança provavelmente sempre será uma desculpa legítima para invasão de privacidade, então a Amazon está coberta por suas intenções atuais", acrescentou.
Embora os funcionários tenham o direito de desistir ou consentir com o monitoramento de IA proposto, eles estão fazendo isso diante de um enorme desequilíbrio de poder, O'Driscoll disse que a vigilância da IA deve ser regulamentada. "As empresas devem idealmente ter razões legítimas (como segurança) para vigilância de IA", acrescentou.
Alguns estados aprovaram projetos de lei que limitam e regulam o uso de vigilância no local de trabalho, mas f alta legislação federal, apontou Walsh.
Em 2019, a Lei de Responsabilidade Algorítmica foi introduzida na Câmara e no Senado, mas acabou sendo rejeitada. Um ato semelhante pode ser introduzido este ano, e "espera-se que um Congresso liderado por democratas e a Casa Branca possam melhorar suas chances de aprovação", disse Walsh.
Não espere privacidade no trabalho
Nem todo mundo acha que a vigilância de seus motoristas pela Amazon é uma invasão de privacidade.
"Acho difícil argumentar que um funcionário tem uma expectativa razoável de privacidade em um veículo de propriedade da empresa", disse Will Griffin, diretor de ética da empresa de IA Hypergiant, em uma entrevista por e-mail.
"A maior preocupação é que, em poucos anos, todos esses motoristas serão substituídos por veículos autônomos. Portanto, qualquer debate sobre a política de motoristas se tornará um ponto discutível à medida que a frota se tornar totalmente autônoma."
O caso da Amazon destaca a necessidade de um sindicato ou intervenção federal direcionada como forma de restaurar o equilíbrio de poder entre os trabalhadores da Amazon e a empresa, disse Griffin.
"Embora os funcionários tenham o direito de desistir ou consentir com o monitoramento de IA proposto, eles estão fazendo isso diante de um enorme desequilíbrio de poder", acrescentou.
