Princípios importantes
- Os sistemas de IA que monitoram os caminhões de entrega estão penalizando injustamente os motoristas da Amazon, afirma um novo relatório.
- O sistema Amazon faz parte de uma tendência crescente de empresas que usam tecnologia para monitorar seus empregadores remotamente.
-
Alguns softwares de IA permitem que os empregadores monitorem continuamente o comportamento dos funcionários em segundo plano e desenhem padrões em seu fluxo de trabalho.
Empregadores estão cada vez mais recorrendo a softwares para monitorar funcionários remotamente, levantando preocupações entre alguns defensores da privacidade.
Um novo relatório afirma que câmeras com inteligência artificial nas vans de entrega da Amazon penalizaram os motoristas injustamente. O artigo descobriu que os motoristas sofreram com alertas errôneos, scorecards incorretos, suposições impraticáveis de condições de tráfego e motoristas adotando práticas para burlar a tecnologia.
"Enquanto a IA está melhorando, erros ainda serão cometidos", disse Raymond Ku, diretor do Centro de Direito e Política do Ciberespaço da Case Western Reserve University, em entrevista por e-mail. "Por uma questão de justiça, acho que todos acreditamos que alguém sendo penalizado de alguma forma pela tomada de decisão da IA deve ser informado do fato e ter a oportunidade de contestar a decisão."
Câmeras de IA da Amazon
Amazon disse que instalou câmeras com inteligência artificial em seus veículos de entrega como medida de segurança. As câmeras destinam-se a monitorar quando os motoristas de entrega realizam manobras perigosas, como passar sinais de pare ou fazer retornos ilegais.
Quando as câmeras detectam possíveis "eventos" de direção insegura, essas instâncias influenciam as pontuações de desempenho dos trabalhadores. Pontuações mais baixas reduzem a chance de os motoristas receberem bônus, pagamento extra e prêmios.
Mas os motoristas da Amazon disseram ao Motherboard que estão sendo punidos por alguns hábitos de direção considerados seguros ou fora de seu controle. A Amazon não respondeu a um pedido de comentário da Lifewire.
Ku apontou que, como os motoristas concordaram em ser gravados, eles não estão sofrendo uma invasão de privacidade sob a lei.
"No entanto, isso não significa que o trabalhador médio ficaria feliz com a vigilância ou não se oporia se pudesse", acrescentou. "Isso é especialmente verdadeiro quando a vigilância começa a invadir espaços pessoais mais tradicionais."
O relatório levanta questões mais amplas sobre se os dados podem ser acessados e usados em ações judiciais ou por policiais e autoridades federais, disse a advogada de privacidade de dados Bethany A. Corbin à Lifewire em uma entrevista por e-mail. Também pode afetar a responsabilidade, ela apontou.
"Por exemplo, se a tecnologia de IA diz ao funcionário para não olhar nos espelhos laterais e o funcionário sofre um acidente como resultado direto desse conselho, de quem é a culpa?" Corbin adicionado.
Vigilância Crescente
A vigilância não para com a Amazon. Um número crescente de empresas está usando a tecnologia para monitorar seus funcionários remotamente, disse o especialista em privacidade Chris Hauk à Lifewire em uma entrevista por e-mail.
Por exemplo, a empresa de marketing de IA Blackbelt usa um sistema de rastreamento de tempo Allocate, permitindo que a empresa monitore e rastreie a atividade de computador de seus funcionários de forma autônoma. O Workplace Analytics da Microsoft permitirá que os empregadores observem o tempo de um funcionário em sites, escrevendo e-mails e muito mais durante um dia de trabalho.
Walmart também está trabalhando em um sistema que ouve o som de farfalhar de sacolas ou bipes de scanners de caixa para rastrear as métricas dos funcionários e garantir que eles executem suas tarefas de maneira correta e eficiente. Os sensores podem até ouvir os clientes enquanto eles conversam na fila e detectar se os funcionários estão ou não cumprimentando os clientes adequadamente.
A vigilância no local de trabalho está se tornando mais prevalente desde o início da pandemia, disse o especialista em privacidade Pankaj Srivastava à Lifewire em uma entrevista por e-mail.
"A maior parte dessa tecnologia está posicionada como 'melhorando a produtividade', no entanto, a forma como algumas dessas ferramentas operam sugere uma maior tolerância dos empregadores em monitorar todas as atividades de sua força de trabalho", acrescentou. "Por exemplo, monitorar quanto tempo os funcionários gastam em cada tarefa, tirar uma foto remota garantindo que os funcionários estejam em suas mesas e até mesmo monitorar sites visitados e registrar os toques de teclado e o movimento do mouse de um funcionário."
Enquanto a IA estiver melhorando, erros ainda serão cometidos.
Alguns softwares de IA permitem que os empregadores monitorem continuamente o comportamento dos funcionários em segundo plano e desenhem padrões em seu fluxo de trabalho, disse ele.
"Um funcionário pode ser demitido com base em seu relatório de desempenho personalizado, alegando que levou alguns minutos a mais para concluir uma tarefa do que o normal", disse Srivastava.
"Adeus, pausas para o banheiro."
