Princípios importantes
- A Tencent criou uma tecnologia de reconhecimento facial para pegar crianças jogando videogame após o toque de recolher obrigatório.
- Controle dos pais sem os pais cuidando dos ombros das crianças não é uma coisa nova.
- Especialistas dizem que problemas com regras impostas por reconhecimento facial incluem privacidade e precisão pessoais.
A empresa de jogos chinesa Tencent está usando a tecnologia de reconhecimento facial para impor um toque de recolher de jogos para menores, e especialistas dizem que um mundo de regras impostas pela tecnologia não está longe.
O software de reconhecimento facial não é uma tecnologia nova, mas à medida que se torna mais avançado, tem usos mais controversos além de apenas desbloquear nossos smartphones. Dr. Vir Phoha, professor da Faculdade de Engenharia e Ciência da Computação da Universidade de Syracuse, disse que há muitas preocupações ao usar o reconhecimento facial para impor regras, mas essa se destaca especificamente das demais.
“Minha preocupação número um é que… a indústria privada se torne um instrumento do Estado para fazer cumprir as leis”, disse Phoha à Lifewire por telefone. "E isso é importante porque pode não haver freios e contrapesos suficientes dentro… da indústria privada para garantir que haja transparência em como as coisas estão sendo feitas internamente."
Controle dos pais sem os pais
A Tencent disse que está usando a tecnologia de reconhecimento facial para pegar crianças jogando videogame tarde da noite. A China aprovou um projeto de lei em 2019 que impõe um toque de recolher de jogos para menores de 18 anos e limita o tempo gasto jogando um jogo para os dias da semana e finais de semana. Portanto, embora a tecnologia pareça invasiva, ela foi criada para resolver o problema das crianças irem contra o toque de recolher.
De acordo com a Digital Trends, a tecnologia, conhecida como “Midnight Patrol”, escaneia o rosto de uma pessoa na tela do computador para combiná-lo com um nome e um rosto registrados e acompanha o tempo de jogo de acordo.
Mesmo que alguns pais gostariam de ver seus filhos obedecendo às regras, a tecnologia pode realmente substituir os pais?
“Acho que há um conflito entre os direitos dos pais e as obrigações dos pais. E com coisas impostas pelo estado, os pais geralmente são os melhores juízes”, disse Phoha.
Embora essa tecnologia específica esteja na China, a Federal Trade Commission aprovou um método verificável de consentimento dos pais em 2015 que permite que as entidades usem a tecnologia de reconhecimento facial para obter o consentimento dos pais. Essa tecnologia é um pouco diferente, pois é voltada para escanear os rostos dos pais antes que as crianças possam acessar determinado conteúdo para garantir que os pais consintam com isso. No entanto, Phoha disse que ter uma câmera em sua casa monitorando as coisas abre espaço para possíveis problemas.
“Se uma câmera é permitida em casa, como um terceiro permitindo o acesso à minha casa, quando meu filho está jogando, acho que é um grande, grande problema”, disse ele.
Problemas com regras impostas pelo reconhecimento facial
Além das questões éticas das regras impostas pelo estado ou assumir o papel de um pai, Phoha disse que, com o reconhecimento facial, sempre há problemas de precisão.
“[Reconhecimento facial] pode ser falsificado com muita facilidade, especificamente, se for na frente de um computador e sendo feito remotamente como o da Tencent”, disse ele.
Se for obrigatório pelo Estado, e se for coercitivo ou resultar em medidas punitivas, então não estou muito confortável com isso.”
Se o reconhecimento facial se tornasse uma maneira mais amplamente aceita de impor regras, isso poderia afetar significativamente as pessoas de cor devido ao preconceito racial inerente à tecnologia. Vários estudos mostraram que o reconhecimento facial pode identificar incorretamente as pessoas, especialmente as de cor.
Usando as fotos de aplicativos de alta qualidade, as taxas de falsos positivos são mais altas em pessoas da África Ocidental e Oriental e do Leste Asiático, e mais baixas em indivíduos da Europa Oriental. Esse efeito geralmente é grande, com um fator de 100 falsos positivos a mais entre países”, diz parte de um estudo de 2019 do NIST sobre dados demográficos de reconhecimento facial.
Phoha acrescentou que, em pesquisas científicas, o reconhecimento facial é capaz de determinar muito mais do que apenas características faciais, incluindo detectar a frequência cardíaca de alguém e identificar se uma pessoa tem uma determinada doença.
A tecnologia de reconhecimento facial também pode detectar suas emoções. Por exemplo, o software de reconhecimento facial da Amazon, conhecido como Rekignition, pode detectar emoções nos rostos das pessoas, incluindo medo.
Phoha disse que estamos nos aproximando de um mundo de regras de reconhecimento facial/vigilância com esses tipos de tecnologia. Ele acrescentou que devemos ser especialmente cautelosos com um sistema de regras de reconhecimento facial exigido pelo estado.
“Quando eu quiser fazer login em um telefone e usar autenticação facial, posso fazê-lo a meu próprio critério – é minha escolha e posso usá-lo da maneira que quiser”, disse ele. “Mas se for obrigatório pelo Estado, e se for coercitivo ou resultar em medidas punitivas, então não me sinto muito confortável com isso.”
