Uma equipe do Centro Minderoo para Tecnologia e Democracia da Universidade de Cambridge criou a nova ferramenta de auditoria para avaliar a “conformidade com a lei e a orientação nacional” em torno de questões como privacidade, igualdade e liberdade de expressão e reunião.

Com base nas descobertas, publicadas em um novo relatório , os especialistas estão se unindo aos pedidos de proibição do uso policial de reconhecimento facial em espaços públicos.

“Há uma falta de mecanismos robustos de reparação para indivíduos e comunidades prejudicados pela implantação da tecnologia pela polícia”, disse a principal autora do relatório, Evani Radiya-Dixit, pesquisadora visitante do Minderoo Centre de Cambridge.

“Para proteger os direitos humanos e melhorar a responsabilidade sobre como a tecnologia é usada, devemos perguntar quais valores queremos incorporar à tecnologia.”

Os pesquisadores construíram a ferramenta de auditoria com base nas diretrizes legais atuais – incluindo os atos de Igualdade e Proteção de Dados do Reino Unido – bem como resultados de processos judiciais do Reino Unido e feedback de organizações da sociedade civil e do Information Commissioner's Office.

Eles aplicaram seus padrões éticos e legais a três usos da tecnologia de reconhecimento facial (FRT) pela polícia do Reino Unido. Um foi o caso do tribunal de Bridges, no qual um ativista das liberdades civis de Cardiff apelou contra o uso de FRT automatizado pela Polícia de Gales do Sul para escanear multidões ao vivo e comparar rostos com aqueles em uma “lista de observação” criminosa.  

Os pesquisadores também testaram os testes da Polícia Metropolitana de uso semelhante de FRT ao vivo e um outro exemplo da Polícia de South Wales, em que os policiais usaram aplicativos de FRT em seus smartphones para escanear multidões e identificar “indivíduos procurados em tempo real”.

Em todos os três casos, eles descobriram que informações importantes sobre o uso do FRT pela polícia são “mantidas de vista”, incluindo dados demográficos escassos publicados sobre prisões ou outros resultados, tornando difícil avaliar se as ferramentas “perpetuam o perfil racial”, dizem os pesquisadores.

Além da falta de transparência, os pesquisadores encontraram pouco em termos de responsabilidade – sem recurso claro para pessoas ou comunidades afetadas negativamente pelo uso ou mau uso da tecnologia pela polícia. “As forças policiais não são necessariamente responsáveis ??por danos causados ??pela tecnologia de reconhecimento facial”, disse Radiya-Dixit.

Alguns dos usos de FRT careciam de supervisão regular de um comitê de ética independente ou mesmo do público, dizem os pesquisadores, e não fizeram o suficiente para garantir que houvesse um “humano no circuito” confiável ao escanear um número incontável de rostos entre multidões de milhares enquanto caça aos criminosos.

No julgamento do aplicativo de smartphone da Polícia de Gales do Sul, até mesmo a “lista de observação” incluía imagens de pessoas inocentes sob a lei do Reino Unido – aquelas previamente presas, mas não condenadas – apesar do fato de que a retenção de tais imagens é ilegal.

“Descobrimos que todas essas três implantações não atendem aos padrões éticos e legais mínimos com base em nossa pesquisa sobre o uso policial de reconhecimento facial”, disse Radiya-Dixit.

A professora Gina Neff, diretora executiva do Minderoo Center for Technology and Democracy, disse: “Nos últimos anos, as forças policiais de todo o mundo, inclusive na Inglaterra e no País de Gales, implantaram tecnologias de reconhecimento facial. Nosso objetivo era avaliar se essas implantações usavam práticas conhecidas para o uso seguro e ético dessas tecnologias.” 

“A construção de um sistema de auditoria exclusivo nos permitiu examinar as questões de privacidade, igualdade, responsabilidade e supervisão que devem acompanhar qualquer uso de tais tecnologias pela polícia”, disse Neff.

Os oficiais estão cada vez mais com poucos recursos e sobrecarregados, escrevem os pesquisadores, e o FRT é visto como uma maneira rápida, eficiente e barata de rastrear pessoas de interesse.

Pelo menos dez forças policiais na Inglaterra e no País de Gales testaram o reconhecimento facial, com testes envolvendo o uso de FRT para fins de policiamento operacional – embora diferentes forças usem padrões diferentes.

As questões de privacidade são profundas para a tecnologia de policiamento que verifica e potencialmente retém um grande número de imagens faciais sem conhecimento ou consentimento. Os pesquisadores destacam um possível “efeito arrepiante” se o FRT levar a uma relutância em exercer direitos fundamentais entre o público – direito de protestar, por exemplo – por medo de possíveis consequências.

O uso de FRT também levanta preocupações de discriminação. Os pesquisadores apontam que, historicamente, os sistemas de vigilância são usados ??para monitorar grupos marginalizados, e estudos recentes sugerem que a própria tecnologia contém um viés inerente que identifica desproporcionalmente mulheres, pessoas de cor e pessoas com deficiência.

Dadas as lacunas regulatórias e as falhas no cumprimento dos padrões mínimos estabelecidos pelo novo kit de ferramentas de auditoria, os pesquisadores escrevem que apoiam os pedidos de “proibição do uso policial de reconhecimento facial em espaços acessíveis ao público”.