A repórter de tecnologia Kashmir Hill escreve sobre a intersecção entre privacidade e tecnologia há mais de uma década, mas até ela ficou chocada quando se deparou com um memorando legal em 2019 descrevendo um aplicativo de reconhecimento facial que poderia identificar qualquer pessoa com base em uma imagem. Ela viu imediatamente o potencial que esta tecnologia tinha para se tornar o material de um pesadelo distópico, a “ferramenta de vigilância definitiva”, representando imensos riscos para a privacidade e as liberdades civis.

Hill relembrou esse incidente a Jonathan Zittrain , professor George Bemis de Direito Internacional e diretor do Berkman Klein Center for Internet & Society , como parte de uma conversa na quarta-feira na Harvard Law School sobre seu novo livro, “Your Face Belongs to Us: A Secretive Startup's Busca para acabar com a privacidade como a conhecemos.”

A obra narra a história da Clearview AI, uma startup pequena e secreta que lançou um aplicativo em 2017, usando um banco de dados de 30 bilhões de fotos extraídas de plataformas de mídia social sem o consentimento dos usuários. A empresa, liderada pelo engenheiro de computação australiano Hoan Ton-That, foi multada na Europa e na Austrália por violações de privacidade.

“Eu diria que a Clearview fez um avanço ético, não tecnológico”, disse Hill, que escreveu a primeira grande história sobre a tecnologia em 2020, provocando reações de empresas de tecnologia e defensores da privacidade. “Eles estavam dispostos a fazer o que outras empresas como o Google e o Facebook não estavam dispostas a fazer... Todas as empresas de tecnologia concordaram que a única coisa que ninguém deveria fazer é criar um aplicativo no qual você pudesse simplesmente tirar uma foto de um estranho e então descubra quem eles são.

Hill falou da necessidade de criar regulamentos para salvaguardar a privacidade dos utilizadores e controlar as plataformas de redes sociais que lucram com as informações pessoais dos utilizadores sem o seu consentimento. Alguns estados aprovaram leis para proteger o direito das pessoas de aceder a informações pessoais partilhadas em sites de redes sociais e o direito de as eliminar, mas isso não é suficiente, disse ela.

“É um pouco como um Velho Oeste, e estou preocupado que não estejamos fazendo o suficiente sobre isso”, disse Hill. “Temos leis de privacidade, mas não temos nada em nível federal que aborde o que a Clearview fez.”

O software da Clearview é usado em investigações criminais e pelas autoridades policiais para identificar os manifestantes de 6 de janeiro, disse Hill. A tecnologia de reconhecimento facial também pode ser usada para intimidar ou assediar jornalistas investigativos, funcionários do governo ou oponentes políticos, disse ela. Também pode levar a detenções injustas, e ela disse que deveriam ser implementadas medidas para regular a sua utilização.

“Se vamos usar o reconhecimento facial no policiamento, queremos usar um banco de dados como o Clearview, que analisa 30 bilhões de rostos, incluindo provavelmente todos nós nesta sala, para encontrar uma correspondência com um ladrão de lojas em Nova Orleans?” disse Colina.

Zittrain, que criticou as práticas da Clearview em uma coluna do Washington Post de 2020, disse que as medidas para proteger a privacidade do usuário estão muito atrasadas, mas reconheceu que não é um debate fácil com as autoridades a favor e os defensores da privacidade contra.

Durante a palestra do livro, Zittrain perguntou ao público se eles teriam preferido usar Clearview para identificar manifestantes que participaram do ataque de 6 de janeiro ao Capitólio ou para identificar soldados russos mortos na Ucrânia para serem devolvidos às suas famílias. “Quantas pessoas acham que esse é um uso bom e salutar do Clearview?” perguntou Zittrain. “É o tipo de coisa que complica a história.”

Para demonstrar como funciona o reconhecimento facial instantâneo, Hill e Zittrain mostraram ao público um aplicativo chamado PimEyes , que oferece diversos planos de preços e usa a mesma tecnologia do Clearview. Depois que Hill carregou uma foto sua no aplicativo, ele exibiu mais de uma dúzia de outras fotos dela com links para onde foram publicadas.

“Veja aqui”, disse Hill, “só encontrei fotos minhas. Nem sequer tinha doppelgangers. Sou tudo eu… Quando carreguei minha foto, ele analisou meu rosto e descobriu um identificador biométrico, e então examinou seu banco de dados. Você pode ver que funciona muito bem.”

 Com 2,8 bilhões de rostos em seu banco de dados, o PimEyes não atraiu tanta atenção quanto o Clearview, disse Hill.

Com sede nos Emirados Árabes Unidos e escritórios jurídicos “em algum lugar do Caribe”, a empresa é dirigida por um homem que mora na Geórgia. Depois que Hill escreveu um artigo sobre ameaças de IA às crianças, PimEyes bloqueou buscas em rostos de menores, disse ela. Existem vários aplicativos de reconhecimento facial no mercado que são imitadores do Clearview.

“O PimEyes não recebeu tanta atenção, embora esteja disponível e qualquer um possa usá-lo”, disse Hill. “Você pode pagar US$ 30 por mês e pode usá-los nas pessoas nesta sala agora mesmo.”

Embora a tecnologia de reconhecimento facial possa ser utilizada para bons fins, como investigações criminais, os perigos que representa para os direitos de privacidade podem superar os seus benefícios, disse Hill. Tanto o direito à privacidade como o direito dos utilizadores de controlar as suas informações pessoais partilhadas nas plataformas de redes sociais devem ser protegidos, acrescentou. As novas leis para proteger esses direitos devem ser modeladas a partir de regulamentos que tornaram ilegais as escutas telefónicas, ou a gravação de comunicações entre as partes sem o seu consentimento.

As recentes leis de privacidade na Europa restringem a forma como os dados pessoais são recolhidos e tratados pelas plataformas de redes sociais. E em 2008, Illinois aprovou a Lei de Privacidade de Informações Biométricas (BIPA), uma iniciativa liderada pela ACLU de Illinois, que garante que os indivíduos tenham controle de seus próprios dados biométricos (ou seja, impressões digitais, varreduras de íris, DNA) e proíbe empresas privadas de coletá-los, a menos que informem os usuários e obtenham seu consentimento por escrito. A tecnologia não vai abrandar, por isso a lei precisa de acompanhar e regular a sua utilização, disse Hill.

“Não acredito que só porque existe uma tecnologia e é capaz de fazer isso, apenas temos que aceitá-la”, disse Hill. “Parte da razão pela qual escrevi este livro foi porque estou preocupado que isso esteja apenas se espalhando e que não estejamos fazendo o suficiente para escolher o mundo em que queremos viver. Estamos deixando a tecnologia ditar isso.”