Talento

Os projetos dos alunos usam a computação para garantir que a tecnologia sirva a sociedade
Elena Lucherini obteve notas altas em seus cursos de mestrado em ciência da computação na Itália, mas não pôde deixar de sentir que algo crucial estava faltando.
Por Rachel Nuwer - 03/02/2020


Elena Lucherini, estudante de ciências da computação, conversa com sua orientadora,
Arvind Narayanan, no Centro de Política de Tecnologia da Informação. Lucherini
está interessado no “efeito da tecnologia na sociedade como um todo e no impacto
que ela pode ter no seu dia a dia”.

Elena Lucherini obteve notas altas em seus cursos de mestrado em ciência da computação na Itália, mas não pôde deixar de sentir que algo crucial estava faltando. "Você codifica o dia todo e não precisa se preocupar com mais nada", disse ela. "Era apenas o material nerd, basicamente sem foco em ética ou política".

Para Lucherini , a tecnologia por causa da tecnologia não era suficiente. Ela estava pensando em deixar o campo completamente quando uma reunião casual com Arvind Narayanan , professor associado de ciência da computação no Centro de Política de Tecnologia da Informação de Princeton (CITP), mudou profundamente sua trajetória. "Arvind me disse que a ênfase no CITP não era apenas sobre codificação e tecnologia, mas sobre o efeito da tecnologia na sociedade como um todo e o impacto que ela pode ter no seu dia a dia", disse Lucherini. "Era exatamente nisso que eu estava interessado."

Agora, candidato a doutorado em ciência da computação no CITP, Lucherini está construindo um simulador que imita os sistemas de recomendação algorítmica empregados pelo YouTube, Amazon e muito mais. Em sites de mídia social, esses sistemas foram implicados em empurrar os espectadores para pontos de vista políticos extremos, mas seu trabalho técnico e impactos sociais são pouco compreendidos. Lucherini espera usar seu simulador para entender melhor os impactos que esses sistemas têm sobre os usuários e produzir resultados que informarão as decisões do mundo real. "Tudo o que fazemos no CITP é voltado para um impacto político ou para a sociedade", disse Lucherini. "Isso é realmente único, e para mim, muito mais interessante do que jogar ciência da computação".

A pesquisa de Lucherini resume a missão do CITP: aprofundar as questões complicadas de como a tecnologia e a computação afetam a sociedade, tanto positiva quanto negativamente. "Não se trata de tornar os computadores mais rápidos, melhores e menores", disse Narayanan. Em vez disso, os tópicos "pão com manteiga" do programa, ele continua, incluem privacidade, engano online, liberdade de expressão e expressão, liberdade para modificar dispositivos e política de IA. Os professores e colegas do CITP incluem não apenas cientistas da computação, mas também uma mistura de filósofos, sociólogos, cientistas políticos, economistas e psicólogos.

A mistura de disciplinas do CITP reflete com precisão as complexidades do mundo real, disse Matthew Salganik , professor de sociologia em Princeton e diretor interino do CITP.

"Acho que agora há uma percepção mais ampla em nosso campo de que não é mais suficiente se concentrar apenas na tecnologia", disse Ben Kaiser , doutorando em ciência da computação no CITP. "Os problemas mais desafiadores da ciência da computação moderna não podem ser resolvidos apenas pela tecnologia".

Pesquisa de Kaiser no grupo de Professor Assistente de Ciência da Computação e Relações Públicas Jonathan Mayer, por exemplo, concentra-se na disciplina emergente dos estudos de desinformação: como as informações falsas se espalham na Web, como as pessoas interagem com elas e como elas influenciam o voto, a participação eleitoral e muito mais. Embora os cientistas da computação tenham feito progressos na criação de intervenções que impedem as pessoas de clicarem em malware ou spam suspeito - filtros para email, por exemplo, ou páginas pop-up avisando que um site pode ser inseguro - eles ainda precisam determinar a melhor forma de alertar usuários que possam estar encontrando desinformação. "Precisamos de todo um conjunto de métodos para responder à desinformação, e os avisos serão uma parte essencial desse conjunto de ferramentas", disse Kaiser. "Meu estudo é a primeira tentativa de verificar se as técnicas usadas para outros tipos de avisos de segurança também podem funcionar para desinformação e como refiná-las para serem mais eficazes".

Para explorar isso, Kaiser e Jerry Wei, um estudante de mestrado do CITP, criaram vários alertas com base nos avisos existentes incorporados ao Google Chrome. Ele recrutou estudantes de Princeton para participar de uma tarefa de recuperação de informações on-line na qual alguns encontraram avisos e outros não. Ele analisou se aqueles que encontraram os avisos mudaram seu comportamento e quais avisos funcionaram melhor e que tipo de influência eles tiveram. "Uma coisa que percebemos nesse estudo é que o clique por si só não é uma métrica suficiente para medir se um aviso é eficaz", disse Kaiser. "Ao contrário de um aviso de segurança que alerta sobre uma ameaça direta de hackers em sua conta bancária, existem várias razões pelas quais as pessoas podem clicar em um aviso de desinformação".

Kaiser agora está trabalhando em um estudo on-line em maior escala usando uma ferramenta da web que imita uma pesquisa no Google, mas fornece a ele controle completo sobre o conteúdo. Ao colocar os participantes em um ambiente controlado e simulado, ele pode se aprofundar nas nuances de como as pessoas respondem aos avisos em um ambiente realista. Ele está testando como as respostas das pessoas variam quando os avisos são sutilmente alterados, como subdividir um triângulo para um sinal de parada ou a frase "desinformação" para "notícias falsas", baseando-se no princípio das ciências sociais chamado problema de bandidos com várias armas. . O método mede a eficácia da tomada de decisões com recursos limitados quando várias opções estão disponíveis, como quando um jogador está tentando maximizar os ganhos em um caça-níqueis.

O trabalho de Kaiser poderia um dia ser a base de avisos implantados em toda a Web, o que reflete o objetivo do centro de identificar e abordar "as coisas sobre as quais as pessoas falarão amanhã", como Salganik colocou, e traduzir suas descobertas no mundo real. alterar.

Em 2014, por exemplo, Narayanan e seu ex-aluno de doutorado, Steven Englehardt, que agora trabalha como engenheiro de privacidade do Firefox na Mozilla, e seu ex-pesquisador de pós-doutorado, Günes Acar, lançaram o OpenWPM , um programa de código aberto que envia bot em torno de 1 milhão de sites por mês, fingindo ser um usuário real. O bot coleta dados sobre cookies, scripts de impressões digitais e outros truques nos bastidores que um usuário humano não vê, mas que afetam sua privacidade. Narayanan, Englehardt, Acar e seus colegas publicaram vários artigos altamente citados sobre suas descobertas, assim como outros pesquisadores, resultando em mais de 50 artigos baseados no OpenWPM. The New York Times e The Washington Post escreveram histórias de investigação usando a ferramenta.

"Este é um exemplo do modo incomum de trabalho do CITP, no qual colocamos o interesse público em primeiro lugar e nos preocupamos com os pontos acadêmicos do brownie", disse Narayanan sobre sua decisão de lançar o OpenWPM antes de publicar um trabalho de pesquisa sobre o assunto.

A política de influência é outra maneira de afetar as mudanças. O CITP se beneficia de vários membros do corpo docente que passaram algum tempo trabalhando no governo e de vários graduados que seguiram carreiras nos níveis federal e estadual. "Nós construímos um entendimento de como o governo funciona e quais alavancas estão disponíveis para causar um impacto político", disse Narayanan.

Para fazer isso de maneira ainda mais eficaz, em 2019, o CITP abriu uma clínica de política de tecnologia - talvez o primeiro programa desse tipo fora de uma faculdade de direito. "Não há realmente nada parecido em nenhum outro lugar", disse Mihir Kshirsagar , líder da clínica, que anteriormente trabalhava como advogado no Departamento de Internet e Tecnologia do Gabinete do Procurador-Geral do Estado de Nova York. "Meu objetivo é ajudar os tecnólogos a entender como as políticas funcionam e contribuir para os debates sobre políticas do mundo real e, ao mesmo tempo, fazer com que esses debates informem a agenda de pesquisa".

 

Play video: Um estudante de graduação enquanto mostra publicidade em uma tela de laptop
Play Video: Consumidores CITP, sociedade e tecnologia
Arunesh Mathur, um estudante de graduação em ciência da computação e CITP, descreve descobertas recentes sobre a falta de transparência nas revisões que ganham dinheiro com os produtos que estão sendo revisados.

Arunesh Mathur , um estudante de pós-graduação em ciência da computação no CITP, está usando os recursos da clínica de políticas para investigar mais detalhadamente como as organizações ao redor do mundo se envolvem em práticas manipuladoras, às vezes ilegais. Em um estudo, ele e os colaboradores usaram técnicas de aprendizado de máquina para analisar os influenciadores do YouTube que são pagos para promover produtos. Os pesquisadores descobriram que apenas 10% revelaram que estavam anunciando um produto, violando várias leis. Em outro estudo, Mathur e colaboradores identificaram cerca de 1.200 ocorrências de padrões escuros , ou interfaces em grandes plataformas como Facebook, Google e outras que são projetadas para induzir os usuários a fazer coisas que normalmente não fariam, como entregar informações privadas ou comprar algo .

Michael Swart, formado em Princeton, formado em 2019, trabalhou com os pesquisadores para desenvolver uma extensão, chamada Adtuition, para os navegadores Chrome e Firefox, que alerta os usuários para a publicidade não identificada.

"O CITP é um centro que analisa questões que são importantes para o mundo", disse Mathur. "Estudamos coisas muito técnicas, juntamente com as ciências sociais, psicologia, ciência política e outras disciplinas que nos ajudam a entender como a tecnologia afeta a sociedade em um nível muito mais informado".

 

.
.

Leia mais a seguir