Embora não seja um codificador especialista, um concentrador do governo usa bots para mostrar a uma agaªncia sua vulnerabilidade no site
Stephanie Mitchell / Fota³grafo da equipe de Harvard
Max Weiss '20 conduziu uma pesquisa sobre bots e
invadiu uma seção de comenta¡rios de sites do governo
com 1.000 comenta¡rios falsos.
Max Weiss '20 nunca pretendeu invadir o governo. Sua descoberta de como éfa¡cil fazer - descrita em um novo artigo que ele criou - teve a melhor das intenções.
Weiss, um concentrador do governo de Cincinnati, estava fazendo um trabalho de advocacia para a expansão e defesa do Estado no Medicaid no último vera£o, um projeto que combinava seus interesses em políticas públicas e assistaªncia médica. Enquanto estudava as maneiras pelas quais vários grupos de defesa de direitos podem influenciar a legislação pendente, ele aprendeu o quanto valioso esses grupos acham o período de comenta¡rios do governo federal, quando membros do paºblico são convidados a analisar a legislação nova ou pendente por meio de formula¡rios on-line. Ele percebeu como seria fa¡cil manipular os resultados usando bots - programas de computador que geram respostas automatizadas - para inundar os sites com respostas falsas a favor ou contra qualquer proposta.
O jovem de 21 anos detalhou suas descobertas em um artigo recente da Science Technology , "Os envios de Deepfake Bot a sites paºblicos federais de comenta¡rios não podem ser distinguidos dos envios humanos".
"Esta¡vamos gastando muito tempo e energia recebendo comenta¡rios de alta qualidade dos constituintes", disse Weiss. "Eu queria ter certeza de que essas agaªncias federais entendessem as possaveis consequaªncias de suas políticas e tive a ideia de poder usar um bot e enviar muitos comenta¡rios falsos".
Ele fez uma pausa, reconhecendo que corromper o processo era complicado: "Isso seria ruim para a democracia".
Mas o morador de Leverett House não conseguiu deixar de lado a idanãia e começou a pesquisar a viabilidade de tal esquema. Acontece que a submissão éfa¡cil de automatizar. As agaªncias federais tem alguma margem de manobra para descontar comenta¡rios obviamente duplicados ou irrelevantes. Mas as defesas tecnologiicas tipicas contra ataques, incluindo CAPTCHAS, detecção de anomalias e verificação externa - todas integradas a atividade on-line, do banco ao logon de e-mail - estavam praticamente ausentes.
"Uma das descobertas muito importantes do estudo éque alguém como eu, que éum programador muito novato, conseguiu abrir caminho no Google atravanãs de hackers do governo".
- Max Weiss
"A maioria desses sites realmente tem apenas uma caixa de texto para seus comenta¡rios paºblicos e, em seguida, um botão de envio", disse ele.
Durante a redação do artigo da Tech Science, Weiss percebeu que os especialistas em cibersegurança tocavam o alarme da vulnerabilidade de sites federais hános, mas transgressaµes anteriores usavam manãtodos de substituição relativamente pouco sofisticados. "Em 2017, houve 22 milhões de comenta¡rios postados para a proposta da FCC de revogar a neutralidade da rede", lembrou. "E verificou-se que 96% deles faziam parte de campanhas duplicadas".
Weiss usou manãtodos de IA para gerar um alto volume de comenta¡rios exclusivos do Deepfake sobre uma renaºncia proposta pelo Medicaid. Ele então escreveu um programa que automatizou o processo de envio e o executou em um laptop em seu dormita³rio ao longo de alguns dias. Ele enviou mais de 1.000 comenta¡rios falsos, que representavam 55% do total de envios e que foram encontrados pelos entrevistados como indistinguaveis dos comenta¡rios humanos. Posteriormente, ele notificou os Centros federais de Servia§os Medicare e Medicaid que comenta¡rios faziam parte de sua demonstração para impedir sua interferaªncia na avaliação autaªntica dos comenta¡rios paºblicos.
Entre as revelações mais assustadoras estava a admissão de Weiss de que ele era bem-sucedido sem ser um codificador especialista e sem equipamento especial. "Aprendi a codificar nos últimos quatro anos, apenas atravanãs de uma sanãrie de projetos pessoais e empregos de vera£o e uma aula", disse Weiss, que fez alguns cursos no novo programa de ciência da tecnologia. “Eu acho que uma das descobertas muito importantes do estudo éque alguém como eu, que éum programador muito novato, foi capaz de procurar no Google o caminho de invadir o governo.
"Sempre me interessei muito por políticas públicas", disse Weiss, que também gosta de escrever e interpretar comédias. “A maior parte do meu estudo do governo foi sobre polatica de saúde ou polatica de tecnologia ou tecnologia de interesse paºblico, então isso foi apenas uma espanãcie de santese de muitas coisas diferentes que eu aprendi no Departamento de Governo e apenas alguns projetos pessoais de tecnologia Eu fiz no passado.
"Max fez um trabalho inovador, exatamente o tipo de trabalho de impacto no mundo real que incentivamos nossos alunos a fazer" nas aulas de ciência da tecnologia, disse Latanya Sweeney, professora de governo e tecnologia na residaªncia e diretora do Data Privacy Lab do Institute for Quantitative Social Science, que atua como editor-chefe da Science Technology .
"Graças ao trabalho de Max, vários grupos do governo federal estãofazendomudanças ativamente para combater esse tipo de vulnerabilidade", acrescentou.