Tecnologia Científica

“Fazendo o aprendizado de ma¡quina da maneira certa”
O professor Aleksander Madry se esforça para criar modelos de aprendizado de ma¡quina mais confia¡veis, compreensa­veis e robustos.
Por Rob Matheson - 08/03/2020

Imagem: Ian MacLellan
Alexander Madry

O trabalho do cientista da computação do MIT Aleksander Madry éalimentado por uma missão central: "fazer o aprendizado de ma¡quina da maneira certa".

A pesquisa de Madry se concentra principalmente em tornar o aprendizado de ma¡quina - um tipo de inteligaªncia artificial - mais preciso, eficiente e robusto contra erros. Na sala de aula e além , ele também se preocupa com questões de computação anãtica, a  medida que nos aproximamos de uma era em que a inteligaªncia artificial tera¡ grande impacto em muitos setores da sociedade.

"Quero que a sociedade adote verdadeiramente o aprendizado de ma¡quina", diz Madry, um professor recanãm-formado no Departamento de Engenharia Elanãtrica e Ciência da Computação. "Para fazer isso, precisamos descobrir como treinar modelos que as pessoas possam usar com segurança, confiabilidade e da maneira que entenderem."

Curiosamente, seu trabalho com aprendizado de ma¡quina data de apenas alguns anos, atépouco depois de ingressar no MIT em 2015. Nesse período, seu grupo de pesquisa publicou vários artigos cra­ticos demonstrando que certos modelos podem ser facilmente enganados para produzir resultados imprecisos - e mostrando como torna¡-los mais robustos.

No final, ele pretende tornar as decisaµes de cada modelo mais interpreta¡veis ​​pelos seres humanos, para que os pesquisadores possam olhar para dentro para ver onde as coisas deram errado. Ao mesmo tempo, ele deseja permitir que não especialistas implantem os modelos aprimorados no mundo real para, digamos, ajudar a diagnosticar doenças ou controlar carros sem motorista.

“Nãose trata apenas de tentar abrir a caixa preta de aprendizado de ma¡quina. Quero abrir, ver como funciona e embala¡-lo de volta, para que as pessoas possam usa¡-lo sem precisar entender o que estãoacontecendo la¡ dentro ”, diz ele.

Pelo amor de algoritmos

Madry nasceu em Wroclaw, Pola´nia, onde cursou a Universidade de Wroclaw em meados dos anos 2000. Enquanto ele nutria interesse em ciência da computação e física, "nunca pensei que me tornaria um cientista", diz ele.

Um jogador de va­deo a¡vido, Madry inicialmente se matriculou no programa de ciência da computação com a intenção de programar seus pra³prios jogos. Mas, ao juntar amigos em algumas aulas de ciência da computação tea³rica e, em particular, teoria de algoritmos, ele se apaixonou pelo material. A teoria do algoritmo tem como objetivo encontrar procedimentos de otimização eficientes para resolver problemas computacionais, o que requer o enfrentamento de questões matemáticas difa­ceis. "Percebi que gosto de pensar profundamente em algo e tentar descobrir", diz Madry, que se formou em física e ciência da computação.

Quando se aprofundou em algoritmos na pós-graduação, ele foi para sua primeira escolha: MIT. Aqui, ele trabalhou com Michel X. Goemans, que era uma figura importante em matemática aplicada e otimização de algoritmos, e Jonathan A. Kelner, que havia acabado de chegar ao MIT como um corpo docente jaºnior que trabalhava nesse campo. Para sua dissertação de doutorado, Madry desenvolveu algoritmos que resolveram vários problemas de longa data em algoritmos de grafos, recebendo o praªmio de dissertação de doutorado George M. Sprowls 2011 pela melhor tese de doutorado do MIT em ciência da computação.

Apa³s seu doutorado, Madry passou um ano como pa³s-doutorado na Microsoft Research New England, antes de lecionar por três anos no Instituto Federal Sua­a§o de Tecnologia de Lausanne - que Madry chama de "a versão sua­a§a do MIT". Mas sua alma mater continuou chamando-o de volta: “O MIT tem a energia emocionante que estava perdendo. Esta¡ no meu DNA.

Obtendo adversa¡rio

Logo após ingressar no MIT, Madry se viu envolvido em uma nova ciaªncia: aprendizado de ma¡quina. Em particular, ele se concentrou em entender o paradigma reemergente da aprendizagem profunda. Esse éum aplicativo de inteligaªncia artificial que usa várias camadas de computação para extrair recursos de altonívelda entrada bruta - como o uso de dados nonívelde pixel para classificar imagens. O campus do MIT estava, na anãpoca, repleto de novas inovações no doma­nio.

Mas isso gerou a pergunta: o aprendizado de ma¡quina era todo hype ou ciência sãolida? "Pareceu funcionar, mas ninguanãm realmente entendeu como e por quaª", diz Madry.

Responder a essa pergunta levou seu grupo a uma longa jornada, executando experimentos após experimentos em modelos de aprendizado profundo para entender os princa­pios subjacentes. Um marco importante nessa jornada foi um artigo influente publicado em 2018, desenvolvendo uma metodologia para tornar os modelos de aprendizado de ma¡quina mais resistentes a "exemplos contradita³rios". Exemplos adversos são pequenas perturbações na entrada de dados que são impercepta­veis aos seres humanos - como alterar a cor de um pixel em uma imagem - mas fazem com que um modelo faz previsaµes imprecisas. Eles iluminam uma grande falha das ferramentas de aprendizado de ma¡quina existentes.

Continuando essa linha de trabalho, o grupo de Madry mostrou que a existaªncia desses misteriosos exemplos contradita³rios pode contribuir para o modo como os modelos de aprendizado de ma¡quina tomam decisaµes. Em particular, os modelos projetados para diferenciar imagens de, digamos, ca£es e gatos, tomam decisaµes com base em recursos que não se alinham a  maneira como os humanos fazem classificações. Simplesmente alterar esses recursos pode fazer com que o modelo classifique erroneamente gatos como ca£es, sem alterar nada na imagem que seja realmente significativo para os seres humanos.

Os resultados indicaram que alguns modelos - que podem ser usados ​​para, por exemplo, identificar anormalidades em imagens médicas ou ajudar carros auta´nomos a identificar objetos na estrada - não são exatamente adequados. "As pessoas costumam pensar que esses modelos são sobre-humanos, mas na verdade não resolveram o problema de classificação que pretendemos resolver", diz Madry. “E a completa vulnerabilidade deles a exemplos contradita³rios era uma manifestação desse fato. Essa foi uma descoberta reveladora.

a‰ por isso que Madry procura tornar os modelos de aprendizado de ma¡quina mais interpreta¡veis ​​para os seres humanos. Os novos modelos que ele desenvolveu mostram quanto certos pixels nas imagens em que o sistema étreinado podem influenciar as previsaµes do sistema. Os pesquisadores podem ajustar os modelos para se concentrarem nos aglomerados de pixels mais intimamente correlacionados com os recursos identifica¡veis ​​- como detectar o focinho, as orelhas e a cauda de um animal. No final, isso ajudara¡ a tornar os modelos mais parecidos com os humanos - ou "sobre-humanos" - em suas decisaµes. Para continuar este trabalho, Madry e seus colegas fundaram recentemente o Centro de Aprendizado de Ma¡quina Implanta¡vel do MIT , um esfora§o de pesquisa colaborativo que trabalha para criar ferramentas de aprendizado de ma¡quina prontas para implantação no mundo real.

“Queremos o aprendizado de ma¡quina não apenas como um brinquedo, mas como algo que vocêpode usar em, digamos, um carro auta´nomo ou assistaªncia médica. No momento, não entendemos o suficiente para ter confianção suficiente para essas aplicações cra­ticas ”, diz Madry.

Moldando a educação e a pola­tica

Madry vaª a inteligaªncia artificial e a tomada de decisaµes ("AI + D" éuma das três novas unidades acadaªmicas do Departamento de Engenharia Elanãtrica e Ciência da Computação) como "a interface da computação que tera¡ o maior impacto na sociedade".

Nesse sentido, ele certifica-se de expor seus alunos ao aspecto humano da computação. Em parte, isso significa considerar as consequaªncias do que eles estãoconstruindo. Frequentemente, ele diz, os alunos sera£o excessivamente ambiciosos na criação de novas tecnologias, mas não pensaram em possa­veis ramificações para os indivíduos e a sociedade. "Construir algo legal não éuma razãosuficientemente boa para construir algo", diz Madry. "Trata-se de pensar não se podemos construir algo, mas se devemos construir algo."

Madry também tem se envolvido em conversas sobre leis e políticas para ajudar a regular o aprendizado de ma¡quina. Um ponto dessas discussaµes, diz ele, éentender melhor os custos e benefa­cios da liberação de tecnologias de aprendizado de ma¡quina na sociedade.

“a€s vezes superestimamos o poder do aprendizado de ma¡quina, pensando que seránossa salvação. a€s vezes subestimamos o custo que isso pode ter para a sociedade ”, diz Madry. "Para fazer o aprendizado de ma¡quina certo, ainda resta muito a descobrir."

 

.
.

Leia mais a seguir