Campus

A promessa e as armadilhas da inteligência artificial exploradas no evento TEDxMIT
Os cientistas do MIT discutem o futuro da IA com aplicativos em muitos setores, como uma ferramenta que pode ser benaéfica e prejudicial.
Por Steve Nadis | - 16/01/2022


Fila superior, da esquerda para a direita: Diretora do CSAIL Daniela Rus, Professora Manolis Kellis, Professora Visitante S. Craig Watkins, Professora Marzyeh Ghassemi e Professora Assistente Cathy Wu. Fila inferior, da esquerda para a direita: Professor Associado Jinhua Zhao, Cientista Pesquisador Tian Gu, Professor Associado Ramesh Raskar, Professor Aleksander Madry e membros do MIT Ohms, grupo a cappella do sul da asia do MIT. Créditos: Fotos: Katherine Taylor

Cientistas, estudantes e membros da comunidade se reuniram no maªs passado para discutir a promessa e as armadilhas da inteligaªncia artificial no Laborata³rio de Ciência da Computação e Inteligaªncia Artificial do MIT (CSAIL) para o quarto evento TEDxMIT realizado no MIT. 

Os participantes foram entretidos e desafiados enquanto exploravam “o bom e o ruim da computação”, explicou a diretora do CSAIL, professora Daniela Rus, que organizou o evento com John Werner, membro do MIT e diretor administrativo da Link Ventures; a segundanista do MIT Lucy Zhao; e a estudante de pós-graduação Jessica Karaguesian. “Ao ouvir as palestras hoje”, disse Rus a  platanãia, “considere como nosso mundo émelhorado pela IA e também nossas responsabilidades intra­nsecas de garantir que a tecnologia seja implantada para um bem maior”.

Rus mencionou alguns novos recursos que podem ser ativados pela IA: um assistente pessoal automatizado que pode monitorar suas fases de sono e acorda¡-lo no momento ideal, bem como sensores no corpo que monitoram tudo, desde sua postura atéseu sistema digestivo. “A assistaªncia inteligente pode ajudar a capacitar e aumentar nossas vidas. Mas essas possibilidades intrigantes são devem ser perseguidas se pudermos resolver simultaneamente os desafios que essas tecnologias trazem”, disse Rus. 

O pra³ximo palestrante, investigador principal do CSAIL e professor de engenharia elanãtrica e ciência da computação Manolis Kellis, começou sugerindo o que parecia ser um objetivo inatinga­vel osusar a IA para “pa´r fim a  evolução como a conhecemos”. Olhando para isso da perspectiva da ciência da computação, ele disse, o que chamamos de evolução ébasicamente uma busca de força bruta. “Vocaª estãoapenas explorando todo o espaço de busca, criando bilhaµes de ca³pias de cada um de seus programas e deixando-os lutar uns contra os outros. Isso ésimplesmente brutal. E também écompletamente lento. Levamos bilhaµes de anos para chegar aqui.” Seria possí­vel, ele perguntou, acelerar a evolução e torna¡-la menos confusa?

A resposta, disse Kellis, éque podemos fazer melhor, e que já estamos fazendo melhor: “Nãoestamos matando pessoas como Esparta costumava fazer, jogando os fracos da montanha. Estamos realmente salvando a diversidade.”

Além disso, o conhecimento agora estãosendo amplamente compartilhado, transmitido “horizontalmente” por meio de fontes de informação acessa­veis, observou ele, em vez de “verticalmente”, de pais para filhos. “Gostaria de argumentar que a competição na espanãcie humana foi substitua­da pela colaboração. Apesar de ter um hardware cognitivo fixo, temos atualizações de software que são possibilitadas pela cultura, pelos 20 anos que nossos filhos passam na escola para encher seus cérebros com tudo o que a humanidade aprendeu, independentemente de qual familia o inventou. Este éo segredo de nossa grande aceleração” oso fato de que o avanço humano nos últimos séculos superou amplamente o ritmo lento da evolução.

O pra³ximo passo, disse Kellis, éaproveitar os insights sobre a evolução para combater a suscetibilidade genanãtica de um indiva­duo a  doena§a. “Nossa abordagem atual ésimplesmente insuficiente”, acrescentou. “Estamos tratando as manifestações da doena§a, não as causas da doena§a.” Um elemento-chave na ambiciosa estratanãgia de seu laboratório para transformar a medicina éidentificar “os caminhos causais pelos quais a predisposição genanãtica se manifesta. a‰ apenas entendendo esses caminhos que podemos realmente manipular a causa da doença e reverter o circuito da doena§a”. 

Kellis foi seguido por Aleksander Madry, professor de engenharia elanãtrica e ciência da computação do MIT e investigador principal do CSAIL, que disse a  multida£o: “o progresso na IA estãoacontecendo e estãoacontecendo rapidamente”. Programas de computador podem rotineiramente derrotar humanos em jogos como xadrez, pa´quer e Go. Então, devemos nos preocupar com a IA superando os humanos? 

Madry, por exemplo, não tem medo osou pelo menos ainda não. E parte dessa garantia decorre de pesquisas que o levaram a  seguinte conclusão: apesar de seu sucesso considera¡vel, a IA, especialmente na forma de aprendizado de ma¡quina, épreguia§osa. “Pense em ser preguia§oso como esse tipo de aluno inteligente que realmente não quer estudar para um exame. Em vez disso, o que ele faz éapenas estudar todos os exames dos últimos anos e procurar padraµes. Em vez de tentar realmente aprender, ele apenas tenta passar no teste. E éexatamente assim que a IA atual épreguia§osa.”

Um modelo de aprendizado de ma¡quina pode reconhecer ovelhas pastando, por exemplo, simplesmente escolhendo imagens que tenham grama verde nelas. Se um modelo étreinado para identificar peixes a partir de fotos de pescadores exibindo orgulhosamente suas capturas, Madry explicou, “o modelo descobre que se houver um humano segurando algo na imagem, eu o classificarei como um peixe”. As consequaªncias podem ser mais graves para um modelo de IA destinado a detectar tumores malignos. Se o modelo for treinado em imagens contendo ranãguas que indicam o tamanho dos tumores, o modelo pode acabar selecionando apenas as fotos que possuem ranãguas.

Isso leva a s maiores preocupações de Madry sobre a IA em sua forma atual. “A IA estãonos vencendo agora”, observou ele. “Mas a maneira como ele faz [envolve] um pouco de trapaa§a.” Ele teme que apliquemos a IA “de alguma forma na qual esse descompasso entre o que o modelo realmente faz versus o que pensamos que ele faz tera¡ algumas consequaªncias catastra³ficas”. As pessoas que confiam na IA, especialmente em situações potencialmente de vida ou morte, precisam estar muito mais atentas a s suas limitações atuais, advertiu Madry.

Houve 10 palestrantes no total, e o último a subir ao palco foi a professora associada de engenharia elanãtrica e ciência da computação do MIT e pesquisadora principal do CSAIL, Marzyeh Ghassemi, que expa´s sua visão de como a IA poderia contribuir melhor para a saúde e o bem-estar geral. Mas para que isso acontea§a, seus modelos devem ser treinados em dados médicos precisos, diversos e imparciais.

a‰ importante focar nos dados, enfatizou Ghassemi, porque esses modelos estãoaprendendo conosco. “Como nossos dados são gerados por humanos… uma rede neural estãoaprendendo a praticar com um médico. Mas os médicos são humanos, e os humanos cometem erros. E se um humano cometer um erro, e treinarmos uma IA a partir disso, a IA também o fara¡. Lixo dentro, lixo fora. Mas não écomo se o lixo fosse distribua­do igualmente.”

Ela apontou que muitos subgrupos recebem cuidados piores dos médicos, e os membros desses subgrupos morrem de certas condições em taxas desproporcionalmente altas. Esta éuma área, disse Ghassemi, “onde a IA pode realmente ajudar. Isso éalgo que podemos consertar.” Seu grupo estãodesenvolvendo modelos de aprendizado de ma¡quina robustos, privados e justos. O que os impede não são algoritmos nem GPUs. Sa£o dados. Assim que coletarmos dados confia¡veis ​​de diversas fontes, acrescentou Ghassemi, poderemos comea§ar a colher os benefa­cios que a IA pode trazer para a área da saúde.

Além dos palestrantes do CSAIL, houve palestras de membros do Instituto de Dados, Sistemas e Sociedade do MIT; a Iniciativa de Mobilidade do MIT; o Laborata³rio de Ma­dia do MIT; e o SENSEable City Lab.

O processo foi conclua­do com essa nota esperana§osa. Rus e Werner agradeceram a todos por terem vindo. “Por favor, continuem a refletir sobre o bem e o mal da computação”, pediu Rus. “E estamos ansiosos para vaª-lo de volta aqui em maio para o pra³ximo evento TEDxMIT.”

O tema exato do encontro da primavera de 2022 tera¡ algo a ver com “superpoderes”. Mas osse as apresentações alucinantes de dezembro foram alguma indicação osa oferta de maio équase certa para dar aos participantes muito em que pensar. E talvez fornecer a inspiração para uma ou duas startups.

 

.
.

Leia mais a seguir