Campus

A promessa e as armadilhas da inteligência artificial exploradas no evento TEDxMIT
Os cientistas do MIT discutem o futuro da IA ​​com aplicativos em muitos setores, como uma ferramenta que pode ser benéfica e prejudicial.
Por Steve Nadis | - 16/01/2022


Fila superior, da esquerda para a direita: Diretora do CSAIL Daniela Rus, Professora Manolis Kellis, Professora Visitante S. Craig Watkins, Professora Marzyeh Ghassemi e Professora Assistente Cathy Wu. Fila inferior, da esquerda para a direita: Professor Associado Jinhua Zhao, Cientista Pesquisador Tian Gu, Professor Associado Ramesh Raskar, Professor Aleksander Madry e membros do MIT Ohms, grupo a cappella do sul da Ásia do MIT. Créditos: Fotos: Katherine Taylor

Cientistas, estudantes e membros da comunidade se reuniram no mês passado para discutir a promessa e as armadilhas da inteligência artificial no Laboratório de Ciência da Computação e Inteligência Artificial do MIT (CSAIL) para o quarto evento TEDxMIT realizado no MIT. 

Os participantes foram entretidos e desafiados enquanto exploravam “o bom e o ruim da computação”, explicou a diretora do CSAIL, professora Daniela Rus, que organizou o evento com John Werner, membro do MIT e diretor administrativo da Link Ventures; a segundanista do MIT Lucy Zhao; e a estudante de pós-graduação Jessica Karaguesian. “Ao ouvir as palestras hoje”, disse Rus à platéia, “considere como nosso mundo é melhorado pela IA e também nossas responsabilidades intrínsecas de garantir que a tecnologia seja implantada para um bem maior”.

Rus mencionou alguns novos recursos que podem ser ativados pela IA: um assistente pessoal automatizado que pode monitorar suas fases de sono e acordá-lo no momento ideal, bem como sensores no corpo que monitoram tudo, desde sua postura até seu sistema digestivo. “A assistência inteligente pode ajudar a capacitar e aumentar nossas vidas. Mas essas possibilidades intrigantes só devem ser perseguidas se pudermos resolver simultaneamente os desafios que essas tecnologias trazem”, disse Rus. 

O próximo palestrante, investigador principal do CSAIL e professor de engenharia elétrica e ciência da computação Manolis Kellis, começou sugerindo o que parecia ser um objetivo inatingível – usar a IA para “pôr fim à evolução como a conhecemos”. Olhando para isso da perspectiva da ciência da computação, ele disse, o que chamamos de evolução é basicamente uma busca de força bruta. “Você está apenas explorando todo o espaço de busca, criando bilhões de cópias de cada um de seus programas e deixando-os lutar uns contra os outros. Isso é simplesmente brutal. E também é completamente lento. Levamos bilhões de anos para chegar aqui.” Seria possível, ele perguntou, acelerar a evolução e torná-la menos confusa?

A resposta, disse Kellis, é que podemos fazer melhor, e que já estamos fazendo melhor: “Não estamos matando pessoas como Esparta costumava fazer, jogando os fracos da montanha. Estamos realmente salvando a diversidade.”

Além disso, o conhecimento agora está sendo amplamente compartilhado, transmitido “horizontalmente” por meio de fontes de informação acessíveis, observou ele, em vez de “verticalmente”, de pais para filhos. “Gostaria de argumentar que a competição na espécie humana foi substituída pela colaboração. Apesar de ter um hardware cognitivo fixo, temos atualizações de software que são possibilitadas pela cultura, pelos 20 anos que nossos filhos passam na escola para encher seus cérebros com tudo o que a humanidade aprendeu, independentemente de qual família o inventou. Este é o segredo de nossa grande aceleração” – o fato de que o avanço humano nos últimos séculos superou amplamente o ritmo lento da evolução.

O próximo passo, disse Kellis, é aproveitar os insights sobre a evolução para combater a suscetibilidade genética de um indivíduo à doença. “Nossa abordagem atual é simplesmente insuficiente”, acrescentou. “Estamos tratando as manifestações da doença, não as causas da doença.” Um elemento-chave na ambiciosa estratégia de seu laboratório para transformar a medicina é identificar “os caminhos causais pelos quais a predisposição genética se manifesta. É apenas entendendo esses caminhos que podemos realmente manipular a causa da doença e reverter o circuito da doença”. 

Kellis foi seguido por Aleksander Madry, professor de engenharia elétrica e ciência da computação do MIT e investigador principal do CSAIL, que disse à multidão: “o progresso na IA está acontecendo e está acontecendo rapidamente”. Programas de computador podem rotineiramente derrotar humanos em jogos como xadrez, pôquer e Go. Então, devemos nos preocupar com a IA superando os humanos? 

Madry, por exemplo, não tem medo – ou pelo menos ainda não. E parte dessa garantia decorre de pesquisas que o levaram à seguinte conclusão: apesar de seu sucesso considerável, a IA, especialmente na forma de aprendizado de máquina, é preguiçosa. “Pense em ser preguiçoso como esse tipo de aluno inteligente que realmente não quer estudar para um exame. Em vez disso, o que ele faz é apenas estudar todos os exames dos últimos anos e procurar padrões. Em vez de tentar realmente aprender, ele apenas tenta passar no teste. E é exatamente assim que a IA atual é preguiçosa.”

Um modelo de aprendizado de máquina pode reconhecer ovelhas pastando, por exemplo, simplesmente escolhendo imagens que tenham grama verde nelas. Se um modelo é treinado para identificar peixes a partir de fotos de pescadores exibindo orgulhosamente suas capturas, Madry explicou, “o modelo descobre que se houver um humano segurando algo na imagem, eu o classificarei como um peixe”. As consequências podem ser mais graves para um modelo de IA destinado a detectar tumores malignos. Se o modelo for treinado em imagens contendo réguas que indicam o tamanho dos tumores, o modelo pode acabar selecionando apenas as fotos que possuem réguas.

Isso leva às maiores preocupações de Madry sobre a IA em sua forma atual. “A IA está nos vencendo agora”, observou ele. “Mas a maneira como ele faz [envolve] um pouco de trapaça.” Ele teme que apliquemos a IA “de alguma forma na qual esse descompasso entre o que o modelo realmente faz versus o que pensamos que ele faz terá algumas consequências catastróficas”. As pessoas que confiam na IA, especialmente em situações potencialmente de vida ou morte, precisam estar muito mais atentas às suas limitações atuais, advertiu Madry.

Houve 10 palestrantes no total, e o último a subir ao palco foi a professora associada de engenharia elétrica e ciência da computação do MIT e pesquisadora principal do CSAIL, Marzyeh Ghassemi, que expôs sua visão de como a IA poderia contribuir melhor para a saúde e o bem-estar geral. Mas para que isso aconteça, seus modelos devem ser treinados em dados médicos precisos, diversos e imparciais.

É importante focar nos dados, enfatizou Ghassemi, porque esses modelos estão aprendendo conosco. “Como nossos dados são gerados por humanos… uma rede neural está aprendendo a praticar com um médico. Mas os médicos são humanos, e os humanos cometem erros. E se um humano cometer um erro, e treinarmos uma IA a partir disso, a IA também o fará. Lixo dentro, lixo fora. Mas não é como se o lixo fosse distribuído igualmente.”

Ela apontou que muitos subgrupos recebem cuidados piores dos médicos, e os membros desses subgrupos morrem de certas condições em taxas desproporcionalmente altas. Esta é uma área, disse Ghassemi, “onde a IA pode realmente ajudar. Isso é algo que podemos consertar.” Seu grupo está desenvolvendo modelos de aprendizado de máquina robustos, privados e justos. O que os impede não são algoritmos nem GPUs. São dados. Assim que coletarmos dados confiáveis ​​de diversas fontes, acrescentou Ghassemi, poderemos começar a colher os benefícios que a IA pode trazer para a área da saúde.

Além dos palestrantes do CSAIL, houve palestras de membros do Instituto de Dados, Sistemas e Sociedade do MIT; a Iniciativa de Mobilidade do MIT; o Laboratório de Mídia do MIT; e o SENSEable City Lab.

O processo foi concluído com essa nota esperançosa. Rus e Werner agradeceram a todos por terem vindo. “Por favor, continuem a refletir sobre o bem e o mal da computação”, pediu Rus. “E estamos ansiosos para vê-lo de volta aqui em maio para o próximo evento TEDxMIT.”

O tema exato do encontro da primavera de 2022 terá algo a ver com “superpoderes”. Mas – se as apresentações alucinantes de dezembro foram alguma indicação – a oferta de maio é quase certa para dar aos participantes muito em que pensar. E talvez fornecer a inspiração para uma ou duas startups.

 

.
.

Leia mais a seguir