Tecnologia Científica

Um especialista em IA explica por que é difícil dar aos computadores bom senso
O bom senso também inclui o conhecimento prévio de noções abstratas, como tempo, espaço e eventos. Esse conhecimento permite que as pessoas planejem, avaliem e organizem sem ter que ser muito preciso.
Por Mayank Kejriwal - 18/08/2021


Pixabay

Imagine que você está recebendo amigos para almoçar e pretende pedir uma pizza de calabresa. Você se lembra de Amy mencionando que Susie havia parado de comer carne. Você tenta ligar para Susie, mas, quando ela não atende, você decide jogar pelo seguro e pedir uma pizza margherita.

As pessoas dão como certa a habilidade de lidar com situações como essas regularmente. Na realidade, ao realizar essas façanhas, os humanos contam não com uma, mas com um poderoso conjunto de habilidades universais conhecidas como bom senso .

Como pesquisador de inteligência artificial , meu trabalho faz parte de um amplo esforço para dar aos computadores uma aparência de bom senso. É um esforço extremamente desafiador.

Rápido - defina o bom senso

Apesar de ser universal e essencial para a forma como os humanos entendem o mundo ao seu redor e aprendem, o bom senso desafiou uma única definição precisa. GK Chesterton, um filósofo e teólogo inglês, escreveu na virada do século 20 que "o bom senso é uma coisa selvagem, selvagem e além das regras". As definições modernas hoje concordam que, no mínimo, é uma habilidade humana natural, em vez de ensinada formalmente, que permite às pessoas navegar na vida diária.

O senso comum é incomumente amplo e inclui não apenas habilidades sociais, como gerenciar expectativas e raciocinar sobre as emoções de outras pessoas, mas também um senso ingênuo de física , como saber que uma pedra pesada não pode ser colocada com segurança em uma mesa de plástico frágil. Ingênuo, porque as pessoas sabem dessas coisas, apesar de não trabalharem conscientemente com as equações da física.

O bom senso também inclui o conhecimento prévio de noções abstratas, como tempo, espaço e eventos. Esse conhecimento permite que as pessoas planejem, avaliem e organizem sem ter que ser muito preciso.

O bom senso é difícil de calcular

Curiosamente, o bom senso tem sido um desafio importante na fronteira da IA desde os primeiros dias do campo na década de 1950. Apesar dos enormes avanços em IA, especialmente em jogos e visão computacional , o bom senso da máquina com a riqueza do bom senso humano permanece uma possibilidade distante. Pode ser por isso que os esforços de IA projetados para problemas complexos do mundo real com muitas partes entrelaçadas, como o diagnóstico e a recomendação de tratamentos para pacientes COVID-19, às vezes não dão certo .
 
A IA moderna é projetada para lidar com problemas altamente específicos, em contraste com o senso comum, que é vago e não pode ser definido por um conjunto de regras. Mesmo os modelos mais recentes cometem erros absurdos às vezes, sugerindo que algo fundamental está faltando no modelo de mundo da IA. Por exemplo, dado o seguinte texto:

"Você se serviu de um copo de cranberry, mas então, distraidamente, derramou nele cerca de uma colher de chá de suco de uva. Parece bom. Você tenta cheirar, mas está com um forte resfriado, então não consegue sentir o cheiro de nada. com muita sede. Então você ... "

o altamente elogiado gerador de texto AI GPT-3 fornecido

"... beba. Você agora está morto."

Um pesquisador de IA explica como os sistemas de inteligência artificial "entendem" a linguagem e por que os transformadores são a última e melhor técnica.
Esforços ambiciosos recentes reconheceram o bom senso das máquinas como um problema de IA de nossa época, que exige colaborações combinadas entre instituições ao longo de muitos anos. Um exemplo notável é o programa Machine Common Sense de quatro anos lançado em 2019 pela Agência de Projetos de Pesquisa Avançada de Defesa dos EUA para acelerar a pesquisa no campo depois que a agência lançou um artigo descrevendo o problema e o estado da pesquisa no campo .

O programa Machine Common Sense financia muitos esforços de pesquisa atuais no senso comum de máquina, incluindo o nosso próprio, Multi-modal Open World Grounded Learning and Inference ( MOWGLI ). MOWGLI é uma colaboração entre nosso grupo de pesquisa da University of Southern California e pesquisadores de IA do Massachusetts Institute of Technology, da University of California em Irvine, da Stanford University e do Rensselaer Polytechnic Institute. O projeto visa construir um sistema de computador que possa responder a uma ampla gama de questões de senso comum.

Transformers para o resgate?

Um motivo para estar otimista sobre finalmente quebrar o bom senso da máquina é o recente desenvolvimento de um tipo de IA avançada de aprendizagem profunda chamada transformadores. Os transformadores são capazes de modelar a linguagem natural de uma maneira poderosa e, com alguns ajustes, são capazes de responder a perguntas simples de senso comum. Responder a perguntas de senso comum é um primeiro passo essencial para a construção de chatbots que podem conversar de maneira humana.

Nos últimos dois anos, um prolífico corpo de pesquisas foi publicado sobre transformadores, com aplicações diretas ao raciocínio do senso comum. Esse rápido progresso como comunidade forçou os pesquisadores da área a enfrentar duas questões relacionadas na fronteira da ciência e da filosofia: o que é o bom senso? E como podemos ter certeza de que uma IA tem bom senso ou não?

Para responder à primeira pergunta, os pesquisadores dividem o senso comum em diferentes categorias, incluindo sociologia do senso comum, psicologia e conhecimento prévio. Os autores de um livro recente argumentam que os pesquisadores podem ir muito mais longe, dividindo essas categorias em 48 áreas de granulação fina, como planejamento, detecção de ameaças e emoções.

No entanto, nem sempre está claro como essas áreas podem ser separadas de maneira limpa. Em nosso artigo recente , experimentos sugeriram que uma resposta clara à primeira pergunta pode ser problemática. Até mesmo anotadores humanos especializados - pessoas que analisam texto e categorizam seus componentes - dentro de nosso grupo discordaram sobre quais aspectos do bom senso se aplicavam a uma frase específica. Os anotadores concordaram em categorias relativamente concretas como tempo e espaço, mas discordaram em conceitos mais abstratos.

Reconhecendo o bom senso da IA

Mesmo que você aceite que alguma sobreposição e ambiguidade nas teorias do senso comum são inevitáveis, os pesquisadores podem realmente ter certeza de que uma IA tem bom senso? Frequentemente fazemos perguntas às máquinas para avaliar seu bom senso, mas os humanos navegam na vida diária de maneiras muito mais interessantes. As pessoas empregam uma variedade de habilidades, aprimoradas pela evolução, incluindo a capacidade de reconhecer causa e efeito básicos, resolução criativa de problemas , estimativas, planejamento e habilidades sociais essenciais, como conversação e negociação . Por mais longa e incompleta que esta lista possa ser, uma IA não deve alcançar menos do que isso antes que seus criadores possam declarar a vitória na pesquisa do senso comum da máquina.

Já está ficando dolorosamente claro que até mesmo a pesquisa em transformadores está gerando retornos decrescentes. Os transformadores estão ficando maiores e mais famintos por energia. Um transformador recente desenvolvido pela gigante chinesa do mecanismo de busca Baidu tem vários bilhões de parâmetros. É preciso uma enorme quantidade de dados para treinar com eficácia. No entanto, até agora ele se mostrou incapaz de compreender as nuances do bom senso humano.

Mesmo os pioneiros do aprendizado profundo parecem pensar que uma nova pesquisa fundamental pode ser necessária antes que as redes neurais de hoje sejam capazes de dar esse salto. Dependendo do sucesso dessa nova linha de pesquisa, não há como dizer se o bom senso das máquinas ainda está em cinco ou 50 anos.

 

.
.

Leia mais a seguir