A inteligência artificial já está transformando quase todos os aspectos do trabalho e da vida humana: ela pode realizar cirurgias, escrever códigos e até mesmo fazer arte. Embora seja uma ferramenta poderosa, ninguém entende completamente como a IA aprende ou raciocina – nem mesmo as empresas que a desenvolvem.

É aqui que a missão acadêmica de conduzir pesquisas científicas abertas pode fazer uma diferença real, afirma  Surya Ganguli . O físico de Stanford lidera "A Física da Aprendizagem e da Computação Neural", um projeto colaborativo  lançado recentemente pela Fundação Simons que reúne físicos, cientistas da computação, matemáticos e neurocientistas para ajudar a tirar a IA de sua proverbial "caixa preta".

“Precisamos usar o poder das nossas melhores ideias teóricas de diversas áreas para enfrentar o desafio de compreender cientificamente uma das tecnologias mais importantes que surgiram nas últimas décadas”, disse Ganguli, professor associado de física aplicada na  Escola de Humanidades e Ciências de Stanford . “Para algo de tamanha importância social, precisamos fazê-lo no meio acadêmico, onde podemos compartilhar o que aprendemos abertamente com o mundo.”

Há muitas razões convincentes pelas quais esse trabalho precisa ser feito pelas universidades, afirma Ganguli, que também é pesquisador sênior do  Instituto Stanford para IA Centrada no Ser Humano . Aqui estão três:

As empresas na vanguarda da tecnologia de IA estão mais focadas em melhorar o desempenho, sem necessariamente ter uma compreensão científica completa de como a tecnologia funciona, afirma Ganguli.

“É imperativo que a ciência acompanhe a engenharia”, disse ele. “A engenharia da IA está muito à frente, então precisamos de uma abordagem coordenada e com todos os envolvidos para fazer a ciência avançar.”

Os sistemas de IA são desenvolvidos de forma muito diferente de algo como um carro, com peças físicas explicitamente projetadas e rigorosamente testadas. As redes neurais de IA são inspiradas no cérebro humano, com uma infinidade de conexões. Essas conexões são então implicitamente treinadas usando dados.

Ganguli compara esse treinamento ao aprendizado humano: educamos as crianças dando-lhes informações e corrigindo-as quando erram. Sabemos quando uma criança aprende uma palavra como " gato" ou um conceito como "generosidade" , mas não sabemos explicitamente o que acontece no cérebro para adquirir esse conhecimento.

O mesmo vale para a IA, mas ela comete erros estranhos que um humano jamais cometeria. Pesquisadores acreditam que é fundamental entender o porquê, tanto por razões práticas quanto éticas.

“Os sistemas de IA são derivados de uma forma muito implícita, mas não está claro se estamos incutindo a mesma empatia e cuidado com a humanidade que incutimos em nossas crianças”, disse Ganguli. “Tentamos muitas coisas improvisadas para incutir valores humanos nesses grandes modelos de linguagem, mas não está claro se descobrimos a melhor maneira de fazer isso.”

Tradicionalmente, a área da física tem se concentrado no estudo de sistemas naturais complexos. Embora a IA tenha a palavra "artificial" em seu próprio nome, sua complexidade se aplica bem à física, que tem se expandido cada vez mais além de suas fronteiras históricas para se ramificar em muitos outros campos, incluindo biologia e neurociência.

Os físicos têm muita experiência trabalhando com sistemas de alta dimensão, destacou Ganguli. Por exemplo, alguns físicos estudam materiais com bilhões de partículas interagindo, com leis complexas e dinâmicas que influenciam seu comportamento coletivo e dão origem a propriedades "emergentes" surpreendentes – novas características que surgem da interação, mas não estão presentes nas próprias partículas individuais.

A IA é semelhante, com bilhões de pesos que mudam constantemente durante o treinamento, e os principais objetivos do projeto são compreender melhor esse processo. Especificamente, os pesquisadores querem entender como a dinâmica de aprendizagem, os dados de treinamento e a arquitetura de um sistema de IA interagem para produzir computações emergentes, como a criatividade e o raciocínio da IA, cujas origens ainda não são compreendidas. Uma vez descoberta essa interação, provavelmente será mais fácil controlar o processo escolhendo os dados corretos para um determinado problema.

Também pode ser possível criar redes menores e mais eficientes que possam fazer mais com menos conexões, disse a membro do projeto  Eva Silverstein , professora de física em H&S.

“Não é que as conexões extras necessariamente causem um problema. É mais porque elas são caras”, disse ela. “Às vezes, elas podem ser reduzidas após o treinamento, mas é preciso entender bastante sobre o sistema – dinâmica de aprendizagem e raciocínio, estrutura de dados e arquitetura – para poder prever com antecedência como ele vai funcionar.”

Ganguli e Silverstein são dois dos 17 pesquisadores principais que representam 12 universidades no projeto da Fundação Simons. Ganguli espera expandir ainda mais a participação, trazendo, em última análise, uma nova geração de físicos para a área de IA. A colaboração incluirá workshops e sessões de cursos de verão para fortalecer a comunidade científica.

Tudo o que resultar dessa colaboração será compartilhado, com as descobertas sendo avaliadas e publicadas em periódicos revisados por pares. Em contrapartida, empresas que precisam desenvolver seus produtos de IA com o objetivo de gerar retorno econômico têm pouco incentivo, e nenhuma obrigação, de compartilhar informações com terceiros.

“Precisamos fazer ciência aberta porque muros de sigilo estão sendo erguidos em torno dessas empresas de IA de ponta”, disse Ganguli. “Eu realmente adoro estar na universidade, onde nossa missão é compartilhar o que aprendemos com o mundo.”