A melhor maneira de obter esse entendimento é aprender as funções contínuas, as relações matemáticas subjacentes, que descrevem completamente esses sistemas. Mas muitos modelos de IA foram criados para processamento de linguagem natural ou visão computacional (onde a IA aprende a processar dados visuais). Nessas categorias, os dados podem ser tratados como coleções de pontos isolados, como palavras em uma frase ou um conjunto fixo de pixels em uma imagem.

Para solucionar essa discrepância, Anandkumar e seus colegas do Caltech e da gigante tecnológica NVIDIA descreveram recentemente uma estrutura que demonstra como estender as arquiteturas de redes neurais existentes de forma a permitir que os sistemas de IA aprendam funções contínuas, necessárias para fazer previsões fundamentadas no mundo físico. Um artigo sobre essa estrutura foi publicado na revista Nature Machine Intelligence.

Anandkumar apresentou esses modelos, chamados operadores neurais, pela primeira vez em 2020.

"Se você pensar no clima, ele acontece em todos os lugares ao nosso redor. Não se limita aos pontos onde os satélites estão ou onde as medições são feitas em locais específicos. Acontece em todos os lugares intermediários", diz Anandkumar. "Se você projetar arquiteturas neurais que também aproximem diretamente todos os lugares no espaço contínuo — e que imaginem como o mundo contínuo se parece, em vez de apenas alguns pontos — isso será muito mais fiel na representação do mundo físico."

No passado, Anandkumar e seus colegas aplicaram com sucesso operadores neurais em muitos outros contextos científicos, desde a modelagem da escala atômica da química quântica até a simulação de um buraco negro. Eles demonstraram que, usando um operador neural, é possível, por exemplo, simular quando o plasma em um reator de fusão perderá repentinamente seu calor ou será interrompido — e fazer isso um milhão de vezes mais rápido do que com simulações numéricas padrão. Eles também usaram um operador neural para modelar o que acontece com o dióxido de carbono quando ele é capturado e armazenado no subsolo.

No novo artigo, Anandkumar e seus colegas oferecem uma maneira sistemática de modificar arquiteturas de redes neurais existentes — transformando-as de sistemas que aprendem relações entre uma grade fixa de pontos de dados discretos para um operador neural que aprende como um sistema físico inteiro evolui no espaço e no tempo. Isso alinha as arquiteturas de forma mais natural com o mundo contínuo. "Percebemos que havia uma abstração muito mais geral, onde você não precisa se esforçar para criar uma arquitetura específica do zero", explica Anandkumar. "Você pode pegar o que os pesquisadores já fizeram com visão computacional e linguagem quando não estavam pensando no mundo físico e adaptá-lo para funcionar no mundo físico de uma maneira muito fundamentada."

A equipe testou a estrutura em simulações físicas padrão que modelam o movimento de fluidos, incluindo uma comumente usada para descrever o movimento do ar ou da água e outra que modela o fluxo de fluidos em materiais porosos. Eles descobriram que os operadores neurais projetados de acordo com a nova estrutura mantiveram sua precisão mesmo em resoluções nunca antes vistas durante o treinamento.

Para entender isso, considere o problema de criar um mapa de temperaturas na Califórnia. Como os dados não estão disponíveis em todos os pontos, você poderia dividir o estado em uma grade onde cada quadrado registra um único valor de temperatura. Talvez você comece com uma grade de 128 x 128, totalizando 16.384 medições. Mas você poderia dividir o estado em quadrados menores, criando uma grade de 256 x 256 com 65.536 pontos. Isso ofereceria um método de maior resolução para representar a mesma temperatura geral. Alternativamente, você poderia criar uma grade de menor resolução com apenas 4.096 pontos em uma grade de 64 x 64.

No artigo, a equipe treinou operadores neurais com dados em grades de 128 x 128. Mas eles descobriram que seus modelos permaneceram precisos em resoluções mais altas e mais baixas (grades de 64 x 64 e 256 x 256), enquanto as redes neurais convencionais geralmente se tornavam menos precisas quando a resolução mudava.

O resultado, diz Anandkumar, é que os operadores neurais produzem resultados e previsões mais precisos e confiáveis em uma ampla gama de campos científicos onde os dados são melhor representados como sistemas contínuos. "Dessa forma, não é preciso fazer aproximações discretas que poderiam estar erradas nos pontos intermediários da grade", afirma Anandkumar. "Isso fornece um modelo para adaptar os avanços da IA ao domínio científico."