A inteligência artificial (IA) já transformou a forma como vemos o mundo e como o mundo nos vê. Até o momento, porém, a maioria dos sistemas de IA se enquadra em um pequeno número de categorias familiares. Alguns são mecanismos analíticos que operam em ambientes ricos em dados: por exemplo, reconhecimento de padrões e objetos, classificação supervisionada, detecção de anomalias, sistemas de controle e previsão em imagens, vídeos, fluxos de sensores e máquinas de alto desempenho. Outros são generativos, incluindo grandes modelos de linguagem, ferramentas de síntese de mídia e agentes conversacionais.

Mais recentemente, temos visto o surgimento da IA "agente": sistemas que podem coordenar muitos componentes, ferramentas e subprocessos para atingir objetivos definidos. A IA agora pode executar muitas tarefas repetitivas e frequentes, aumentando a capacidade de processamento e liberando os usuários para dedicarem mais tempo às "coisas que realmente importam".

Essas abordagens produziram resultados impressionantes, mas também compartilham fragilidades definidoras: opacidade e vieses implícitos. Seja uma rede neural treinada com milhões de imagens ou um modelo de linguagem orquestrando ações ou procedimentos externos, a lógica interna desses sistemas é frequentemente difícil de questionar, explicar ou confiar formalmente. À medida que a IA evolui da geração de recomendações para o apoio à tomada de decisões e, posteriormente, para a autonomia parcial, essa opacidade se torna uma preocupação séria.

Se quisermos que os sistemas de IA exibam formas de criatividade, abstração e imaginação que permaneçam exclusivamente humanas, precisaremos de novas estruturas matemáticas.

Os desafios já foram bem ensaiados. Os dados são adequados e representativos? Quais vieses estão presentes nos conjuntos de treinamento ou nos procedimentos de calibração? É possível tornar os sistemas justos, e quem define o que é "justiça"? Que subjetividade e pontos cegos são (alguma vez) aceitáveis em diferentes aplicações? Quão vulneráveis eles são à manipulação maliciosa? O que podemos fazer em relação às alucinações?

Essas não são questões periféricas. Elas atingem os fundamentos do que significa um sistema de IA funcionar de forma confiável no mundo real.

É precisamente nesse nível fundamental que a matemática pode e deve desempenhar um papel de liderança. Muitas vezes, a matemática é tratada como algo que pode ser "acoplado" à IA, como uma ferramenta para interpretação, avaliação ou análise de erros. Isso é um profundo equívoco. A estrutura matemática não é um acessório para sistemas inteligentes; ela é o seu alicerce. Sem ela, ficamos apenas com heurísticas, pragmática e empirismo, poderosos, porém frágeis, eficazes, mas difíceis de justificar quando as coisas dão errado.

Além disso, a matemática oferece conceitos e abstrações mais profundos que podem ser catalisadores para a IA de próxima geração. A matemática oferece algo muito singular: uma linguagem para resultados comprováveis, lógica, confiança e limites de desempenho — algumas garantias de comportamento e desempenho (previsto e imprevisto).

A matemática nos fornece maneiras fundamentadas de raciocinar sobre dados, incertezas e evidências. Por meio da probabilidade, geometria e topologia, ela nos ajuda a compreender a estrutura e a forma dos espaços de dados, por que certas representações funcionam, onde se encontram os limites de decisão e como pequenas perturbações podem levar a grandes mudanças nos resultados. Através da otimização, análise numérica e sistemas dinâmicos, ela esclarece a convergência, a estabilidade e os modos de falha em algoritmos de aprendizado. Através da teoria da informação, ela esclarece o que pode, e o que não pode, ser inferido a partir de dados finitos.

 Igualmente importante, a matemática fundamenta a IA explicativa e exploratória. Ela nos permite não apenas construir sistemas com bom desempenho, mas também questionar por que eles se comportam da maneira que se comportam. Explicabilidade, interpretabilidade e robustez não são meros complementos de engenharia; são propriedades matemáticas que podem ser analisadas, comprovadas e testadas sob condições extremas. Em exemplos de falsificação de IA, vulnerabilidades a ataques adversários ou alucinações, é necessário compreender como e por que esses problemas ocorrem, bem como definir e justificar medidas de mitigação adequadas. O mesmo se aplica a questões de viés operacional decorrentes do condicionamento de conjuntos de dados e métodos, como a deriva de dados entre a calibração e as operações. Essa é a diferença entre explicações posteriores e modelos que são interpretáveis desde a sua concepção.

Há também uma dimensão voltada para o futuro. À medida que cresce o interesse em computação neuromórfica e inspirada no cérebro, a matemática torna-se ainda mais central. Se quisermos que os sistemas de IA exibam formas de criatividade, abstração e imaginação que permaneçam exclusivamente humanas, precisaremos de novas estruturas matemáticas, baseadas em áreas como teoria das categorias, processos estocásticos, lógicas não clássicas e a matemática da aprendizagem e adaptação. Não se tratam de ajustes incrementais às arquiteturas existentes; são mudanças conceituais.

Este é o espaço intelectual em que o Erlangen AI Hub opera.

Nossa ambição não é apenas tornar os métodos atuais de IA mais seguros ou mais eficientes, por mais importante que isso seja, mas sim solidificar seus fundamentos. Ao trazer ideias abstratas poderosas de diversas áreas da matemática para o engajamento direto com desafios reais da IA, buscamos construir sistemas mais confiáveis, mais controláveis e mais transparentes.

Fundamentalmente, este trabalho está fundamentado na prática, respondendo às prioridades nacionais. Nossos parceiros incluem a BBC, a Ofcom, a Capgemini e muitas empresas, grandes e pequenas, abrangendo setores e segmentos de todos os portes, especialistas em políticas públicas e órgãos reguladores, financiadores e tomadores de decisão estratégicos nacionais. O objetivo não é a matemática pela matemática, mas sim a matemática que gera conhecimento prático, a matemática que transforma o que a IA pode fazer de forma responsável.

Essa abordagem é de extrema importância para o Reino Unido. Se uma iniciativa britânica de IA soberana simplesmente replicar as trajetórias dos Estados Unidos, da China, da Índia ou da União Europeia, terá dificuldades para se destacar. A escala, por si só, não é nossa vantagem comparativa. A liderança intelectual, sim. Ao desenvolvermos conceitos, métodos e garantias genuinamente novos para a IA, fundamentados em matemática profunda, podemos liderar em vez de seguir.

Há precedentes para isso. Muitas das tecnologias mais transformadoras da atualidade se baseiam em ideias matemáticas que antes pareciam abstratas ou esotéricas. Criptografia de chave pública, criptografia pós-quântica, sensoriamento comprimido e a teoria de controle moderna começaram como insights matemáticos antes de se tornarem necessidades industriais. Com a IA não será diferente.

A matemática será tanto a inovadora quanto a disruptora na próxima fase da IA. Ela nos levará além de sistemas que meramente correlacionam dados, rumo a sistemas que raciocinam, se adaptam e justificam suas ações dentro de limites conhecidos. Ela nos ajudará a substituir a confiança cega por uma confiança fundamentada. E possibilitará formas de criatividade, não apenas na geração de conteúdo, mas também na resolução de problemas rigorosos, responsáveis e genuinamente inovadores.

Se queremos uma IA na qual a sociedade possa confiar, a matemática deve estar no seu cerne. Isso não é um obstáculo ao progresso, mas sim a condição que o torna sustentável. O Centro de IA de Erlangen é um trunfo para Oxford, para os seus colaboradores académicos, comerciais e institucionais, e para o Reino Unido, que precisa de ter sucesso numa comunidade global e competitiva.