Estabelecida pelo Parlamento do Reino Unido em janeiro de 2023 e patrocinada pelo Departamento de Ciência, Inovação e Tecnologia, a ARIA é a nova agência de financiamento de pesquisa do Reino Unido. Ela visa capacitar equipes de cientistas para "buscar avanços no limite do possível" que possam desbloquear capacidades de mudança mundial.? 

Este novo programa de pesquisa, chamado Scaling Compute, abordará um desafio fundamental enfrentado pelas tecnologias de IA. Usando algoritmos e hardware de computação atuais, agora custa mais de £ 100 milhões para treinar os maiores modelos de IA, com esse custo crescendo a uma taxa insustentável. Isso tem profundas implicações econômicas e sociais, afetando quem pode construir IA, que tipo de IA é construída e a que custo.

Com o desenvolvimento de transistores cada vez menores e mais rápidos chegando aos seus limites, mais progresso só pode vir quebrando os paradigmas de computador existentes. O Scaling Compute visa se inspirar em sistemas naturais para desafiar os blocos de construção subjacentes que usamos para treinar modelos de IA. Ao desenvolver uma biblioteca inteiramente nova de tecnologias, o programa tem o objetivo ambicioso de reduzir os custos de hardware necessários para treinar grandes modelos de IA em mais de mil vezes.

Uma equipe do Departamento de Ciências da Engenharia da Universidade de Oxford liderará um dos doze projetos do programa. O projeto visa desenvolver um sistema em que todos os recursos de computação necessários para treinar um modelo de IA de fronteira (envolvendo centenas de aceleradores conectados) estejam contidos em uma única placa de computador. A intenção é que isso seja mais forte do que os recursos de computação compartilhados combinados atualmente disponíveis na universidade.

Isso resolverá um problema central nos sistemas de IA hoje, que é a comunicação entre dispositivos. O treinamento de sistemas de IA de fronteira requer embaralhar enormes quantidades de dados, com uma parcela significativa do tempo de processamento gasto na transferência de informações entre diferentes partes de um sistema. Um objetivo central é garantir que esses novos métodos de comunicação sejam simultaneamente escaláveis, resilientes, sustentáveis e fabricáveis, ao mesmo tempo em que são capazes de processar com eficiência os enormes volumes de dados normalmente envolvidos na computação moderna.

A equipe de ARIA R&D Creators será composta por 16 pesquisadores liderados pelo Professor Noa Zilberman  (líder do projeto), Professor Amro Awad , Professor Martin Booth , Professor Nick McKeown, Professor Dominic O'Brien e Dr. Patrick Salter no Departamento de Ciências da Engenharia de Oxford. Sua ampla expertise permitirá uma abordagem altamente interdisciplinar que combinará inovação em sistemas ópticos e fotônica, arquitetura de computadores e sistemas de memória, redes de computadores e interconexões e design de sistemas de computação.

A equipe de Oxford está iniciando um Programa de Afiliados da Indústria para facilitar o engajamento de parceiros e colaboradores industriais na pesquisa, bem como para aconselhar a direção do projeto. Esta é uma oportunidade ideal para conhecer alunos para colaboração e recrutamento futuro. Para mais detalhes, entre em contato com a Professora Noa Zilberman .

Mais informações podem ser encontradas no site do projeto .