O viés na coleta de dados dos quais dependem os programas de computador de inteligência artificial (IA) pode limitar a utilidade dessa ferramenta em rápido crescimento para cientistas do clima, prevendo cenários futuros e orientando a ação global, de acordo com um novo artigo de pesquisadores da Universidade de Cambridge, publicado em npj Ação Climática .

Os programas de computador de IA usados ??para a ciência do clima são treinados para vasculhar conjuntos de dados complexos em busca de padrões e informações perspicazes. No entanto, a falta de informações de certos locais do planeta, períodos de tempo ou dinâmicas sociais criam "buracos" nos dados que podem levar a previsões climáticas não confiáveis ??e conclusões enganosas.

O autor principal e membro do Cambridge Zero, Dr. Ramit Debnath, disse que indivíduos com acesso à tecnologia, como cientistas, professores, profissionais e empresas no Norte Global, têm maior probabilidade de ver suas prioridades e percepções climáticas refletidas nas informações digitais amplamente disponíveis para IA. usar.

Por outro lado, aqueles sem o mesmo acesso à tecnologia, como comunidades indígenas no Sul Global, têm maior probabilidade de encontrar suas experiências, percepções e prioridades ausentes dessas mesmas fontes digitais.

Debnath disse: "Quando as informações sobre mudanças climáticas são super-representadas pelo trabalho de indivíduos bem-educados em instituições de alto escalão no Norte Global, a IA só verá as mudanças climáticas e as soluções climáticas através de seus olhos".

A IA "tendenciosa" tem o potencial de deturpar informações climáticas. Por exemplo, poderia gerar previsões meteorológicas ineficazes ou subestimar as emissões de carbono de certas indústrias, o que poderia orientar mal os governos que tentam criar políticas e regulamentos destinados a mitigar ou se adaptar às mudanças climáticas.

Soluções climáticas apoiadas por IA que surgem de dados tendenciosos correm o risco de prejudicar comunidades sub-representadas, particularmente aquelas no Sul Global com recursos escassos. Muitas vezes, são as mesmas comunidades que também se encontram mais vulneráveis ??aos eventos climáticos extremos causados ??pelas mudanças climáticas, como inundações, incêndios, ondas de calor e secas.

Essa é uma combinação que pode levar a "eventos de gorjeta social", alerta o jornal.

No entanto, esses "buracos de dados" podem ser preenchidos pelo conhecimento humano. Os autores defendem um design human-in-the-loop para oferecer programas de mudança climática de IA com uma verificação de sentido sobre quais dados são usados ??e o contexto em que são usados, em um esforço para melhorar a precisão das previsões e a utilidade de qualquer conclusões.

Os autores mencionam o popular modelo de chatbot AI ChatGPT, que recentemente conquistou o mundo por sua capacidade de se comunicar por meio de conversas com usuários humanos. No ChatGPT, a IA pode fazer perguntas de acompanhamento aos usuários humanos, admitir erros, desafiar premissas incorretas e rejeitar solicitações inapropriadas.

Essa IA de estilo "humano no loop" permite que o viés seja percebido e corrigido, disseram os autores. Os usuários podem inserir informações sociais críticas, como infraestrutura existente e sistemas de mercado, para permitir que a IA antecipe melhor quaisquer consequências sociopolíticas e econômicas não intencionais da ação climática.

A coautora do Cambridge Zero, diretora e cientista do clima, professora Emily Shuckburgh, disse: “Nenhum dado é limpo ou sem preconceito, e isso é particularmente problemático para a IA, que depende inteiramente de informações digitais ”.

Ao destacar a importância de conjuntos de dados globalmente inclusivos, o documento também promove o acesso à Internet de banda larga como uma necessidade pública, em vez de uma mercadoria privada, para envolver o maior número possível de usuários no design de IA para conversas contemporâneas sobre ação climática.

O artigo conclui que a tecnologia guiada por humanos continua sendo fundamental para o desenvolvimento da IA ??socialmente responsável.

A IA menos tendenciosa será fundamental para nossa compreensão de como o clima está mudando e, consequentemente, para orientar soluções realistas para mitigar e se adaptar à crise climática em andamento, disseram os autores.

O professor Shuckburgh, que também lidera o Centre for Doctoral Training on the Application of AI to the study of Environmental Risks (AI4ER) do Reino Unido, disse: "Somente com uma consciência ativa dessa injustiça de dados podemos começar a enfrentá-la e, consequentemente, construir soluções climáticas melhores e mais confiáveis ??lideradas por IA."