Campus

Especialistas internacionais informam sobre o uso transparente de algoritmos no hackathon de políticas
Uma maior transparência algorítmica no setor público foi o foco de um hackathon político organizado pelo The Forum e pelo think tank Reform.
Por George Hope - 08/04/2021


© Imperial College London.

A Imperial AI e os acadêmicos de dados se juntaram a um grupo de cerca de 50 especialistas internacionais, incluindo formuladores de políticas seniores, reguladores, líderes da indústria e representantes de grupos de reflexão, para discussões focadas em soluções sobre questões políticas fundamentais colocadas pela transparência algorítmica. 

O hackathon de política virtual, um formato projetado para permitir a criatividade e a colaboração de especialistas para pensar em soluções concretas para os desafios, foi hospedado pelo  The Forum , o programa de engajamento de políticas da Imperial e  o  think tank Reform . 

Aplicações de IA que buscam promover a justiça e o florescimento humano

Tabitha Goldstaub, Presidente do Conselho de IA do Governo do Reino Unido, e o Professor Aldo Faisal, Professor de IA e Neurociência do Imperial, fizeram os comentários de abertura do evento. 

O professor Faisal incentivou os participantes a usarem a oportunidade do hackathon para fazer networking e trocar ideias, e enfatizou que em um domínio que está evoluindo tão rapidamente, esse tipo de liderança inovadora terá tração.

"Este foi um evento perfeito para promover a fertilização cruzada de ideias sobre usos futuros e transparentes da IA. Esse tipo de diálogo intersetorial leva ao tipo de mudanças de que todos precisamos".

Dra. Rossella Arcucci
Colégio Imperial de Londres

Descrevendo alguns dos desafios quando os sistemas se tornam cada vez mais complexos e são capazes de tomar muitas decisões em escala, o professor Faisal disse que pode não ficar claro como os padrões gerais surgem. Ele observou como os engenheiros podem definir 'funções de custo', que determinam o que uma IA tenta otimizar. 

Essas funções de custo realmente oferecem "um potencial tremendo para a democracia", disse o professor Faisal, e permitirão que os cidadãos e eleitores compartilhem os tipos de valores que gostariam de ver na sociedade, que uma IA pode então traduzir com eficácia. Ao aplicar IA na sociedade, os políticos e legisladores precisam ajudar a definir como definimos essas funções de custo.

O professor Faisal, que é diretor do  UKRI Centre for Doctoral Training in AI for Healthcare  (AI4Health), falou sobre a importância das habilidades e da educação em IA, apontando para os pontos fortes da Imperial, como o popular MSc em Inteligência Artificial , um curso de conversão para alunos de uma variedade de disciplinas e os centros de treinamento de doutorado, como AI4Health e  Safe and Trusted AI , em colaboração com King's College London.

Tabitha Goldstaub, Presidente do Conselho de IA, fez um discurso de abertura, onde mencionou o Mapa de estrada do Conselho , publicado no início de 2021, que estabeleceu uma visão coletiva para o desenvolvimento de IA no Reino Unido.

"Estou muito animado para ver os resultados do seu trabalho árduo e as soluções inovadoras que você vai apresentar. Eu mesmo estarei debruçado sobre isso depois".

Tabitha Goldstaub
Presidente do Conselho de IA

O Conselho, que inclui o  professor Nick Jennings, vice-reitor do Imperial (Pesquisa e Empreendimento),  como um de seus membros, pediu ao governo que construísse uma Estratégia Nacional de IA do Reino Unido. Em março de 2021, o governo do Reino Unido confirmou que publicará uma nova estratégia para liberar o poder da IA.

Tabitha Goldstaub compartilhou seus pensamentos sobre a transparência algorítmica no setor público para definir as discussões.

"A transparência algorítmica é um mecanismo vital por meio do qual podemos garantir que a lei está sendo cumprida. Precisamos de aplicativos de IA que busquem promover a justiça e o desenvolvimento humano. Isso não é fácil e, nos últimos anos, infelizmente, testemunhamos vários casos em todo o mundo que alcançaram manchetes onde algoritmos foram desenvolvidos de formas opacas e causaram danos.

"Maior transparência algorítmica é muitas vezes apontada como a solução para muitos desses problemas, no entanto, nem sempre é a coisa mais fácil ser transparente devido às limitações técnicas, especialmente com algoritmos de aprendizado de máquina e ainda mais complicado com aprendizado profundo.

"Estou muito animado para ver os resultados do seu trabalho árduo e as soluções inovadoras que você vai apresentar. Eu mesmo estarei debruçado sobre isso depois."

Explorando soluções práticas para os desafios colocados pela transparência algorítmica 

No hackathon de políticas, um conjunto de questões e problemas identificados pela  Reforma  foram explorados. Os participantes foram divididos em grupos com um moderador e o objetivo era apresentar etapas práticas e soluções sobre um aspecto de transparência algorítmica: 

Transparência no design em estágio inicial 

Transparência na fase de desenvolvimento 

Transparência durante a fase de implementação 

Reparação e remediação 

Quatro representantes imperiais participaram das discussões: Dra. Rossella Arcucci, pesquisadora (Data Analytics); Professor Rafael Calvo, Cátedra de Engenharia de Design; Professor Aldo Faisal, Professor de IA e Neurociências; e Dr. Declan Mulkeen, Chefe de Desenvolvimento e Parcerias, AI4Health. 

"Esse tipo de discussão multissetorial sobre o futuro da IA ​​e seu impacto social é essencial para orientar um trabalho que leve ao tipo de melhorias que a sociedade realmente deseja".

Professor rafael calvo
Colégio Imperial de Londres

Entre os tópicos abordados estavam quais requisitos de transparência devem existir para explicar por que e como os algoritmos estão sendo considerados e usados; como as organizações do setor público podem garantir a transparência sobre as decisões tomadas para as pessoas afetadas e explicar efetivamente sua base para um público não técnico; e como podemos garantir que haja uma conversa pública mais ampla sobre o uso de algoritmos e que o público esteja ciente dos mecanismos de apelação de decisões algorítmicas. 

A Dra. Rossella Arcucci, pesquisadora (Data Analytics), em conjunto com o Data Science Institute da Imperial e a Imperial College Business School, disse:  "Este foi um evento perfeito para promover a fertilização cruzada de ideias sobre usos futuros e transparentes da IA. Este tipo de cruzamento o diálogo setorial leva ao tipo de mudanças de que todos nós precisamos. "

O professor Rafael Calvo, catedrático de Engenharia de Projetos da Escola de Engenharia de Projetos Dyson da Imperial, disse:  “Esse tipo de discussão multissetorial sobre o futuro da IA ​​e seu impacto social é essencial para orientar o trabalho que leva ao tipo de melhorias que a sociedade realmente deseja. "

Um relatório pós-evento será produzido como resultado das descobertas do hackathon, que será apresentado para fornecer soluções políticas em potencial. 

O Fórum: Conectando nossos pesquisadores aos formuladores de políticas 

O Fórum  é o programa de engajamento de políticas do Imperial College London, conectando pesquisadores do Imperial College a formuladores de políticas para descobrir novas formas de pensar sobre os desafios globais. Se desejar mais informações, entre em contato:  the.forum@imperial.ac.uk . 

O Imperial College London agradece o apoio do Fundo de Prioridades Estratégicas do UKRI para a realização deste trabalho. 

 

.
.

Leia mais a seguir