Humanidades

A brancura da IA ​​apaga as pessoas de cor de nossos 'futuros imaginários', argumentam os pesquisadores
A esmagadora 'brancura' da inteligência artificial - de imagens de banco de imagens e robôs cinematográficos aos dialetos de assistentes virtuais - remove as pessoas de cor das visões da humanidade sobre seu futuro de alta tecnologia.
Por Fred Lewsey - 11/08/2020


Sophia, Hanson Robotics Ltd., palestrante no AI for GOOD Global Summit, Genebra
Crédito: ITU / R.Farrell

"Se a demografia do desenvolvedor não diversificar, a IA aumentará a desigualdade racial"

Kanta Dihal

Isso é de acordo com especialistas da Universidade de Cambridge, que sugerem que as representações e estereótipos atuais sobre IA correm o risco de criar uma força de trabalho "racialmente homogênea" de aspirantes a tecnólogos, construindo máquinas com preconceitos embutidos em seus algoritmos.

Eles dizem que as representações culturais da IA ​​como brancos precisam ser desafiadas, pois não oferecem um futuro "pós-racial", mas sim um do qual as pessoas de cor são simplesmente apagadas.

Os pesquisadores, do Centro Leverhulme para o Futuro da Inteligência (CFI) de Cambridge , dizem que a IA, como outros tropos de ficção científica, sempre refletiu o pensamento racial em nossa sociedade.

Eles argumentam que existe uma longa tradição de estereótipos raciais grosseiros quando se trata de extraterrestres - desde o estrangeiro "orientalizado" de Ming, o Impiedoso, à caricatura caribenha de Jar Jar Binks.

Mas a inteligência artificial é retratada como branca porque, ao contrário das espécies de outros planetas, a IA tem atributos usados ​​para "justificar o colonialismo e a segregação" no passado: inteligência superior, profissionalismo e poder.

“Dado que a sociedade promoveu, durante séculos, a associação de inteligência com europeus brancos, é de se esperar que, quando esta cultura for solicitada a imaginar uma máquina inteligente, imagine uma máquina branca”, disse a Dra. Kanta Dihal, que lidera o CFI's ' Iniciativa de descolonização da IA .

“As pessoas confiam na IA para tomar decisões. As representações culturais fomentam a ideia de que a IA é menos falível do que os humanos. Nos casos em que esses sistemas são racializados como brancos, isso pode ter consequências perigosas para os humanos que não o são ”, disse ela.

Junto com seu colega, Dr. Stephen Cave, Dihal é autora de um novo artigo sobre o caso da descolonização de IA, publicado hoje na revista Philosophy and Technology .

O artigo reúne pesquisas recentes de uma variedade de campos, incluindo Interação Homem-Computador e Teoria Crítica da Raça, para demonstrar que as máquinas podem ser racializadas e que isso perpetua os preconceitos raciais do "mundo real".

Isso inclui um trabalho sobre como os robôs são vistos como tendo identidades raciais distintas, com os robôs negros recebendo mais abuso on-line, e um estudo mostrando que as pessoas se sentem mais próximas de agentes virtuais quando percebem uma identidade racial compartilhada.  

“Uma das interações mais comuns com a tecnologia de IA é por meio de assistentes virtuais em dispositivos como smartphones, que falam o inglês branco padrão da classe média”, disse Dihal. “As ideias de adicionar dialetos negros foram rejeitadas como muito controversas ou fora do mercado-alvo.”

Os pesquisadores conduziram sua própria investigação em mecanismos de busca e descobriram que todos os resultados não abstratos para IA tinham características caucasianas ou eram literalmente da cor branca.

Um exemplo típico de imagens de IA que adornam capas de livros e artigos da mídia tradicional é Sophia: o humanóide hipercaucasiano declarado um “campeão da inovação” pelo programa de desenvolvimento da ONU. Mas esta é apenas uma iteração recente, dizem os pesquisadores.

“As imagens de estoque de IA destilam as visualizações de máquinas inteligentes na cultura popular ocidental à medida que se desenvolvem ao longo de décadas”, disse Cave, Diretor Executivo da CFI.

“De Terminator a Blade Runner, Metropolis a Ex Machina, todos são interpretados por atores brancos ou são visivelmente brancos na tela. Os andróides de metal ou plástico recebem recursos brancos, como em I, Robot. Mesmo IA sem corpo - de HAL-9000 a Samantha in Her - tem vozes brancas. Só muito recentemente alguns programas de TV, como Westworld, usaram personagens de IA com uma mistura de tons de pele. ”

Cave e Dihal apontam que até obras claramente baseadas na rebelião de escravos, como Blade Runner, retratam suas IAs como brancas. “A IA é frequentemente retratada como superando e superando a humanidade”, disse Dihal. “A cultura branca não pode se imaginar sendo dominada por seres superiores semelhantes a raças que historicamente classificou como inferiores”.

“Imagens de IA não são representações genéricas de máquinas semelhantes às humanas: sua brancura é um proxy de seu status e potencial”, acrescentou Dihal.

“As representações da IA ​​como brancas situam as máquinas em uma hierarquia de poder acima dos grupos atualmente marginalizados e relegam as pessoas de cor a posições inferiores às das máquinas. À medida que as máquinas se tornam cada vez mais centrais para a tomada de decisão automatizada em áreas como emprego e justiça criminal, isso pode ter grandes consequências. ”

“A brancura percebida da IA ​​tornará mais difícil para pessoas negras avançar no campo. Se a demografia do desenvolvedor não diversificar, a IA aumentará a desigualdade racial. ”

 

.
.

Leia mais a seguir