Humanidades

O mundo pesa leis para controlar algoritmos poderosos
Enquanto a China está preocupada com os algoritmos de entrega de aplicativos que incentivam seus motoristas a acelerar, os legisladores dos EUA estão lutando com sistemas de recomendação de mídia social...
Por Katy Lee - 21/11/2021


A denunciante e ex-engenheira do Facebook Frances Haugen diz que as pessoas merecem saber mais sobre como o conteúdo que veem é moldado pela confusão de dados que alimenta a máquina de mídia social - ou como funcionam os algoritmos.

Dos vídeos do YouTube, somos recomendados para decidir quem consegue um emprego, os algoritmos exercem uma influência cada vez maior sobre nossas vidas - e os legisladores em todo o mundo querem controlá-los.

Enquanto a China está preocupada com os algoritmos de entrega de aplicativos que incentivam seus motoristas a acelerar, os legisladores dos EUA estão lutando com sistemas de recomendação de mídia social que têm enviado alguns usuários para tocas de coelho perigosas.

"Algoritmos podem ser úteis, é claro, mas muitas pessoas simplesmente não estão cientes de quanto sua experiência nessas plataformas está sendo manipulada", escreveu John Thune, um dos vários senadores dos EUA que propõem uma nova legislação de mídia social, em um artigo da CNN -ed.

O Facebook enfrentou críticas ferozes depois que um denunciante revelou que os executivos sabiam que o algoritmo do site promovia sistematicamente mensagens inflamatórias nos feeds de notícias das pessoas, alimentando divisões e inquietações da Índia à Etiópia.

Frances Haugen, a ex-engenheira do Facebook por trás das revelações, acredita que as pessoas merecem saber mais sobre como o conteúdo que veem é moldado pela confusão de dados que alimenta a máquina de mídia social.

"Acho que se apenas dissermos, 'vamos regular algoritmos', isso é tão amorfo", disse Haugen à AFP na semana passada.

“Acho que é mais poderoso dizer, 'Ei, Facebook, você tem muito mais transparência do que nós'”, e forçar a empresa a revelar mais sobre como seus sistemas funcionam, disse ela.

Mídia social mais chata?

Os ativistas e legisladores podem concordar que os algoritmos dos gigantes da tecnologia precisam de mais supervisão pública, mas como conseguir isso é uma questão diferente.

"Existem algumas perguntas realmente difíceis sem resposta", disse Daphne Keller, diretora de regulamentação de plataforma do Stanford Cyber ​​Policy Center.

Na União Europeia, onde os legisladores estão debatendo duas vastas peças de legislação de tecnologia, "algumas propostas dizem que os algoritmos devem priorizar fontes autorizadas de informação, e outras dizem que devem priorizar fontes diversas", observou Keller.

"Como você reconcilia esses dois objetivos?"

O caminho a seguir não é claro nos Estados Unidos, onde dezenas de emendas legais foram propostas por legisladores em dúvida sobre o que exatamente é a mídia social que precisa ser consertada.

"À esquerda, as pessoas não gostam de todas as coisas prejudiciais, como discurso de ódio e desinformação; à direita, as pessoas pensam que sua liberdade de expressão está sendo tirada", resumiu Noah Giansiracusa, autor de "How Algorithms Create and Prevent Fake News "
 
Políticos e acadêmicos sugeriram vários meios de limitar os efeitos colaterais prejudiciais dos algoritmos de mídia social - nenhum sem suas complicações.

Alguns sugerem que plataformas como Facebook e Twitter podem ser legalmente responsabilizadas pelo que publicam, o que os desencorajaria a amplificar postagens que espalhem ódio ou desinformação.

Mas nos Estados Unidos, onde a maioria dos gigantes da mídia social está sediada, Giansiracusa disse que isso enfrentaria rapidamente desafios jurídicos por parte dos críticos que alegam que isso viola o direito à liberdade de expressão.

Como alternativa, os governos podem restringir a capacidade das redes sociais de personalizar o que as pessoas veem em seus feeds.

YouTube e Facebook foram acusados ​​de radicalizar inadvertidamente algumas pessoas desta forma, alimentando-as post após post de conteúdo carregado de teoria da conspiração.

As empresas de mídia social podem ser obrigadas a simplesmente mostrar as postagens das pessoas em ordem cronológica - mas isso pode tornar a rolagem de um feed mais enfadonha.

Os algoritmos não seriam mais capazes de calcular o que um usuário provavelmente achará interessante - uma foto de um amigo próximo se casando, por exemplo - enquanto rebaixam as postagens tediosas sobre o que um conhecido comeu no almoço.

“Não existe uma solução simples”, concluiu Giansiracusa.

Entra lixo, sai lixo

Além da mídia social, a dependência mundial da tecnologia digital significa que os algoritmos afetam cada vez mais os resultados do mundo real - às vezes de forma drástica.

O cão de guarda do ciberespaço da China está refletindo sobre a regulamentação dos algoritmos das empresas de tecnologia, principalmente após as críticas de como aplicativos de entrega de comida como o Meituan e o Ele.me do Alibaba tratam trabalhadores financeiramente vulneráveis.

Esses aplicativos têm enfrentado críticas por reduzir o pagamento dos motoristas se eles não chegarem rápido o suficiente, o que incentiva efetivamente a direção imprudente.

E estudos mostraram como a inteligência artificial pode se provar racista ou sexista, desde ferramentas de leitura de currículos que favorecem candidatos do sexo masculino até software de avaliação de risco dos EUA que recomenda prisioneiros brancos para liberdade condicional com mais frequência do que seus colegas negros.

Ambos são exemplos de um princípio de computação conhecido como "lixo que entra, lixo sai" - a ideia de que algoritmos podem replicar preconceitos humanos se forem alimentados com dados incorporados a esses preconceitos.

Os reguladores estão cada vez mais buscando maneiras de prevenir esses resultados discriminatórios, com a Comissão Federal de Comércio dos EUA sinalizando que penalizará as empresas que venderem algoritmos tendenciosos.

"A forma como os algoritmos moldam nosso feed de notícias é importante", disse Keller. "Mas quando algoritmos enviam pessoas para a prisão ou negam-lhes emprego, isso não recebe atenção suficiente."

 

.
.

Leia mais a seguir