Dos va­deos do YouTube, somos recomendados para decidir quem consegue um emprego, os algoritmos exercem uma influaªncia cada vez maior sobre nossas vidas - e os legisladores em todo o mundo querem controla¡-los.

Enquanto a China estãopreocupada com os algoritmos de entrega de aplicativos que incentivam seus motoristas a acelerar, os legisladores dos EUA estãolutando com sistemas de recomendação de ma­dia social que tem enviado alguns usuários para tocas de coelho perigosas.

"Algoritmos podem ser aºteis, éclaro, mas muitas pessoas simplesmente não estãocientes de quanto sua experiência nessas plataformas estãosendo manipulada", escreveu John Thune, um dos vários senadores dos EUA que propaµem uma nova legislação de ma­dia social, em um artigo da CNN -ed.

O Facebook enfrentou cra­ticas ferozes depois que um denunciante revelou que os executivos sabiam que o algoritmo do site promovia sistematicamente mensagens inflamata³rias nos feeds de nota­cias das pessoas, alimentando divisaµes e inquietações da andia a  Etia³pia.

Frances Haugen, a ex-engenheira do Facebook por trás das revelações, acredita que as pessoas merecem saber mais sobre como o conteaºdo que veem émoldado pela confusão de dados que alimenta a ma¡quina de ma­dia social.

"Acho que se apenas dissermos, 'vamos regular algoritmos', isso étão amorfo", disse Haugen a  AFP na semana passada.

“Acho que émais poderoso dizer, 'Ei, Facebook, vocêtem muito mais transparaªncia do que nós'”, e forçar a empresa a revelar mais sobre como seus sistemas funcionam, disse ela.

Os ativistas e legisladores podem concordar que os algoritmos dos gigantes da tecnologia precisam de mais supervisão pública, mas como conseguir isso éuma questãodiferente.

"Existem algumas perguntas realmente difa­ceis sem resposta", disse Daphne Keller, diretora de regulamentação de plataforma do Stanford Cyber ​​Policy Center.

Na Unia£o Europeia, onde os legisladores estãodebatendo duas vastas pea§as de legislação de tecnologia, "algumas propostas dizem que os algoritmos devem priorizar fontes autorizadas de informação, e outras dizem que devem priorizar fontes diversas", observou Keller.

"Como vocêreconcilia esses dois objetivos?"

O caminho a seguir não éclaro nos Estados Unidos, onde dezenas de emendas legais foram propostas por legisladores em daºvida sobre o que exatamente éa ma­dia social que precisa ser consertada.

"Aesquerda, as pessoas não gostam de todas as coisas prejudiciais, como discurso de a³dio e desinformação; a  direita, as pessoas pensam que sua liberdade de expressão estãosendo tirada", resumiu Noah Giansiracusa, autor de "How Algorithms Create and Prevent Fake News "

Pola­ticos e acadaªmicos sugeriram vários meios de limitar os efeitos colaterais prejudiciais dos algoritmos de ma­dia social - nenhum sem suas complicações.

Alguns sugerem que plataformas como Facebook e Twitter podem ser legalmente responsabilizadas pelo que publicam, o que os desencorajaria a amplificar postagens que espalhem a³dio ou desinformação.

Mas nos Estados Unidos, onde a maioria dos gigantes da ma­dia social estãosediada, Giansiracusa disse que isso enfrentaria rapidamente desafios jura­dicos por parte dos cra­ticos que alegam que isso viola o direito a  liberdade de expressão.

Como alternativa, os governos podem restringir a capacidade das redes sociais de personalizar o que as pessoas veem em seus feeds.

YouTube e Facebook foram acusados ​​de radicalizar inadvertidamente algumas pessoas desta forma, alimentando-as post após post de conteaºdo carregado de teoria da conspiração.

As empresas de ma­dia social podem ser obrigadas a simplesmente mostrar as postagens das pessoas em ordem cronola³gica - mas isso pode tornar a rolagem de um feed mais enfadonha.

Os algoritmos não seriam mais capazes de calcular o que um usua¡rio provavelmente achara¡ interessante - uma foto de um amigo pra³ximo se casando, por exemplo - enquanto rebaixam as postagens tediosas sobre o que um conhecido comeu no almoa§o.

“Nãoexiste uma solução simples”, concluiu Giansiracusa.

Além da ma­dia social, a dependaªncia mundial da tecnologia digital significa que os algoritmos afetam cada vez mais os resultados do mundo real - a s vezes de forma dra¡stica.

O ca£o de guarda do ciberEspaço da China estãorefletindo sobre a regulamentação dos algoritmos das empresas de tecnologia, principalmente após as cra­ticas de como aplicativos de entrega de comida como o Meituan e o Ele.me do Alibaba tratam trabalhadores financeiramente vulnera¡veis.

Esses aplicativos tem enfrentado cra­ticas por reduzir o pagamento dos motoristas se eles não chegarem rápido o suficiente, o que incentiva efetivamente a direção imprudente.

E estudos mostraram como a inteligaªncia artificial pode se provar racista ou sexista, desde ferramentas de leitura de curra­culos que favorecem candidatos do sexo masculino atésoftware de avaliação de risco dos EUA que recomenda prisioneiros brancos para liberdade condicional com mais frequência do que seus colegas negros.

Ambos são exemplos de um princa­pio de computação conhecido como "lixo que entra, lixo sai" - a ideia de que algoritmos podem replicar preconceitos humanos se forem alimentados com dados incorporados a esses preconceitos.

Os reguladores estãocada vez mais buscando maneiras de prevenir esses resultados discriminata³rios, com a Comissão Federal de Comanãrcio dos EUA sinalizando que penalizara¡ as empresas que venderem algoritmos tendenciosos.

"A forma como os algoritmos moldam nosso feed de nota­cias éimportante", disse Keller. "Mas quando algoritmos enviam pessoas para a prisão ou negam-lhes emprego, isso não recebe atenção suficiente."