Apesar de todos os seus esforços para moderar o conteúdo e reduzir a toxicidade online, as empresas de redes sociais ainda se preocupam fundamentalmente com uma coisa: reter os utilizadores a longo prazo, um objetivo que consideram ser melhor alcançado mantendo-os envolvidos com o conteúdo durante o maior tempo possível. Mas o objetivo de manter os indivíduos envolvidos não serve necessariamente a sociedade em geral e pode até ser prejudicial aos valores que prezamos, como viver numa democracia saudável.

Para resolver esse problema, uma equipe de pesquisadores de Stanford aconselhados por Michael Bernstein , professor associado de ciência da computação na Escola de Engenharia, e Jeffrey Hancock, professor de comunicação na Escola de Humanidades e Ciências, questionou-se se os designers de plataformas de mídia social poderiam, de uma forma mais baseada em princípios, incorporar valores sociais em seus algoritmos de classificação de feeds. Poderiam estes algoritmos, por exemplo, promover valores sociais como a participação política, a saúde mental ou a ligação social? A equipe testou a ideia empiricamente em um novo artigo que será publicado no  Proceedings of the ACM on Human-Computer Interaction em abril de 2024. Bernstein, Hancock e um grupo de professores do Stanford HAI também exploraram essa ideia em um artigo de reflexão recente.

Para a sua experiência, os investigadores pretendiam diminuir a animosidade partidária através da construção de valores democráticos num algoritmo de classificação de feeds. “Se conseguirmos diminuir esse valor tão importante, talvez possamos aprender como usar as classificações de mídia social para afetar outros valores que nos interessam”, diz  Michelle Lam, estudante do quarto ano de pós-graduação em ciência da computação na Universidade de Stanford e coautor principal do estudo.

O projeto, apoiado por uma bolsa Stanford HAI Hoffman-Yee , exigia a tradução de conceitos das ciências sociais sobre valores democráticos em objetivos algorítmicos; criar um feed que implementasse o modelo de valores democráticos; e testar o seu impacto na animosidade partidária das pessoas. O resultado: a equipe descobriu menor animosidade partidária entre as pessoas que viram um feed que rebaixava (ou removia e substituía) postagens que expressavam atitudes altamente antidemocráticas.

Além disso, os utilizadores ficaram tão envolvidos com o feed otimizado para valores democráticos como com um feed baseado em envolvimento. “Isso deveria ser uma notícia animadora para a indústria porque sugere que um algoritmo de classificação de feeds baseado em valores sociais não comprometerá o envolvimento dos usuários”, diz  Chenyan Jia, professor assistente da Northeastern University, ex-bolsista de pós-doutorado em Stanford e coautor principal do estudo.

Muitos sistemas de IA são treinados para otimizar para uma meta específica conhecida como função objetivo. No caso de algoritmos de mídia social, a função objetivo normalmente otimiza o engajamento. Mas para este projeto, a equipa de investigação propôs a criação de uma função objetivo social, que exigia a tradução dos valores democráticos num modelo que um computador pudesse otimizar. 

Embora essa tarefa possa parecer abstrata ou subjetiva, diz Lam, a equipe conseguiu desenvolver um trabalho de ciências sociais que define claramente valores antidemocráticos que são persistentes em pesquisas e análises de conteúdo. Especificamente, os investigadores utilizaram definições estabelecidas de oito desses valores: animosidade partidária, apoio a práticas antidemocráticas, apoio à violência partidária, apoio a candidatos antidemocráticos, oposição ao bipartidarismo, desconfiança social, distância social e avaliação tendenciosa de fatos politizados. 

Para cada valor antidemocrático, a equipa desenvolveu três critérios para determinar se o valor estava presente numa publicação nas redes sociais. Cada postagem recebeu uma classificação de 1 a 3 de acordo com quantos critérios foram atendidos. Por exemplo, as publicações com classificações numéricas mais baixas podem apenas expressar um ponto de vista partidário, enquanto as publicações com classificações mais elevadas eram muitas vezes ativamente antagônicas em relação à outra parte ou amplificavam emoções negativas.

A equipe então criou um feed de mídia social de 60 postagens chamado PolitiFeed com sete condições diferentes, incluindo: um feed baseado em engajamento; um feed com avisos de conteúdo; um feed com postagens altamente antidemocráticas rebaixadas; e um feed com postagens antidemocráticas removidas e substituídas.

Utilizando uma plataforma de crowdsourcing, testaram o impacto destes feeds em 1.380 participantes do estudo. O resultado: menor animosidade partidária entre democratas e republicanos que leem o feed de rebaixamento ou o feed de remoção e substituição em comparação com aqueles que leem o feed baseado em engajamento.

Para ampliar seus esforços, a equipe recorreu em seguida a um grande modelo de linguagem, o GPT-4, para ver se conseguiria avaliar as postagens nas redes sociais com a mesma eficácia que a equipe havia feito manualmente. Adotaram uma abordagem de “disparo zero”, o que significa que, em vez de treinar o sistema de IA com exemplos, deram instruções em linguagem simples, descrevendo como avaliar as oito medidas de valores antidemocráticos na sua escala de 3 pontos. O resultado: as classificações algorítmicas do GPT-4 estavam altamente correlacionadas com as classificações manuais e, talvez mais importante, implementá-las no feed da mídia social ainda rendeu animosidade partidária reduzida. Além disso, os utilizadores consideraram os vários feeds igualmente envolventes – sugerindo que os utilizadores continuarão a clicar mesmo que as empresas implementem funções de objectivo social. Além disso, a equipe descobriu que os avisos de conteúdo saíram pela culatra, pois levantaram preocupações sobre a liberdade de expressão entre os conservadores. Notavelmente, o feed de rebaixamento e o feed de remoção e substituição são mais eficazes na redução da animosidade entre pessoas que são fracamente partidárias do que entre aquelas que são fortemente partidárias.

A equipa está atualmente a trabalhar numa experiência longitudinal e em grande escala num ambiente mais natural – implementando o modelo de valores democráticos nos feeds das pessoas nas redes sociais em tempo real para ver se terá algum impacto.

“As redes sociais de hoje já incorporam valores, mas muitas vezes eles são definidos implicitamente”, diz Lam. No futuro, a equipa pretende prosseguir o trabalho empírico que implemente explicitamente funções de objetivo social no contexto das redes sociais e meça o seu impacto. “Devíamos experimentar valores diferentes, como o bem-estar mental ou a sustentabilidade ambiental – e também a forma como eles se comparam”, diz Lam. “Isso é especialmente importante à medida que avançamos para comunidades diferentes que podem ter normas e necessidades diferentes.”