Humanidades

O conteúdo malicioso explora caminhos entre as plataformas para prosperar on-line e subverter a moderação
Liderada por Neil Johnson, professor de física da GW, a equipe de pesquisa começou a entender como e por que o conteúdo malicioso se desenvolve tão bem online, apesar dos esforços de moderação significativos, e como ele pode ser interrompido.
Por George Washington University - 15/06/2021


Conteúdo malicioso do COVID-19 (por exemplo, ódio antiasmático) explora caminhos entre plataformas de mídia social para se espalhar online. Crédito: Neil Johnson / GW

O conteúdo online malicioso do COVID-19 - incluindo conteúdo racista, desinformação e desinformação - prospera e se espalha online ao contornar os esforços de moderação de plataformas individuais de mídia social, de acordo com uma nova pesquisa publicada na revista Scientific Reports . Ao mapear grupos de ódio online em seis principais plataformas de mídia social, os pesquisadores da George Washington University mostram como o conteúdo malicioso explora caminhos entre as plataformas, destacando a necessidade das empresas de mídia social repensarem e ajustar suas políticas de moderação de conteúdo.

Liderada por Neil Johnson, professor de física da GW, a equipe de pesquisa começou a entender como e por que o conteúdo malicioso se desenvolve tão bem online, apesar dos esforços de moderação significativos, e como ele pode ser interrompido. A equipe usou uma combinação de aprendizado de máquina e ciência de dados de rede para investigar como as comunidades de ódio online aprimoraram o COVID-19 como uma arma e usaram os eventos atuais para atrair novos seguidores.

"Até agora, desacelerar a disseminação de conteúdo malicioso online era como jogar um jogo de whack-a-mole, porque um mapa do multiverso do ódio online não existia", Johnson, que também é pesquisador do GW Institute for Data , Democracia e Política, disse. "Você não pode vencer uma batalha se não tiver um mapa do campo de batalha. Em nosso estudo, apresentamos um mapa deste tipo de campo de batalha. Quer você esteja examinando tópicos de ódio tradicionais, como antissemitismo ou racismo antiasmático em torno de COVID-19, o mapa do campo de batalha é o mesmo. E é esse mapa de links dentro e entre as plataformas que falta para entender como podemos desacelerar ou impedir a disseminação de conteúdo de ódio online . "

Os pesquisadores começaram mapeando como os clusters de ódio se interconectam para espalhar suas narrativas em plataformas de mídia social. Focando em seis plataformas - Facebook, VKontakte, Instagram, Gab, Telegram e 4Chan - a equipe começou com um determinado cluster de ódio e olhou para fora para encontrar um segundo cluster fortemente conectado ao original. Eles descobriram que as conexões mais fortes eram VKontakte no Telegram (40,83% das conexões de plataforma cruzada), Telegram no 4Chan (11,09%) e Gab no 4Chan (10,90%).

Os pesquisadores então voltaram sua atenção para a identificação de conteúdo malicioso relacionado ao COVID-19. Eles descobriram que a coerência da discussão do COVID-19 aumentou rapidamente nas fases iniciais da pandemia, com grupos de ódio formando narrativas e convergindo em torno dos tópicos do COVID-19 e desinformação. Para subverter os esforços de moderação por plataformas de mídia social, os grupos que enviam mensagens de ódio usaram várias estratégias de adaptação a fim de se reagrupar em outras plataformas e / ou reentrar em uma plataforma , descobriram os pesquisadores. Por exemplo, os clusters frequentemente mudam seus nomes para evitar a detecção por algoritmos dos moderadores, como vacina para va $$ ine. Da mesma forma, os clusters antissemitas e anti-LGBTQ simplesmente adicionam cadeias de 1's ou A's antes de seus nomes.
 
"Como o número de plataformas de mídia social independentes está crescendo, esses grupos geradores de ódio provavelmente fortalecerão e expandirão suas interconexões por meio de novos links e provavelmente explorarão novas plataformas que estão além do alcance dos Estados Unidos e das jurisdições de outras nações ocidentais . " Disse Johnson. "As chances de fazer com que todas as plataformas de mídia social globalmente trabalhem juntas para resolver isso são muito pequenas. No entanto, nossa análise matemática identifica estratégias que as plataformas podem usar como um grupo para reduzir ou bloquear efetivamente o conteúdo de ódio online."

Com base em suas descobertas, a equipe sugere várias maneiras para as plataformas de mídia social desacelerarem a disseminação de conteúdo malicioso:

Aumente artificialmente os caminhos que o conteúdo malicioso precisa seguir entre os clusters, aumentando as chances de sua detecção por moderadores e atrasando a disseminação de material urgente, como informações incorretas COVID-19 como arma e conteúdo violento.

Controle o tamanho da base de suporte de um cluster de ódio online colocando um limite no tamanho dos clusters.

Apresente conteúdo mainstream não malicioso para diluir efetivamente o foco de um cluster .

"Nosso estudo demonstra uma semelhança entre a disseminação do ódio online e a disseminação de um vírus", disse Yonatan Lupu, professor associado de ciência política da GW e coautor do artigo. "As plataformas de mídia social individuais têm dificuldade em controlar a disseminação do ódio online, que reflete a dificuldade de países individuais ao redor do mundo em impedir a disseminação do vírus COVID-19."

Daqui para frente, Johnson e sua equipe já estão usando seu mapa e sua modelagem matemática para analisar outras formas de conteúdo malicioso - incluindo a transformação em arma de vacinas COVID-19 em que certos países estão tentando manipular o sentimento dominante para ganhos nacionalistas. Eles também estão examinando até que ponto os atores individuais, incluindo governos estrangeiros, podem desempenhar um papel mais influente ou controlador neste espaço do que outros.

 

.
.

Leia mais a seguir