Com a explosão das mídias sociais, grupos de pessoas com interesses comuns se formam de maneira fácil. Recentemente, ideologias on-line de ódio e narrativas extremistas foram ligadas a uma onda de crimes em todo o mundo. Para impedir isso, pesquisadores decidiram entender melhor como o ódio on-line evolui e se é possível interrompê-lo.

O ódio destrói vidas, não apenas através de ataques físicos, mas psicologicamente, através do bullying e da retórica da internet. Tendo isso em mente, os pesquisadores decidiram chegar ao fundo do ódio on-line, analisando por que ele é tão resistente e como ele pode ser melhor combatido. Foi descoberto que o ódio prospera globalmente por meio de diretórios auto-organizados (clusters) que se interconectam para formar redes, que são, por sua vez, espalhadas por várias plataformas de mídia social, países e idiomas. Esse processo foi identificado através de um modelo de mapeamento recém-desenvolvido.

Para entender como o ódio evolui on-line, a equipe começou mapeando como os clusters se interconectam para espalhar suas narrativas e atrair novos recrutas. Com foco nas plataformas de mídia social, como o Facebook e sua contraparte na Europa central, VKontakte, os pesquisadores começaram com um determinado grupo de ódio e procuraram encontrar um segundo que estivesse fortemente conectado ao original. Eles descobriram que o ódio ultrapassa os limites de plataformas específicas da internet, incluindo Instagram, Snapchat e WhatsApp, e de localização geográfica, incluindo os Estados Unidos, África do Sul e partes da Europa, e idiomas, incluindo inglês e russo.

Os pesquisadores viram clusters criando novas estratégias de adaptação para se reagruparem em outras plataformas e/ou entrar novamente em uma plataforma depois de serem banidos. Por exemplo, os clusters podem migrar e se reconstituir em outras plataformas ou usar idiomas diferentes para evitar a detecção. Isso permite que o cluster traga rapidamente milhares de apoiadores para uma plataforma na qual foram banidos, destacando assim a necessidade de cooperação entre plataformas para limitar grupos de ódio on-line.

É como podar ervas-daninhas: o problema voltará, potencialmente mais agressivo, se não for cortado pela raiz. No mundo on-line, todas as comunidades estão interconectadas de uma maneira altamente complexa. E é por isso que plataformas de mídia social individuais como o Facebook precisam de um escrutínio mais pesado a respeito dos discursos de ódio para mitigar esse problema.

A equipe usou informações do seu mapeamento de ódio on-line para desenvolver quatro estratégias de intervenção que as plataformas de mídia social poderiam implementar imediatamente:

• Reduza a potência e o número de clusters grandes banindo os clusters menores que os alimentam.
• Ataque o calcanhar de Aquiles dos grupos de ódio on-line banindo aleatoriamente uma pequena fração de usuários individuais, a fim de fazer parte da rede global de clusters.
• Combine grandes grupos, ajudando-os a encontrar e se envolver diretamente com os grupos de ódio.
• Crie grupos intermediários que envolvam grupos de ódio para ajudar a destacar as diferenças de ideologias entre eles e fazê-los começar a questionar sua posição.

Os pesquisadores observaram que cada uma de suas estratégias pode ser adotada em escala global e simultaneamente em todas as plataformas, sem a necessidade de compartilhar informações confidenciais de usuários individuais ou segredos comerciais, estratégia que já deu errado antes.