Máquinas podem demonstrar preconceito? Sim. Num esforço para combater seus conteúdos discriminatórios, o Facebook e o Instagram anunciaram a formação de dois grupos que trabalharão para identificar algoritmos de tendência racista nas duas plataformas. Esses algoritmos podem, por exemplo, filtrar resultados de busca de modo a privilegiar alguns grupos. Com frequência, é difícil determiná-los porque não são necessariamente um resultado consciente dos criadores dos programas.
A Equipe de Igualdade, do Instagram, e o Conselho de Produto Inclusivo, do Facebook, terão como o objetivo tornar as duas plataformas “seguras e justas”, conforme anunciado, bem como examinar suas próprias políticas. A iniciativa representa não só um reconhecimento por essas redes sociais de que seus algoritmos podem atuar de maneira racista, mas também uma mudança na postura de ambas. O Facebook (dono do Instagram, do WhatsApp e do Messenger) vinha relutando em investigar as maneiras como seus produtos afetam diferentes minorias.
“O movimento por justiça social é um momento de real importância para nossa empresa”, declarou o vice-presidente de produto do Instagram, Vishal Shah. “Qualquer preconceito em nossos sistemas e políticas vai contra fornecer uma plataforma para todos se expressarem.”
Já o CEO do Instagram, Adam Mosseri, afirmou ter recebido reclamações de que a plataforma estaria suprimindo vozes negras e de que seus produtos e políticas não estariam tratando a todos da mesma forma. Negros estariam sendo “importunados com frequência” e sofrendo ações que limitariam os lugares onde seus conteúdos apareceriam na plataforma.
MAIS NEGROS NA LIDERANÇA DO FACEBOOK
O preconceito algorítmico pode se disseminar e ter um impacto sobre o modo como uma plataforma trata os usuários, afetando os conteúdos e os anúncios que eles veem, bem como o modo como suas postagens são filtradas. Isso pode ocorrer, por exemplo, nas áreas de contratação de funcionários e aprovação de empréstimos. Pesquisadores, grupos de direitos civis e políticos vinham denunciando o preconceito algorítmico no Facebook e no Instagram.
As duas redes sociais afirmaram também que passaram a incluir dados sobre diversidade e inclusão em suas análises de desempenho bianuais. O Facebook já anunciara a intenção de aumentar em 30 por cento a presença de negros em funções de liderança na empresa ao longo dos próximos cinco anos. A plataforma tem sido criticada por não combater grupos racistas e enfrentou um boicote de anunciantes, em meio a uma campanha de grupos de direitos civis em protesto contra o modo como lida com discursos de ódio.
Grandes marcas como Disney, Microsoft, Coca-Cola, Unilever e Ford chegaram a reduzir seus gastos com anúncios no Facebook, juntando-se a centenas de outras empresas que aderiram ao movimento Stop Hate for Profit (Pare de lucrar com o ódio), lançado nos Estados Unidos para cobrar da rede social mais empenho contra conteúdos racistas e ofensivos.
Em artigo no site Vox, a jornalista Rebecca Heilweil disse que ferramentas automatizadas podem discriminar de inúmeras maneiras. “O preconceito pode ser inerente aos algoritmos e à inteligência artificial baseado em quem constrói essas tecnologias, em quais suposições são programadas nelas, em como são treinadas e em como são implementadas”, explicou ela. “Uma fonte notável de preconceito provém de dados: se um algoritmo é treinado usando uma base de dados que não é representativa de um grupo demográfico particular, é bem possível que seja impreciso quando aplicado a pessoas que não fazem parte desse grupo.”
