O Instagram não conseguiu remover 93% dos comentários abusivos direcionados a mulheres políticas entre 1.000 exemplos sinalizados no aplicativo por provavelmente violarem suas regras, de acordo com um relatório divulgado na quarta-feira pelo Centro sem fins lucrativos para Combater o Ódio Digital.
O centro disse que coletou os comentários abusivos neste verão das contas do Instagram de 10 mulheres que ocupam cargos públicos — cinco republicanas e cinco democratas. Ele disse que relatou os comentários por meio do aplicativo e, em seguida, verificou novamente uma semana depois para encontrar a grande maioria deles ainda online.
Muitas das respostas abusivas deixadas no Instagram eram sexualmente degradantes ou incluíam ameaças violentas que provavelmente violavam Diretrizes da comunidade do Instagramde acordo com o centro. Alguns comentários incluíam linguagem explícita sobre estupro, ferimento ou morte em conexão com as políticas femininas, e o Instagram os deixou no ar, disse o centro.
Não está claro em 93% dos exemplos se o Instagram tomou alguma medida além da remoção, por exemplo, classificando comentários abusivos em posições mais baixas nas discussões para que menos pessoas os vissem.
A Meta, empresa controladora do Instagram, disse que não tinha visto o relatório antes de seu lançamento, mas que revisaria os exemplos coletados pelo centro. Ela disse que removeria qualquer coisa que violasse as regras, mas acrescentou que nem todos os comentários ofensivos são violações.
A empresa disse que seus sistemas são um trabalho em andamento.
“Fornecemos ferramentas para que qualquer pessoa possa controlar quem pode comentar em suas postagens, filtrar automaticamente comentários, frases ou emojis ofensivos e ocultar automaticamente comentários de pessoas que não as seguem”, disse Cindy Southworth, chefe de segurança feminina da Meta, em uma declaração por e-mail.
“Trabalhamos com centenas de parceiros de segurança ao redor do mundo para melhorar continuamente nossas políticas, ferramentas, detecção e aplicação, e revisaremos o relatório do CCDH e tomaremos medidas sobre qualquer conteúdo que viole nossas políticas”, disse ela.
O relatório chega em um momento potencialmente histórico para as mulheres na política, com a vice-presidente Kamala Harris buscando se tornar a primeira mulher presidente do país. Ela deve enfrentar o ex-presidente Donald Trump na eleição de novembro.
Harris estava entre as 10 mulheres que ocupavam cargos públicos cujas contas do Instagram o centro examinou, e o Instagram não foi melhor em remover linguagem abusiva direcionada a ela, descobriu o relatório. O centro disse que 92% dos 105 comentários abusivos direcionados a Harris ainda estavam online uma semana após denunciá-los ao Instagram. O abuso incluía comentários sexistas e racistas, disse o centro.
A campanha de Harris não respondeu imediatamente a um pedido de comentário sobre as descobertas. Os gabinetes de todas as mulheres políticas incluídas no relatório foram solicitados a comentar.
Os comentários abusivos e a aplicação inconsistente de medidas pelo Instagram ilustram o assédio que as mulheres frequentemente enfrentam depois que decidem concorrer a um cargo, disse Imran Ahmed, CEO do Centro de Combate ao Ódio Digital.
“Eles estão tentando enviar uma mensagem às mulheres de forma mais geral: que elas não têm lugar na vida pública”, disse ele sobre as pessoas que deixaram comentários.
“O abuso de mulheres pode dissuadir algumas de decidir que a política é a carreira certa para elas”, disse ele.
Ahmed disse que o Instagram deveria impor suas políticas existentesincluindo proibições de discurso de ódio, discurso violento e discurso desumanizante, e ele disse que o site deveria ser mais transparente com os usuários sobre seu raciocínio ao decidir sobre possíveis violações de regras.
Ele disse que o centro concentrou o relatório no Instagram, em vez de outros aplicativos de mídia social, porque é uma plataforma que “as pessoas percebem como segura” e o centro queria testar se isso era verdade.
As respostas abusivas ainda eram uma minoria dos comentários no Instagram, que tem sistemas automatizados para capturar alguns abusos e assédios. Cerca de 1 em 25 respostas a políticas mulheres no Instagram provavelmente são tóxicas, de acordo com a análise do centro de um conjunto de 421.361 comentários.
O Instagram diz que detecta 98% dos discursos de ódio e eventualmente toma medidas antes que alguém os denuncie, graças ao seu software de detecção automatizado.
Mas muitos dos comentários abusivos vêm de reincidentes, de acordo com o centro. Das 1.000 amostras examinadas pelos pesquisadores, 221 comentários eram de contas que tinham como alvo as políticas mulheres no estudo, disse.
