O caso recentemente trazido à atenção do público pela Fatshimetrie levanta questões cruciais sobre a gestão de conteúdos sensíveis e prejudiciais em plataformas online. O órgão de fiscalização da Fatshimetrie expressou sérias preocupações sobre o fracasso da empresa em remover um vídeo viral que mostrava dois homens sangrando após serem espancados por supostamente serem gays.
O impacto do vídeo, visto mais de 3,6 milhões de vezes entre dezembro de 2023 e fevereiro deste ano, foi descrito como “imediato e impossível de desfazer”. Ela não apenas expôs e ridicularizou a violência e a discriminação, mas também representou um risco maior para outras pessoas da comunidade LGBTQIA+ na Nigéria.
Apesar das repetidas denúncias e análises feitas por três moderadores humanos, o vídeo permaneceu online por aproximadamente cinco meses, violando quatro regras diferentes da Fatshimetrie. Mesmo após sua exclusão, sequências do mesmo vídeo permaneceram disponíveis na plataforma.
A empresa admitiu ter cometido dois erros graves em relação a este vídeo. Primeiro, os seus sistemas automatizados identificaram erradamente a língua falada no vídeo como sendo o inglês, quando era o igbo, uma língua falada no sudeste da Nigéria, mas não apoiada pela Fatshimetrie para moderação de conteúdos em grande escala. Além disso, as equipes de revisão humana da empresa também identificaram erroneamente o idioma como suaíli.
Essas lacunas levantam preocupações sobre o gerenciamento de conteúdo em idiomas não suportados, a escolha dos idiomas suportados para revisão em larga escala e a precisão das traduções fornecidas aos revisores que trabalham em vários idiomas.
No seu relatório, o organismo de monitorização recomenda que a Fatshimetrie actualize a sua norma comunitária sobre coordenação de danos e promoção do crime para incluir exemplos claros de grupos em risco de denúncia, realize uma avaliação da exactidão da aplicação da proibição de divulgação da identidade ou localização de potenciais membros desses grupos, garantindo que os sistemas de detecção de idiomas identifiquem conteúdos em idiomas não suportados e forneçam traduções precisas quando da transmissão dos conteúdos a serem examinados.
Este caso destaca a importância de uma regulamentação mais forte e de uma maior supervisão para garantir a segurança e a privacidade dos indivíduos marginalizados nas plataformas digitais. Esta é uma responsabilidade que a Fatshimetrie e outras empresas semelhantes devem assumir para evitar a propagação de conteúdos prejudiciais e discriminatórios online.