No início deste ano , o cineasta palestino-americano Khitam Jabr postou alguns vídeos sobre a viagem de sua família à Cisjordânia. Nos curtos vlogs de viagem, Jabr compartilhou trechos da cultura palestina, desde comer refeições decadentes até dançar no casamento de sua sobrinha.
“Eu não estava lá há uma década, então é como se fosse uma vida no exterior”, disse Jabr ao TechCrunch. Mas então, ela percebeu algo estranho acontecendo com sua conta. “Eu recebia comentários [anti-Palestina]”, lembrou ela. “E não consegui responder [a eles] ou usar minha conta por 24 horas. Eu nem estava postando nada sobre a ocupação. Mas avançando para agora, a mesma merda está acontecendo.”
No rescaldo do ataque do Hamas aos israelitas, os ataques aéreos de retaliação e o bloqueio total de Israel – cortando o acesso à electricidade, à água e a abastecimentos vitais – devastaram Gaza. Emresposta à escalada da violência , a Meta disse que está monitorando de perto suas plataformas em busca de violações e pode sinalizar inadvertidamente determinado conteúdo, mas nunca pretende “suprimir uma comunidade ou ponto de vista específico”. Conteúdo que elogie ou apoie o Hamas, que governa Gaza e é designado como organização terrorista pelos Estados Unidos e pela União Europeia, é expressamente proibido nas plataformas da Meta.
À medida que acrise humanitária em Gaza se agrava, muitos utilizadores das redes sociais suspeitam que o Instagram censura conteúdos sobre o território palestiniano sitiado, mesmo que esse conteúdo não apoie o Hamas. Os usuários também reclamaram que foram assediados e denunciados por postar conteúdo sobre a Palestina, independentemente de isso violar ou não as políticas da Meta. Jabr, por exemplo, suspeita que o Instagram a restringiu por 24 horas porque outros usuários relataram seus vídeos de viagens na Palestina. Mais recentemente, os usuários do Instagram acusaram Meta de “banir” suas histórias sobre a Palestina.
É o mais recente de uma longa história de incidentes nas plataformas Meta que refletem um preconceito inerente contra os utilizadores palestinos nos seus processos, conforme documentado por anos de reclamações de dentro e de fora da empresa. A empresa pode não suprimir intencionalmente comunidades específicas, mas as suas práticas de moderação muitas vezes afetam desproporcionalmente os utilizadores palestinos.
Por exemplo, Meta luta para navegar nas nuances culturais e linguísticas do árabe, uma língua com mais de 25 dialetos, e tem sido criticada por negligenciar a diversificação adequada dos seus recursos linguísticos. As políticas claras da empresa muitas vezes a impedem de moderar efetivamente qualquer tópico sutil, como conteúdo que discuta a violência sem tolerá-la. Grupos de defesa também levantaram preocupações de que asparcerias da Meta com agências governamentais , como a Unidade Cibernética Israelense, influenciem politicamente as decisões políticas da plataforma.
Durante o último surto violento entre o Hamas e Israel em 2021, umrelatório encomendado pela Meta e conduzido por um terceiro concluiu que as ações da empresa tiveram um “impacto adverso nos direitos humanos” no direito dos utilizadores palestinos à liberdade de expressão e participação política.
A crença de que o Meta bane ou limita a visibilidade do conteúdo sobre a Palestina não é nova. Em uma história no Instagramno ano passado, a supermodelo e ativista Bella Hadid, que é descendente de palestinos, alegou que o Instagram a “impossibilitou” de postar conteúdo em sua história “praticamente apenas quando ela é baseada na Palestina”. Ela disse que é “imediatamente banida” quando posta sobre a Palestina, e as visualizações de suas histórias caem em “quase 1 milhão”.
Metaculpou erros técnicos pela remoção de postagens sobre a Palestina durante o conflito de 2021. Quando contatado para comentar sobre essas recentes alegações de shadowbanning, um representante da empresa apontou ao TechCrunch umapostagem do Threads do diretor de comunicações da Meta, Andy Stone.
“Identificamos um bug que afetava todas as histórias que compartilhavam novamente postagens de Momentos e Feed, o que significa que elas não apareciam corretamente na bandeja de histórias das pessoas, levando a um alcance significativamente reduzido”, disse Stone. “Esse bug afetou contas igualmente em todo o mundo e não teve nada a ver com o assunto do conteúdo – e nós o corrigimos o mais rápido possível.”
Mas muitos estão frustrados porque Meta continua a suprimir as vozes palestinas. Leen Al Saadi, jornalista palestina atualmente radicada na Jordânia e apresentadora do podcast “Preservando a Palestina”, disse que está acostumada a “ser constantemente censurada”. Sua conta no Instagram foirestrita no ano passado depois que ela postou um trailer do primeiro episódio do podcast , que discutia um documentário sobre a arte de rua palestina sob ocupação.
“Os palestinos estão atualmente passando por duas guerras”, disse Al Saadi. “A primeira é com seu ocupante legal. A segunda guerra é com todo o panorama da mídia ocidental, e quando digo todo o cenário, quero dizer as mídias sociais.”
Suposto shadowbanning de Meta
Os usuários do Instagram acusam o Meta de suprimir mais do que apenas histórias relacionadas à Palestina.
Os criadores dizem que o envolvimento nas suas publicações diminuiu especificamente depois de condenarem publicamente a resposta de Israel ao ataque do Hamas como excessivamente violenta. Alguns, como Jabr, dizem que foram impedidos de postar ou fazer transmissões ao vivo, enquanto outros dizem que o Instagram sinalizou seu conteúdo como “sensível”, limitando seu alcance. Os usuários também alegam que suas postagens foram sinalizadas como “inadequadas” e removidas, mesmo que o conteúdo seguisse asDiretrizes da Comunidade do Instagram .
O representante da Meta não abordou as outras acusações de censura além da visibilidade da história e não respondeu às perguntas de acompanhamento do TechCrunch. Não está claro se este “bug” impactou as contas que publicaram conteúdo não relacionado a Gaza. Os utilizadores do Instagram publicaram capturas de ecrã mostrando que as histórias sobre a Palestina receberam significativamente menos visualizações do que outras histórias publicadas no mesmo dia, e alegam que a contagem de visualizações voltou a aumentar quando publicaram conteúdo não relacionado com o conflito.
https://twitter.com/arxbprince/status/1713657399976866089?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1713657399976866089%7Ctwgr%5E6733b58e6e8a2200707e0653f0aec09fddc878b9%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Ftechcrunch.com%2F2023%2F10%2F19%2Fmeta-instagram-palestine-israel-shadowban-censorship-moderation-bias%2F
Uma usuária radicada no Egito, que pediu para permanecer anônima por medo de assédio, disse que suas postagens geralmente recebem cerca de 300 visualizações, mas quando ela começou a postar conteúdo pró-Palestina após o ataque do Hamas no início deste mês, suas histórias só teriam uma ou duas. Visualizações.
“Aconteceu com todos os meus amigos também”, ela continuou. “Então percebemos que postar uma foto aleatória geraria mais visualizações. Então, postar uma foto aleatória e depois uma postagem pró-Palestina aumentaria as visualizações.”
Outro usuário do Instagram baseado no Reino Unido, que também pediu para permanecer anônimo por medo de assédio, disse que sua contagem de visualizações voltou ao normal quando postou uma foto de um gato.
“Minhas histórias passaram de centenas de visualizações para zero ou um punhado”, disse ele. “Tive que publicar conteúdo intermitente fora de Gaza para ‘liberar’ minhas histórias para serem visualizadas novamente.”
Não são apenas histórias. O Centro Árabe para o Avanço das Mídias Sociais (7amleh), quedocumenta casos de violações dos direitos digitais palestinos e trabalha diretamente com empresas de mídia social para apelar das violações, disse ao TechCrunch que recebeu relatos de Instagram filtrando de forma inconsistente comentários contendo o emoji da bandeira palestina. Os usuários relatam que o Instagram sinalizou comentários contendo o emoji como “potencialmente ofensivos”, ocultando o comentário. Meta não respondeu aos pedidos de comentários.
A organização também recebeu inúmeros relatos de sinalização do Meta e restrição de conteúdo em árabe, mesmo que seja postado por meios de comunicação. Jalal Abukhater, gerente de defesa do 7amleh, disse que a organização documentou vários casos de jornalistas no Instagram relatando as mesmas notícias em árabe, hebraico e inglês, mas apenas sendo sinalizados por seu conteúdo em árabe.
“É literalmente conteúdo jornalístico, mas o mesmo texto em hebraico e inglês não é restrito”, disse Abukhater. “Como se houvesse uma moderação melhor para esses idiomas e uma moderação mais descuidada para o conteúdo em árabe.”
E comorelatou o Intercept , o Instagram e o Facebook estão sinalizando imagens do Hospital al-Ahli, alegando que o conteúdo viola as Diretrizes da Comunidade do Meta sobre nudez ou atividade sexual.
As Diretrizes da Comunidade são aplicadas de forma inconsistente, especialmente quando se trata de conteúdo relacionado à Palestina. Al Saadi recentemente tentou relatar um comentário que dizia que ela deveria ser “estuprada” e “queimada viva” – deixado em resposta ao seu comentário em uma postagem da CNN sobre o conflito – mas em capturas de tela analisadas pelo TechCrunch, o Instagram disse que não. violar as Diretrizes da Comunidade da plataforma contra violência ou organizações perigosas.
“As restrições ao conteúdo, especialmente o conteúdo relacionado com a Palestina, são fortemente politizadas”, disse Abukhater. “Isso alimenta genuinamente o preconceito contra a narrativa palestina. É realmente necessário equilibrar o equilíbrio contra os palestinos numa situação em que há uma enorme assimetria de poder.”
Uma história de supressão
O conteúdo sobre a Palestina é examinado de forma desproporcional, como demonstrado durante oúltimo surto violento entre o Hamas e Israel, há dois anos. Em meio à violência que se seguiu à decisão judicial de maio de 2021 para despejar famílias palestinas de Sheikh Jarrah, um bairro em Jerusalém Oriental ocupada, usuários do Facebook e do Instagram acusaram Meta de retirar postagens e suspender contas que expressavam apoio aos palestinos.
A organização sem fins lucrativos de direitos digitais Electronic Frontier Foundation (EFF) descreveu as ações da Meta em 2021 como “censura sistêmica das vozes palestinas”. No seurelatório de 2022 sobre os direitos digitais palestinos, 7amleh disse que a Meta “ainda é a empresa mais restritiva” em comparação com outros gigantes das redes sociais no que diz respeito à sua moderação do espaço digital palestino.
https://www.instagram.com/p/CyWCzLGs3dg/?utm_source=ig_embed&utm_campaign=loading
A Meta proíbe o apoio a organizações terroristas, como a maioria das empresas de redes sociais sediadas nos EUA, mas luta para moderar o conteúdo em torno disso, desde o discurso dos utilizadores até às atualizações jornalísticas. Esta política, juntamente com aparceria da empresa com Israel para monitorizar postos que incitam à violência, complica as coisas para os palestinianos que vivem sob a governação do Hamas. Como salienta a EFF , algo tão simples como a bandeira do Hamas no fundo de uma imagem pode resultar num ataque.
Jillian York, diretora de liberdade de expressão internacional da EFF, culpa a automação e as decisões tomadas por “seres humanos minimamente treinados” pela inconsistência. A política de tolerância zero e a aplicação imprecisa da Meta muitas vezes suprimem conteúdo de ou sobre zonas de conflito, disse ela. Os problemas de moderação do site afetaram negativamente várias regiões que não falam inglês, incluindo Líbia, Síria e Ucrânia.
“Estas regras podem impedir que as pessoas partilhem documentação de violações dos direitos humanos, documentação de crimes de guerra, mesmo apenas notícias sobre o que está a acontecer no terreno”, continuou York. “E então acho que isso é o que há de mais problemático no momento sobre essa regra específica e a forma como ela é aplicada.”
Ao longo dos 13 dias que antecederam o cessar-fogo entre o Hamas e Israel, o 7amlehdocumentou mais de 500 relatos de “violações dos direitos digitais” palestinianos, incluindo a remoção e restrição de conteúdos, hashtags e contas relacionadas com o conflito.
A Meta culpou alguns dos casos de censura percebida por questões técnicas, como aquela que impediu usuários naPalestina e na Colômbia de postar histórias no Instagram . Atribuiu outros a erros humanos, como o bloqueio da hashtag da Mesquita de Al-Aqsa , o local sagrado onde a polícia israelita entrou em confronto com os fiéis do Ramadão, porque foi confundida com uma organização terrorista. A empresa também bloqueou o WhatsApp de jornalistas em Gaza sem explicação.
No mesmo mês, um grupo de funcionários do Facebook apresentou queixas internas acusando a empresa de preconceito contra utilizadores árabes e muçulmanos. Em postagens internas obtidas peloBuzzFeed News , um funcionário atribuiu o preconceito a “anos e anos de implementação de políticas que simplesmente não têm escala global”.
Por recomendação do seu Conselho de Supervisão, a Meta conduziu umrelatório de due diligence de terceiros sobre a moderação da plataforma durante o conflito de maio de 2021. O relatório descobriu que o conteúdo em árabe foi sinalizado como potencialmente violador em taxas significativamente mais altas do que o conteúdo em hebraico, e tinha maior probabilidade de ser removido erroneamente. O relatório observou que o sistema de moderação do Meta pode não ser tão preciso para o conteúdo em árabe como era para o conteúdo em hebraico, porque este último é um “idioma mais padronizado”, e sugeriu que os revisores podem não ter competência linguística e cultural para compreender dialetos árabes menos comuns. como o árabe palestino.
Alguma coisa melhorou?
A Meta comprometeu-se a implementar mudanças políticas com base nas recomendações do relatório, tais como a atualização das suas palavras-chave associadas a organizações perigosas, a divulgação de pedidos governamentais para remoção de conteúdo e o lançamento de um classificador de discurso hostil para conteúdo em hebraico. Abukhater acrescentou que o Meta melhorou sua resposta ao assédio, pelo menos em comparação com outras plataformas de mídia social como o X (antigo Twitter). Embora o assédio e o abuso ainda sejam crescentes no Instagram e no Facebook, disse ele, a empresa tem respondido à suspensão de contas com padrões de direcionamento a outros usuários.
A empresa também fez mais contactos com organizações regionais palestinas desde 2021, acrescentou York, mas tem sido lenta na implementação das recomendações da EFF e de outros grupos de defesa. É “muito claro” que a Meta não está investindo os mesmos recursos no árabe e em outras línguas que não o inglês, disse York, em comparação com a atenção que a Meta dá aos países que sofrem maior pressão regulatória. A moderação do inglês e de outras línguas europeias tende a ser mais abrangente, por exemplo, porque a UE aplica aLei dos Serviços Digitais .
Na resposta da Metaao relatório , Miranda Sissons, diretora de direitos humanos da empresa, disse que a Meta estava “avaliando a viabilidade” de revisar o conteúdo árabe por dialeto. Sissons disse que a empresa tem “equipes grandes e diversificadas” que entendem “o contexto cultural local em toda a região”, inclusive na Palestina. Respondendo à escalada da violência no início deste mês, a Meta afirmou que estabeleceu um “centro de operações especiais” com pessoas fluentes em hebraico e árabe para monitorar de perto e responder a conteúdos violadores.
Apesar dos aparentes esforços da Meta para diversificar os seus recursos linguísticos, o árabe ainda é desproporcionalmente sinalizado como violador – como no caso de jornalistas que divulgam notícias em vários idiomas.
“O equilíbrio de poder é muito fixo, na realidade, entre israelitas e palestinianos”, disse Abukhater. “E isto é algo que hoje se reflete fortemente em plataformas como a Meta, apesar de terem equipas de direitos humanos divulgando relatórios e tentando melhorar as suas políticas. Sempre que acontece uma escalada como a que estamos enfrentando agora, as coisas simplesmente voltam a zero.”
https://www.instagram.com/p/Cyblkb0sQZm/?utm_source=ig_embed&utm_campaign=loading
E às vezes, as traduções do Meta para o árabe são completamente imprecisas. Esta semana, vários usuários do Instagram levantaram preocupações sobre a plataforma traduzir incorretamente a frase relativamente comum em árabe “Alhamdulillah” ou “Louvado seja Deus”. Em gravações de tela postadas on-line, os usuários descobriram que se incluíssem “Palestino” e o emoji de bandeira correspondente em sua biografia do Instagram junto com a frase em árabe, o Instagram traduzia automaticamente sua biografia para “Terroristas palestinos – Louvado seja Alá” ou “Louvado seja Deus”. Deus, os terroristas palestinos estão lutando pela sua liberdade.” Quando os usuários removeram “Palestino” e o emoji da bandeira, o Instagram traduziu a frase em árabe para “Graças a Deus”. Os usuários do Instagram reclamaram que o erro de tradução ofensivo ficou ativo por horas antes que o Meta aparecesse para corrigi-lo.
Shayaan Khan, um criador do TikTok que postou umvídeo viral sobre o erro de tradução, disse ao TechCrunch que a falta de competência cultural do Meta não é apenas ofensiva, é perigosa. Ele disse que a “falha” pode alimentar a retórica islamofóbica e racista, que já foi exacerbada pela guerra em Gaza. Khan apontou para o esfaqueamento fatal de Wadea Al-Fayoume, uma criança palestiniana-americana cuja morte está a ser investigada como um crime de ódio .
Meta não respondeu ao pedido do TechCrunch para comentar o erro de tradução. Abukhater disse que Meta disse ao 7amleh que um “bug” causou o erro de tradução. Em comunicado à404 Media , um porta-voz da Meta disse que o problema foi resolvido.
“Corrigimos um problema que causou brevemente traduções inadequadas para o árabe em alguns de nossos produtos”, dizia o comunicado, “Pedimos desculpas sinceramente por isso ter acontecido”.
À medida que a guerra continua, os usuários das redes sociais tentam encontrar maneiras de contornar o suposto shadowbanning no Instagram. As supostas lacunas incluem erros ortográficos em certas palavras, como “p@lestine” em vez de “Palestina”, na esperança de contornar quaisquer filtros de conteúdo. Os usuários também compartilham informações sobre Gaza em texto sobreposto a imagens não relacionadas, como uma foto de gato, para que não sejam sinalizadas como conteúdo gráfico ou violento. Os criadores tentaram incluir um emoji da bandeira israelense ou marcar suas postagens e histórias com #istandwithisrael, mesmo que não apoiem o governo israelense, na esperança de engajamento no jogo.
Al Saadi disse que a sua frustração com Meta é comum entre os palestinos, tanto nos territórios ocupados como em toda a diáspora.
“Tudo o que pedimos é que nos concedam exatamente os mesmos direitos”, disse ela. “Não estamos pedindo mais. Estamos literalmente apenas pedindo ao Meta, ao Instagram, a todos os canais de transmissão, a todos os meios de comunicação, que nos dêem o respeito que merecemos.”
Dominic-Madori Davis contribuiu para a reportagem desta história.
