O Reino Unido acaba de estabelecer novas regras para a Internet – só fica mais difícil a partir daqui

Após a árdua passagem plurianual da Lei de Segurança Online pelo processo legislativo do Reino Unido, o regulador Ofcom publicou suas primeiras diretrizes sobre como as empresas de tecnologia podem cumprir a legislação gigantesca. A sua proposta — parte de um processo de publicação multifásico — descreve como as plataformas de redes sociais, motores de busca, jogos online e móveis e sites pornográficos devem lidar com conteúdos ilegais, como material de abuso sexual infantil (CSAM), conteúdo terrorista e fraude.

As diretrizes de hoje estão sendo divulgadas como propostas para que o Ofcom possa coletar feedback antes que o Parlamento do Reino Unido as aprove no final do próximo ano. Mesmo assim, os detalhes serão voluntários. As empresas de tecnologia podem garantir que estão obedecendo à lei seguindo as diretrizes ao pé da letra, mas podem adotar sua própria abordagem, desde que demonstrem conformidade com as regras gerais da lei (e, presumivelmente, estejam preparadas para defender seu caso com o Ofcom). .

“O que isso faz pela primeira vez é impor às empresas de tecnologia o dever de cuidar da responsabilidade pela segurança de seus usuários”, disse Gill Whitehead, líder de segurança online do Ofcom, ao The Verge em uma entrevista. “Quando eles tomam conhecimento de que há conteúdo ilegal em sua plataforma, eles precisam retirá-lo e também realizar avaliações de risco para compreender os riscos específicos que esses serviços podem acarretar.”

O objetivo é exigir que os sites sejam proativos para impedir a propagação de conteúdo ilegal e não apenas para atacar a toupeira após o fato. O objetivo é encorajar uma mudança de uma abordagem reativa para uma abordagem mais proativa, diz a advogada Claire Wiseman, especializada em tecnologia, mídia, telecomunicações e dados.

O Ofcom estima que cerca de 100.000 serviços podem estar sujeitos a regras abrangentes, embora apenas as plataformas maiores e de maior risco tenham de cumprir os requisitos mais rigorosos. Ofcom recomenda que essas plataformas implementem políticas como não permitir que estranhos enviem mensagens diretas para crianças, usar correspondência de hash para detectar e remover CSAM, manter equipes de moderação de conteúdo e pesquisa e oferecer maneiras para os usuários denunciarem conteúdo prejudicial.

As grandes plataformas tecnológicas já seguem muitas destas práticas, mas o Ofcom espera vê-las implementadas de forma mais consistente. “Achamos que representam as melhores práticas do que existe, mas não são necessariamente aplicadas de forma generalizada”, diz Whitehead. “Algumas empresas estão aplicando-o esporadicamente, mas não necessariamente de forma sistemática, e por isso acreditamos que há um grande benefício para uma adoção mais generalizada e generalizada.”

Há também uma grande exceção: a plataforma conhecida como X (antigo Twitter). Os esforços do Reino Unido com a legislação são muito anteriores à aquisição do Twitter por Elon Musk, mas ela foi aprovada quando ele demitiu grande parte de suas equipes de confiança e segurança e presidiu um afrouxamento dos padrões de moderação, o que poderia colocar X em conflito com os reguladores. As diretrizes do Ofcom, por exemplo, especificam que os usuários devem ser capazes de bloquear usuários facilmente – mas Musk declarou publicamente suas intenções de remover o recurso de bloqueio do X. Ele entrou em conflito com a UE por causa de regras semelhantes e supostamente até considerou sair do mercado europeu para evitá-las. Whitehead se recusou a comentar quando perguntei se X havia cooperado nas negociações com o Ofcom, mas disse que o regulador foi “amplamente encorajado” pela resposta das empresas de tecnologia em geral.

Os regulamentos do Ofcom também cobrem como os sites devem lidar com outros danos ilegais, como conteúdo que incentiva ou auxilia o suicídio ou automutilação grave, assédio, pornografia de vingança e outras explorações sexuais, e o fornecimento de drogas e armas de fogo. Os serviços de pesquisa devem fornecer “informações sobre prevenção de crises” quando os utilizadores introduzem perguntas relacionadas com suicídio, por exemplo, e quando as empresas atualizam os seus algoritmos de recomendação, devem realizar avaliações de risco para verificar se não vão amplificar conteúdo ilegal. Se os usuários suspeitarem que um site não está cumprindo as regras, Whitehead diz que haverá uma forma de reclamar diretamente ao Ofcom. Se for descoberto que uma empresa está em violação, a Ofcom pode cobrar multas de até £ 18 milhões (cerca de US$ 22 milhões) ou 10% do faturamento mundial – o que for maior. Sites ofensivos podem até ser bloqueados no Reino Unido.

A consulta de hoje cobre alguns dos territórios menos controversos da Lei de Segurança Online, como a redução da propagação de conteúdo que já era ilegal no Reino Unido. À medida que o Ofcom lançar atualizações futuras, ele terá que abordar assuntos mais delicados, como conteúdo que é legal, mas prejudicial para crianças, acesso de menores à pornografia e proteções para mulheres e meninas. Talvez o mais controverso seja o fato de que será necessário interpretar uma seção que os críticos afirmam que poderia minar fundamentalmente a criptografia de ponta a ponta em aplicativos de mensagens.

A seção em questão permite que o Ofcom exija que as plataformas online usem a chamada “tecnologia credenciada” para detectar CSAM. Mas o WhatsApp , outros serviços de mensagens criptografadas e grupos de direitos digitais dizem que essa verificação exigiria a quebra dos sistemas de criptografia dos aplicativos e a invasão da privacidade do usuário. Whitehead diz que o Ofcom planeja consultar sobre isso no próximo ano, deixando incerto seu impacto total nas mensagens criptografadas.

Há outra tecnologia que não foi enfatizada na consulta de hoje: a inteligência artificial. Mas isso não significa que o conteúdo gerado por IA não se enquadrará nas regras. A Lei de Segurança Online tenta abordar os danos online de uma forma “tecnologicamente neutra”, diz Whitehead, independentemente de como eles foram criados. Portanto, o CSAM gerado por IA estaria no escopo em virtude de ser CSAM, e um deepfake usado para conduzir fraude estaria no escopo em virtude da fraude. “Não estamos regulamentando a tecnologia, estamos regulando o contexto”, diz Whitehead.

Embora o Ofcom diga que está tentando adotar uma abordagem colaborativa e proporcional à Lei de Segurança Online, suas regras ainda podem ser onerosas para sites que não são gigantes da tecnologia. A BBC News observa que o conjunto inicial de orientações do Ofcom tem mais de 1.500 páginas. A Wikimedia Foundation, a organização sem fins lucrativos por trás da Wikipedia, diz ao The Verge que está se mostrando cada vez mais desafiador cumprir diferentes regimes regulatórios em todo o mundo, mesmo que apoie a ideia de regulamentação em geral. “Já estamos lutando com nossa capacidade de cumprir a Lei de Serviços Digitais [da UE]”, diz a vice-presidente de defesa global da Fundação Wikimedia, Rebecca MacKinnon, ressaltando que a organização sem fins lucrativos tem apenas um punhado de advogados dedicados às regulamentações da UE em comparação às legiões que empresas como Meta e Google podem dedicar.

“Como plataforma, concordamos que temos responsabilidades”, diz MacKinnon, mas “quando você é uma organização sem fins lucrativos e cada hora de trabalho é soma zero, isso é problemático”.

Whitehead, do Ofcom, admite que a Lei de Segurança Online e a Lei de Serviços Digitais são mais “primos regulatórios” do que “gêmeos idênticos”, o que significa que cumprir ambos exige trabalho extra. Ela diz que o Ofcom está tentando facilitar a operação em diferentes países, apontando para o trabalho do regulador na criação de uma rede global de reguladores de segurança online.

A aprovação da Lei de Segurança Online durante uma era turbulenta na política britânica já era difícil. Mas à medida que o Ofcom começa a preencher os seus detalhes, os verdadeiros desafios podem estar apenas começando.

Atualização em 9 de novembro, 3h04 ET: Atualizado para observar que a orientação tem mais de 1.500 páginas.