O anúncio de um software para controlar a difusão de conteúdos extremistas chega numa altura em que aumentam as preocupações com a utilização de redes sociais por terroristas para divulgar conteúdo violento e recrutar militantes para ataques. "Acreditamos que esta é a solução tecnológica para combater o extremismo online", disse Mark Wallace, director-executivo  do Projeto Contra o Extremismo, uma organização não governamental sediada em Washington, que inclui ex-diplomatas e funcionários públicos dos Estados Unidos e de outros países. A proposta desta organização é que este software seja usado em modo idêntico ao utilizado para prevenir a pornografia infantil online no país.

O grupo propôs a criação de um escritório nacional independente para reportar actos de extremismo e que opere de maneira similar ao centro de pornografia infantil - identificando e sinalizando certos conteúdos para que as empresas online os removam automaticamente. Se fosse adotado pelas empresas de Internet, o sistema poderia, segundo os seus promotores, contribuir para a limitação do extremismo online.

Mark Wallace explicou que o sistema pode ser útil para impedir a propagação "viral" de vídeos de decapitações e assassinatos, como os que são produzidos pelo grupo extremista Estado Islâmico. Este responsável disse ainda que espera um "debate robusto" sobre o que é e o que não é um conteúdo aceitável, mas acrescentou: "acho que podemos concordar que os vídeos decapitação, os vídeos de afogamento e os vídeos de tortura deveriam ser removidos".

'Discussões colaborativas'

Segundo Wallace, o grupo teve "discussões colaborativas" com empresas de Internet, e "houve bastante interesse" no projeto. Ainda assim, deixou implícito que caberia a cada operador online determinar se o software será utilizado e como implementá-lo. O autor do software, Hany Farid, disse acreditar que o novo sistema será uma ferramenta eficaz para as companhias que atualmente têm de revisar manualmente cada reclamação, ou conteúdo suspeito. "Estamos a desenvolver uma tecnologia que permite que as empresas executem com eficácia e precisão os seus termos de serviço", disse Farid. "É algo que já fazem, mas de maneira lenta", acrescentou.

O sistema é baseado em hashing - tecnologia que atribui um código de identificação único para cada texto, imagem, áudio e vídeo, que são rastreados para permitir que as plataformas identifiquem e impeçam que o conteúdo seja publicado e divulgado. "A tecnologia foi desenvolvida e testada, e estamos nas últimas etapas antes de a disponibilizar, o que acontecerá em questão de meses", disse Farid.

As empresas que gerem redes sociais tornaram público que estão dispostas a colaborar com investigações legítimas de crimes e ataques, mas têm resistido aos esforços para policiar, ou censurar, o vasto conteúdo divulgado nas suas plataformas. Farid, que desenvolveu o software com uma bolsa da Microsoft, vai trabalhar para oferecer o Projeto Contra o Extremismo para empresas online.