Sentado na mesma cadeira onde Alexander Nix, o seu antigo patrão, tinha estado um ano antes de cair em desgraça, Christopher Wylie alertou uma Altice Arena atenta para os riscos de um futuro sem regulação na Internet. Como sustentação dos perigos que anunciava, o canadiano trouxe a experiência enquanto diretor de investigação tornado delator das práticas da sua antiga empresa Cambridge Analytica (CA).
Wylie saltou para as atenções do mundo quando denunciou as práticas da antiga empresa junto da imprensa britânica e das autoridades do Reino Unido em março deste ano. Consigo, o “whistleblower” trazia provas dos métodos da CA quanto à utilização de dados pessoais privados de 50 milhões de contas de utilizadores do Facebook, recolhidos sub-repticiamente e utilizados para beneficiar várias campanhas políticas, mas sobretudo a de Donald Trump, no decurso das presidenciais norte-americanas de 2016.
Com uma camisola de mensagem contestatária - “Arrest the President” (“Prendam o Presidente”) - e perante o olhar atento de Krishnan Guru Murthy, jornalista britânico que o estava a entrevistar, Wylie lembrou como a SCL Group, empresa-mãe da CA, utilizava métodos de recolha de dados “para perfilar pessoas num contexto de defesa nacional", mais especificamente para combater entidades terroristas como o Estado Islâmico (EI). Neste cenário, na sua opinião, era legítimo usar “desinformação e interferir” porque os alvos queriam "magoar pessoas".
O problema surgiu, contudo, quando Steve Bannon, diretor do Breitbart (órgão de comunicação associado à Alt-Right) se interessou pelas potencialidades dos métodos da SCL Group enquanto “novo arsenal de ferramentas para travar uma guerra cultural.” Robert Mercer - bilionário que fez uma fortuna com algoritmos financeiros, e associado de Bannon - comprou a SCL, passando esta a “ser algo muito diferente" com o intuito de gerar uma “insurreição". A partir daí, “as pessoas vulneráveis a desinformação foram perfiladas e visadas, usando as mesmas técnicas e táticas que as forças militares utilizaram contra o EI", sendo a sua informação enviada para a Rússia, mais especificamente para um investigador a cargo de compreender como a criação de um perfil psicológico poderia afetar processos eleitorais.
Hoje, Wylie considera que a solução passa por criar regulação numa indústria onde “não há regras” e onde os cientistas de dados “não têm um código ético de conduta como noutras profissões” numa área onde “estamos a fazer coisas que as pessoas usam todos os dias e que as afetam". O canadiano lembrou que “quando se vai ao médico ou se compra comida ou se anda de avião, sentimo-nos seguros” porque “existe regulação", rematando perante um coro de palmas: “se podemos regular os poderes nucleares, porque é que não podemos regular a porcaria dum código?"
No palco da Web Summit, Wylie apontou o dedo a vários culpados para para o momento que vivemos, a começar pelas empresas tecnológicas, considerando que "não fazem o seu trabalho nem pensam quanto aos impactos éticos do que fazem”, e comparando-as com potências colonizadoras "empenhadas em explorar recursos" apesar da imagem benevolente. Nesse aspeto, o canadiano foi especialmente duro com o Facebook, considerando que a empresa de Mark Zuckerberg foi complacente com a Cambridge Analytica e que numa primeira fase ameaçou processar os jornalistas que avançaram com o caso. Para além disso, o delator recorda que a plataforma "tem tanto poder ao seu dispor que está a fazer um clone digital da nossa sociedade”, ao mesmo tempo que “coloniza os dados das pessoas vulneráveis por todo o mundo ao instaurar infraestruturas de Internet” enquanto “não faz nada em relação à desinformação".
Outro problema, ressalvou, abrange as instâncias políticas responsáveis pela regulação da Web, assim como os departamentos de polícia que lidam com cibercrime, que não estão tecnologicamente preparadas para cumprir essas funções, faltando-lhes formação e vontade. Esse desfasamento, lembrou, é especialmente grave numa era onde “as pessoas comem três ou quatro vezes por dia, mas olham 150 vezes para o telemóvel”.
Sem regulação, Wylie comunicou, é possível que os efeitos que os métodos que a Cambridge Analytica empregou sejam ainda piores no futuro um mundo dominado pela Inteligência Artificial (IA). Por enquanto “estamos nas primeiras etapas da colocação de IA nas nossas casas”, mas quais serão as implicações quando esses sistemas vierem integrados e interligados entre si, com a casa ligada ao carro, o carro ligado à rua e a rua à empresa, coletivamente a “pensar em ti, comunicar sobre ti, a tomar decisões por ti?” Se a nossa informação já pode ser manipulada hoje em dia, que consequências haverá “quando essa IA tiver intenções e motivações?”.
Para Wylie, esse é um futuro “assustador”, que levanta questões “quanto ao significado de ser um humano, quando a tecnologia começar a tomar decisões por nós e a limar o nosso comportamento” no mundo que daqui a 20 anos “vai estar todo ele dominado por IA”. Este cenário, defende, não está a ser considerado com a devida seriedade, sendo por isso que aproveitou a oportunidade para lançar um apelo a toda a Altice Arena - “pessoal, pensem nisso”.
“Se adormeceste em 2009, podias achar que as redes sociais iam derrubar ditaduras e democratizar o mundo”.
O tema da manipulação e desinformação já tinha sido debatido durante a amanhã no palco Forum. Foi com esta frase mordaz que Sam Schechner abriu a discussão na conferência “Is Tech Killing Democracy?”, relembrando como o potencial revolucionário das redes sociais de luta contra o totalitarismo - evidenciado durante a falhada Primavera Árabe - se transfigurou num potencial instrumento de manipulação em larga escala.
Com as eleições intercalares nos EUA como pano de fundo e já de olho nas eleições europeias do próximo ano, o jornalista do The Wall Street Journal dirigiu uma conversa com Vera Jourova, Comissária Europeia da Justiça, e George Kurtz, CEO da Crowdstrike, uma empresa de cibersegurança norte-americana, sobre como combater a desinformação que tem grassado durante os processos eleitorais.
Apesar de ambos os oradores admitirem que o conceito de manipulação é central a um processo eletivo - no sentido em que o propósito das campanhas eleitorais é justamente convencer os eleitores -, o consenso foi de que este tomou novas formas, quando a propaganda política passou a ser dissimulada em notícias falsas criadas com o propósito específico de alterar a perceção pública.
Garantir que “as pessoas saibam quando estão a ler propaganda”, e mantê-las protegidas “contra o abuso dos seus dados pessoais” têm sido as preocupações de Jourova. Natural da República Checa, a comissária passou metade da vida sob um regime ditatorial, pelo que o caso da Cambridge Analytica lhe foi particularmente tocante. Não querendo comparar “a esfera digital com uma totalitária”, Jourova lembrou que ambos os casos revelam um tipo de manipulação em que “somos apenas objetos, sem escolha livre, onde a informação é roubada e as mensagens dirigidas a nós”.
Kurtz, todavia, lembrou antes que o problema é de espetro mais alargado, pois o mais grave é que “a capacidade de influenciar eleições além-fronteiras nunca foi tão fácil”, lembrando as eleições presidenciais de 2016, pois há “estados que estão a criar campanhas sustentadas para influenciar o voto de uma eleição noutro país”. Para tal criam-se “centenas de milhares de contas falsas no Twitter e no Facebook, blogs e páginas” que estabelecem “uma narrativa integrada para criar aquilo que parece um movimento para um determinado partido".
No entanto, se por um lado o amontoar de problemáticas se começa a assemelhar a uma montanha, nenhum dos oradores tem medo de a escalar, recusando ambos um discurso catastrofista e apontando soluções.
Para Jourova, o primeiro passo foi dado com o estabelecimento do RGPD (Regulamento Geral sobre a Proteção de Dados), passando a União Europeia a ter “as regras mais estritas do mundo” para proteger “a privacidade das pessoas", que passam a ser “sujeitos e não objetos fáceis de manipular”. Para além disso, depois dos escândalos da manipulação de dados, as empresas começaram a ficar “cientes de que têm demasiado poder”, sendo necessário “balanceá-lo com responsabilidade”. Porém, a comissária apontou para problemas que persistem, como o facto das regras para as campanhas políticas serem “muito estritas” em offline, ao passo que no online são “muito suaves ou quase inexistentes”, tendo recomendado aos estados-membros uma aplicação uniforme das leis sem querer “exagerar nas regulações” nem interferir com as mensagens das pessoas em si, pois isso seria “desviarmo-nos para a esfera da censura”.
Já Kurtz pensa que a solução terá de ter um âmbito menos legal e mais tecnológico, passando, em grande parte, pelo combate das empresas tecnológicas à proliferação automática de fake news através de contas falsas. “Usando algo como IA, pode-se encontrar estes bots", disse o CEO, admitindo que “não é a coisa mais fácil do mundo”, mas que “tem de haver um grande foco em tentar eliminar a automação neste processo”. No entanto, Kurtz também advertiu que as próprias plataformas não têm grande vontade de proceder a essa limpeza porque isso lhes baixa o número de utilizadores, estabelecendo-se uma "dicotomia em que precisam de limpar as suas redes mas não têm incentivos para tal".
No que os dois oradores concordaram, por fim, foi na crença otimista de que é possível voltarmos a um estado prévio em que as redes sociais são facultadoras de democracia, sendo que para Jourova é necessário “ juntar forças” e “trazer mais responsabilidade para o mundo”, ao passo que Kurtz disse ser preciso “passar pelo período de desilusão e chegar a um sítio melhor”.
Comentários