A conversa foi labiríntica (talvez porque o próprio tema também assim o seja): assuntos que se ramificaram por vários caminhos, becos sem saída, respostas que trouxeram mais dúvidas…
Escolha o tema por que quer começar e vá fazendo connosco o percurso desta conversa.
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
Afonso Seixas-Nunes é um padre jesuíta português, nascido no Porto em 1973, ordenado em 2010 e formado em Direito e Filosofia (pela Universidade Católica) e em Teologia (pela Pontificia Università Gregoriana, em Roma). É Mestre em Direito Internacional pela London School of Economics e doutorado em Direito Internacional Humanitário pela Universidade de Essex (Reino Unido). Tem-se especializado nas implicações legais e éticas da utilização da Inteligência Artificial e de sistemas autónomos no contexto de guerra, no combate ao terrorismo e na indústria militar. O seu doutoramento (em 2018) foi precisamente nessa área - “A legitimidade e responsabilidade no desenvolvimento de sistemas armados autónomos à luz do Direito Internacional Humanitário”.
Trabalha hoje em dia no Reino Unido, na Blavatnik School of Government, Escola de Política Pública da Universidade de Oxford, que a própria instituição descreve como “um dos mais recentes e mais vibrantes departamentos da universidade”. A equipa que Afonso integra (Oxford Institute for Ethics, Laws and Armed Conflict) é muitas vezes consultora do Governo britânico e de Governos de outros países em matérias de direito internacional público.
O que leva um padre a querer trabalhar nestas áreas? O próprio Afonso responde, admitindo que "a melhor forma de derrotar um inimigo é conhecê-lo".
Índice
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
2. Terrorismo e Pandemia: Que paralelismos?
Por trabalhar habitualmente em torno das questões de guerra e de terrorismo, Afonso traça alguns paralelos entre esses contextos e a pandemia.
Direito Internacional
“Quando uma população está sob ataque, há um obrigação do Direito Internacional Humanitário de avisar as populações civis de que está a haver um ataque. E as pessoas refugiam-se em casa”, diz Afonso Seixas-Nunes.
No caso da pandemia, há também várias questões que remetem para o Direito Internacional — neste caso, o Direito Internacional geral, já que o Direito Internacional Humanitário só se aplica aos conflitos armados. Afonso identifica pelo menos duas questões:
- Perante esta pandemia, a partilha de informação é um dever para bem da população mundial ou uma quebra da privacidade dos dados pessoais? “Há aqui o papel da sogra”, Afonso brinca, para falar de temas sérios (ver ponto 5).
- O que se faz quando os Estados não partilham informação que põe em risco a saúde pública internacional ou partilham informação enganadora? Importa lembrar que no Direito Internacional a aplicação de sanções não é tarefa simples e implica a ação concertada de várias partes (ver ponto 7).
Inteligência Artificial e machine learning
“Quando falamos de terrorismo, geralmente temos ameaças concretas a um determinado país, o ataque numa determinada área”. As pessoas “ouvem o inimigo, as bombas a cair, etc.”, descreve Afonso.
“Aqui [na pandemia], é um inimigo invisível. A forma de contágio é extremamente subtil. Nem sequer sabemos muito bem no que é que podemos tocar e no que é que não podemos tocar”. Não entendemos bem o comportamento do vírus: é como com as “células terroristas da Al-Qaeda e a forma misteriosa como surgiam os ataques, antes de se descobrir como é que operavam”. “Temos isto aqui aplicado a este vírus”, compara Afonso, lembrando que a Inteligência Artificial e o machine learning foram ferramentas essenciais para avançar no combate ao terrorismo.
O especialista traz, então, a questão: “Qual é a vantagem da aplicação do machine learning a estas situações [de saúde pública]?” (ver ponto 3).
Índice
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
3. Vantagens do uso da Inteligência Artificial na pandemia
“A vantagem do machine learning aplicada ao vírus”, defende Afonso Seixas-Nunes, “é que nos permite utilizar dados dos indivíduos” afetados e “estabelecer relações” entre eles.
Isto pode ser feito de muitas formas e há vários exemplos de modelos matemáticos que são usados pelos epidemiologistas que estão na base das decisões tomadas. Aliás, a epidemiologia, especialidade que praticamente passou a fazer parte do nosso vocabulário diário, tem precisamente essa função na saúde pública: estudar os padrões das doenças nas populações, analisar e perceber a sua propagação e decidir sobre as melhores formas de contenção.
Afonso dá o exemplo de um modelo matemático, o “SIR”, que categoriza as pessoas em três compartimentos (chamam-se mesmo modelos matemáticos compartimentais): as que estão suscetíveis de apanhar o vírus (S), as que foram infetadas (I) e as que recuperaram (R) ou que acabaram por não sobreviver.
O modelo “SIR” (há outros modelos, dependendo dos compartimentos considerados) não é novo. Foi criado no início do século XX, em 1927, e tem sido usado ao longo dos anos para a previsão de evolução de muitas doenças, incluindo agora para a covid-19.
No site da Organização Mundial de Saúde (OMS), está disponível uma lista de estudos sobre o novo coronavírus, alguns deles fazendo referência à aplicação destes modelos - da lista faz parte um estudo de um investigador português do Departamento de Física e Astronomia da Faculdade de Ciências da Universidade do Porto sobre a evolução do surto em Portugal, publicado no início de abril.
No caso da covid-19, tratando-se de uma doença que se propagou por todo o mundo, a importância de perceber como é que o vírus se comporta motiva o incentivo à partilha de dados entre os vários países. Quanto maior o volume de dados disponibilizados, mais fina será a análise e mais acertadas serão as conclusões. “Importa muito que os países cruzem estes dados para que se possa perceber como é que o vírus evolui”, defende Afonso, lembrando que a própria OMS incentiva essa partilha.
(um outro assunto que tem sido muito discutido a propósito das ferramentas que podem ser criadas para rastrear a população infetada é o da aplicação da Inteligência Artificial às tecnologias de vigilância - câmaras, aplicações móveis, etc. Na última secção deixamos algumas sugestões de leitura sobre o tema)
Índice
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
4. Machine learning: Afinal, o que é isso?
Machine learning significa, numa tradução direta, qualquer coisa como aprendizagem automática. No fundo, é dar a uma máquina (um computador) uma grande quantidade de dados, milhões de dados muitas vezes, para que ela aprenda a fazer previsões e a desempenhar tarefas a partir dos padrões que encontra nesses dados.
Por exemplo: a previsão de probabilidade de ocorrência de uma determinada doença numa pessoa, de acordo com o historial e os indicadores clínicos que ela apresenta, por ser esse o padrão encontrado numa grande quantidade de situações analisadas pelo sistema. O machine learning é uma forma de Inteligência Artificial.
Afonso Seixas-Nunes explica pelas suas próprias palavras.
Índice
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
A resposta a esta pergunta tem pouco de linear — de resto, como já vamos ficando habituados no que diz respeito a esta pandemia.
Por um lado, “os Estados têm obrigações relativamente à saúde mundial”. É o chamado “dever de diligência”, assinala Afonso. O dever de diligência implica uma série de obrigações e é usado para “avaliar se um Estado fez o que estava ao seu alcance para dar resposta a determinados riscos, ameaças ou perigos”, explica um artigo onde dois investigadores da Universidade de Oxford discutem as implicações deste dever no contexto da covid-19.
As obrigações do dever de diligência na área da saúde estão previstas no Regulamento Sanitário Internacional, um documento de 2005 da Organização Mundial de Saúde (OMS), acordado e assinado por 196 países.
Destas obrigações faz parte, por exemplo, a partilha contínua com a OMS de toda a informação relevante sobre saúde pública, incluindo situações inesperadas que possam constituir motivo de preocupação a nível mundial, mesmo que não se conheça a sua origem.
Nesse sentido, sim, “o Estado é chamado a colaborar” para fins de saúde pública internacional, resume Afonso.
“Mas é chamado a colaborar dentro do espaço da sua soberania”, afirma, lembrando que existe legislação internacional que protege a privacidade dos dados pessoais dos cidadãos, incluindo os dados de saúde. Por exemplo, na Europa, o "famoso RGPD diz que os dados sejam utilizados para o fim para que são necessários”. Afonso refere-se ao Regulamento Geral de Proteção de Dados, aprovado na União Europeia (UE) em maio de 2018 — uma das maiores reorganizações da legislação europeia sobre a forma como os dados pessoais dos cidadãos da UE podem ser recolhidos e utilizados.
O documento tem vindo a ser referido no contexto da pandemia. Alguns criticam-no, afirmando que bloqueia a partilha de informação e atrasa a investigação. “O desenvolvimento de soluções de Inteligência Artificial requer [a utilização de] dados, e infelizmente as regras rigorosas de proteção de dados restringem” a atividade das organizações que trabalham nesta área, considera o Center for Data Innovation, um instituto de referência no estudo de políticas públicas e tecnologia.
Outros defendem que existe uma ampla margem para o uso excecional destes dados. O RGPD “não limita as medidas a tomar no combate à pandemia do coronavírus”, garantiu a 16 de março a presidente do Comité Europeu para a Proteção de Dados, Andrea Jelinek. No comunicado, a responsável lembra, por exemplo, o artigo 9.º do RGPD em que o tratamento dos dados é permitido se “for necessário por motivos de interesse público no domínio da saúde pública, tais como a proteção contra ameaças transfronteiriças graves para a saúde” e se for feito “sob a responsabilidade de um profissional sujeito à obrigação de sigilo profissional”.
Ainda assim, Andrea sublinha que, “mesmo nestes tempos de exceção, o controlador dos dados deve garantir a proteção dos dados pessoais dos indivíduos”.
Para Afonso, a gestão da partilha de dados por um Estado, dentro dos limites da legislação, funciona como o “papel da sogra num casamento”.
A sogra “aceita o genro, mas vai-lhe dizendo quem manda”. Que é como quem diz: os Estados têm todo o interesse — além do tal dever de diligência — de partilhar dados sobre a saúde da sua população, para contribuir para uma solução a nível mundial. “Mas é também dever do Estado proteger os seus cidadãos o máximo que pode”, incluindo no que diz respeito ao uso feito dos dados recolhidos.
Depois “há Governos mal-intencionados?”, questiona Afonso, respondendo à própria pergunta e remetendo para uma leitura mais fina do panorama internacional: “Acho que se olharmos à realidade do mundo de hoje, conseguimos perceber que os há”.
Esta afirmação leva-nos a levantar mais duas questões:
- A China pode ter falhado com as obrigações internacionais? (ver ponto 6)
- Se esse for o caso, que consequências lhe esperam? (ver ponto 7)
Índice
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
6. A China pode ter falhado com as obrigações internacionais?
“Eu sou muito pragmático nestas matérias e acho que no caso de países como a China ou a Rússia, mesmo que partilhem dados, temos de colocar logo não sei quantos pontos de interrogação relativamente à sua fidedignidade. Porque às vezes não temos os dados ditos de uma forma verdadeira e consistente. Tudo isto tem aqui umas artimanhas que não são fáceis de gerir”, afirma Afonso.
Por exemplo, “há vários académicos que estão a sugerir o pedido de se levar a China para o Tribunal Internacional de Justiça [TIJ], por violação de regras de dever do cuidado e de padrões de comportamento, porque não houve essa partilha de dados”.
Os artigos sobre o tema têm-se multiplicado. O ponto de partida é quase sempre o mesmo: a China não terá cumprido as obrigações previstas nos artigos 6 e 7 do Regulamento Sanitário Internacional. Dizem eles, respetivamente: “Cada Estado deve notificar a Organização Mundial de Saúde [OMS] (…), no prazo de 24 horas após a análise de informação de saúde pública, de todos os acontecimentos que possam constituir uma emergência de saúde pública de preocupação internacional (…). No seguimento da notificação, o Estado deve continuar a comunicar atempadamente à OMS a informação exata e detalhada que tenha disponível”; e “se um Estado tiver provas de uma situação de saúde pública inesperada ou incomum no seu território, independentemente da sua origem ou fonte, que possa constituir uma emergência de saúde pública de preocupação internacional, deve disponibilizar à OMS toda a informação relevante”.
Ora, a China notificou a OMS do primeiro caso a 31 de dezembro de 2019, quando vários dados indicam que as autoridades já tinham conhecimento de casos de infeção por um novo coronavírus antes dessa data. O país poderá ter ocultado a informação durante várias semanas e censurado os médicos responsáveis que estavam a alertar para os casos.
Também a capacidade de resposta da China a emergências de saúde foi alvo de avaliação em fevereiro e pode ser melhorada, segundo sugere, num tom ligeiro, a OMS num relatório publicado na altura (a organização tem recebido várias críticas pelos elogios feitos à China na sua resposta ao surto). A OMS deixa dois exemplos: melhorar a capacidade de ultrapassar obstáculos para agir logo que surjam os primeiros alertas e comunicar com mais clareza à comunidade internacional os dados e desenvolvimentos importantes.
Alguns países já disseram que é necessária uma investigação no sentido de apurar a responsabilidade da China na gestão da pandemia e no eventual incumprimento das várias obrigações, o que poderá ter resultado num número de mortes a nível mundial substancialmente mais alto do que se o regulamento tivesse sido cumprido.
Para isso, será necessário encontrar as molduras legais em que o caso possa ser enquadrado. A leitura já foi feita por alguns especialistas (ver ponto 7).
Índice
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
7. China: Que consequências?
Perante a hipótese de responsabilizar a China por uma eventual negligência na gestão inicial do surto da covid-19, têm vindo a ser explorados os cenários em que isso poderia acontecer.
Um primeiro ponto exclui a possibilidade de recorrer ao tal Regulamento Sanitário Internacional. Segundo o artigo 56 do documento, as disputas devem ser resolvidas “através de negociação ou de qualquer outro meio pacífico”, podendo ser remetidas para o Diretor-Geral da OMS, caso falhem as primeiras vias.
Já a Constituição da OMS, no artigo 75, prevê o recurso ao Tribunal Internacional de Justiça: “Qualquer questão ou disputa relativa à interpretação ou aplicação desta Constituição que não seja resolvida por negociação ou pela Assembleia de Saúde deve ser remetida para o Tribunal Internacional de Justiça”.
Ainda assim, muitos lembram que o recurso a esta instância não é óbvio por vários motivos, incluindo o facto de o Tribunal Internacional de Justiça só poder exercer o seu papel em casos em que os Estados envolvidos dão consentimento. Ora, será pouco expectável que a China concorde com uma ação destas.
Uma outra forma indireta de castigar os países que não cumprem os acordos estabelecidos internacionalmente é, por exemplo, através de sanções económicas. Neste caso, Afonso Seixas-Nunes usa Trump como “raro” exemplo, embora reconheça que seja questionável a forma como estas formas de punição foram aplicadas.
Donald Trump anunciou, a 14 de abril, a suspensão temporária do financiamento dos EUA à OMS e, a 29 de maio, avançou com a fim das relações do país com a organização. O Presidente norte-americano considera que a OMS não fez o suficiente para investigar a pandemia quando esta ainda estava no início e circunscrita à China. Trump também aponta o dedo à China e diz que é preciso apurar as responsabilidades. As relações entre os dois países tem vindo a ficar cada vez mais tensas.
Índice
1. Um padre a trabalhar com Inteligência Artificial aplicada à indústria militar. Quem é Afonso Seixas-Nunes?
2. Terrorismo e Pandemia: Que paralelismos?
3. Vantagens do uso da Inteligência Artificial na pandemia
4. Machine learning: Afinal, o que é isso?
5. “O papel da sogra”. Partilha de informação: uma obrigação, um dever ou um abuso?
6. A China pode ter falhado com as obrigações internacionais?
7. China: Que consequências?
8. Food for thought
8. Food for thought
Os temas que discutimos com Afonso Seixas-Nunes têm uma complexidade que vai bem além daquilo que é possível explorar numa entrevista — e de espelhar num diagrama. Deixamos algumas sugestões que contribuem para continuar a “conversa”:
E depois da pandemia?
- O futuro da democracia. Uma conversa franca e com ritmo sobre o impacto da pandemia nas democracias pelo mundo. O que nos pode descansar e o que nos deve preocupar. Tony Blair, o ex-primeiro-ministro britânico foi um dos convidados. O debate foi promovido pela publicação norte-americana The Atlantic e aconteceu online no dia 19 de maio (em inglês).
- O mundo depois do coronavírus. "A tempestade vai passar. Mas as escolhas que fizermos agora podem mudar as nossas vidas por muitos anos". Um texto de fundo, em jeito de reflexão-ensaio e que põe o dedo, sem medos, em várias “feridas”. Da autoria do historiador Yuval Noah Harari (autor de vários livros de referência, incluindo o best-seller “Sapiens: Uma Breve História da Humanidade”). Artigo publicado no Financial Times a 13 de março (em inglês).
Monitorizar a população e o vírus
Seis tipos de tecnologia de vigilância que os governos estão a considerar. O The Correspondent explica algumas das opções que estão a ser usadas e as vantagens e perigos de cada uma delas. Inclui as tecnologias de monitorização de massas, drones, leitura de dados biométricos, etc.
- A imunidade, a segurança e a ética. Devemos aceitar “passaportes de imunidade”? Dispositivos de vigilância e de contacto de proximidade? Se sim, por quem e até quando? Estas foram algumas das questões discutidas neste debate promovido pela Gulbenkian no dia 6 de maio. Ver vídeo aqui.
- Será a privacidade a última vítima da Covid-19? Um artigo da StartUp Portugal, publicado no SAPO24 a 30 de abril, que sistematiza algumas questões técnicas e éticas das soluções tecnológicas criadas para ajudar a controlar o vírus.
- E se o rastreamento de contactos for feito de forma manual? A repórter da ProPublica Caroline Chen fez um curso de “rastreamento de contactos” e entrevistou vários especialistas para explicar como funciona esta alternativa às tecnologias de vigilância (em inglês). Um artigo publicado a 19 de maio.
- Documento da OMS com orientações éticas e lista de princípios que devem ser seguidos pelos decisores no uso de tecnologias de rastreamento de infetados no âmbito da covid-19.
Mais sobre…
- O dever de diligência (em inglês): parte 1, parte 2 e parte 3.
- O trabalho de Afonso Seixas-Nunes: “Quando um robot decide matar” (vídeo da TedTalk em Matosinhos).
Comentários