O Parlamento Europeu avançou com o primeiro conjunto de regras da União Europeia (UE) para a Inteligência Artificial (IA), que irá agora negociar com o Conselho.

O que se pretende com este primeiro conjunto de regras?

Pretende-se promover uma IA "centrada no ser humano" e de modo a proteger "a saúde, a segurança, os direitos fundamentais e a democracia dos seus efeitos nocivos", o conjunto de novas regras prevêem uma total proibição da IA para vigilância biométrica, reconhecimento de emoções e policiamento preventivo, imponham que sistemas geradores desta tecnologia como o ChatGPT indiquem de forma transparente que os conteúdos foram gerados por IA e ainda que os programas utilizados para influenciar os eleitores nas eleições sejam considerados de alto risco", afirmou a assembleia europeia em comunicado.

Esta será, então, a primeira regulação direcionada para a IA, apesar de os criadores e os responsáveis pelo desenvolvimento desta tecnologia estarem já sujeitos à legislação europeia em matéria de direitos fundamentais, de proteção dos consumidores e de regras em matéria de segurança dos produtos e de responsabilidade.

Também está previsto que sejam introduzidos requisitos adicionais para colmatar os riscos, como a existência de supervisão humana ou a obrigação de informação clara sobre as capacidades e as limitações da inteligência artificial.

ONU pretende criar um código de conduta para regular o uso da IA

Para além do Parlamento Europeu, a ONU também já deu início à elaboração de um código de conduta para as plataformas digitais visando regular o uso de IA e travar a desinformação e o discurso de ódio online.

Para António Guterres, este código de conduta pretende que seja um compromisso entre os Governos e as empresas de tecnologia para que se abstenham de apoiar ou amplificar a desinformação e o discurso de ódio e que assegurem um cenário de imprensa livre, viável, independente e plural, com fortes proteções para os jornalistas.

Em relação à IA, o ex-primeiro-ministro português exigiu medidas urgentes e imediatas para garantir que todas as aplicações que usem essa tecnologia sejam seguras, responsáveis e éticas, e que cumpram com as obrigações de direitos humanos.

Para o secretário-geral, a IA tem um “potencial enorme”, em campos como educação, ambiente ou saúde, mas há o risco que seja “criado um monstro que ninguém seja capaz de controlar”.

Em relação à educação, um  novo estudo global do Research Institute da Capgemini*, intitulado, ‘Future ready education: Empowering secondary school students with digital skills’, revela que quase 60% dos professores consideram que saber interagir com os sistemas de IA será um competência essencial no futuro. Também revela que os alunos com idades compreendidas entre os 16 e os 18 anos se sentem menos confiantes do que os seus professores sobre o nível de adequação das atuais competências digitais às exigências do mercado de trabalho do futuro.

*O Research Institute da Capgemini realizou este estudo entrevistando um vasto leque de atores no setor da educação na Austrália, na Finlândia, em França, na Alemanha, no Japão, na Holanda, em Singapura, no Reino Unido e nos EUA, entre março e abril de 2023. Os inquiridos incluíram: 1.800 professores do ensino secundário, 4.500 pais de alunos do ensino secundário e 900 alunos com idades compreendidas entre os 11 e os 18 anos. Todos os professores inquiridos trabalham a tempo inteiro numa escola secundária pública. As principais áreas de ensino dos professores inquiridos são: ciências, matemática, língua inglesa, meios de comunicação social e humanidades. Todos os estudantes com idade igual ou inferior a 18 anos foram inquiridos com o consentimento de um dos progenitores