CAPÍTULO 2
O CÉREBRO
Têm sido propostas muitas analogias para ajudar a explicar, clarificar e contextualizar tanto o aparecimento como o significado da inteligência artificial. Os antropólogos comparam-na ao fogo ou à eletricidade. Generais e diplomatas apontam para uma semelhança com a energia atómica ou com uma força de vontade humana imparável e irredutível como a de Otto von Bismarck. Os astrónomos descrevem-na como semelhante à chegada de um asteroide – uma previsão distante e de baixa probabilidade em torno da qual os humanos poderiam organizar uma defesa planetária – ou à descoberta de vida extraterrestre. Os economistas equiparam-na às burocracias e aos mercados, ao passo que os líderes do Estado e da sociedade a comparam ao advento da imprensa ou das grandes corporações empresariais, como, por exemplo, a Companhia Britânica das Índias Orientais, que cresceu ao ponto de poder impor a sua própria vontade e, numa primeira fase, conquistar o subcontinente indiano antes que o mundo compreendesse a sua incompatibilidade com as estruturas de poder existentes e a sua potencial capacidade de as dominar. A nossa opinião atual é diferente: nenhuma inovação, por mais profunda que seja, pode aproximar-se da inspiração original e do objetivo (acreditamos que agora temporário) da nossa demanda de construir inteligência: nomeadamente, uma inteligência que seja maior do que a de qualquer ser humano à face do planeta.
Há duas maneiras de pensar as nossas atuais circunstâncias. A primeira é uma projeção do familiar. Até à data, as tecnologias mais transformadoras da humanidade melhoraram ou ampliaram as funções corporais humanas. A roda reduziu a exaustão de uma mobilidade acrescida, enquanto motores de vários tipos aliviaram a agonia de músculos esforçados ao limite. Os raios X, a ampliação e a lâmpada elétrica alargaram as fronteiras da realidade observável para lá da visão natural, tal como o telefone amplifica e leva a nossa voz a distâncias muito longe do alcance do aparelho fonador do Homo sapiens. Todas as dimensões da função humana foram, de alguma maneira, aumentadas, aperfeiçoadas ou reforçadas inorganicamente por máquinas criadas por nós. Será então a IA apenas mais uma extensão das nossas faculdades?
A segunda maneira de pensar é sugerir que, desta vez, as coisas são diferentes – que há aspetos únicos da IA que não são aumentos das capacidades humanas. Ao concebermos em poucas décadas um equivalente do que a evolução produziu ao longo de milénios – ou seja, o cérebro –, demos por nós a mexer com o último órgão que restava para replicação ou reinvenção inorgânicas.
VELOCIDADE
No capítulo anterior, apontámos a similaridade entre o treino de uma máquina de inteligência artificial e o treino da mente de um estudante avançado de filosofia. Podemos alargar o âmbito deste exemplo. Em palavras simples, a formação da inteligência mecânica pode ser vista como um processo paralelo àquele através do qual o cérebro humano amadurece da adolescência à idade adulta.
No decurso do ensino secundário os estudantes aprendem o fundamental de algumas disciplinas nucleares, e assim constroem a sua visão básica do mundo. Essa visão pode não ser particularmente avançada – ou sempre correta – mas o mesmo é verdade no caso da máquina. As máquinas, como os humanos, aprendem absorvendo informação e transformando-a em teoria para prática posterior. Quando as máquinas aprendem, um algoritmo ingere grandes quantidades de dados – colhidos de fontes na Internet aberta ou mais especificamente fornecidos por qualquer outra fonte privada – e junta-os num mapa comprimido e condensado de conceitos para uso futuro. Do mesmo modo que os mecanismos biológicos humanos fazem um mapa das entradas sensoriais em «pesos» que conectam a rede de unidades de processamento do cérebro, também as máquinas exigem um reforço gradual dos seus pesos computacionais.
As redes neurais, como (alguns) alunos do secundário, podem ser preguiçosas. Durante as primeiras fases de formação, a IA fará apenas o mínimo exigível. Memorizando respostas em vez de aprender efetivamente, um modelo confrontado com «2 + 2» pode inicialmente codificar a resposta «4» sem ter dominado o princípio subjacente à adição. Mas rapidamente, a partir de um certo limiar, esta abordagem deixará de funcionar, obrigando a máquina a abstrair na direção ascendente – como fazem os humanos –, no sentido de axiomas de conhecimento mais universais.
É principalmente isto que distingue a IA dos computadores normais: o seu mapeamento do mundo não é programado, mas aprendido. Na programação tradicional de software, um algoritmo criado pelo homem dá instruções a uma máquina sobre como transformar um conjunto de entradas num conjunto de saídas. Na aprendizagem automática, pelo contrário, os algoritmos criados pelo homem dizem à máquina apenas como melhorar-se a si mesma, permitindo-lhe que crie os seus próprios mapeamentos para a transformação de entrada em saída. À medida que «aprende», através de inúmeras tentativas, fracassos e ajustes anteriores, a máquina atualiza os seus algoritmos, redesenhando interactivamente o mapeamento interno dos padrões e ligações que «vê» nos dados.
Periodicamente, os formadores humanos dão à máquina feedback sobre a exatidão e a qualidade dos seus resultados. A máquina interioriza estas correções através da «retropropagação», uma técnica que permite que os efeitos das alterações dos formadores se repercutam para trás ao longo das relações matemáticas que a máquina já criou, melhorando assim o modelo global.
Para qualquer dado modelo, no entanto, os humanos fornecem feedback sobre apenas um pequeno subconjunto de entradas e saídas possíveis. Depois de o modelo ter alcançado um determinado nível de desempenho numa série de testes de treino, os seus criadores confiam em que os mapeamentos estabelecidos por esse modelo gerarão uma resposta segura e correta a todas as entradas, mesmo as inesperadas, com uma elevada probabilidade de êxito.
De todas estas maneiras, a IA já está a expandir, e continuará a fazê-lo, o domínio do conhecimento humano. Mas fá-lo – e nós estamos a aceitar o conhecimento resultante como verdadeiro – através de processos que não compreendemos totalmente.
Enquanto um estudante típico termina o secundário em quatro anos, um modelo de IA atual pode facilmente absorver a mesma quantidade de conhecimentos, e muito mais, em quatro dias. E deste modo a velocidade provou ser o primeiro de um conjunto de atributos fundamentais que distinguem a IA da forma de aprendizagem e das capacidades mentais humanas.
Apesar de ter um paralelismo altamente avançado – ou seja, a capacidade de processar simultaneamente diferentes tipos de estímulos – o cérebro humano é um processador de informação lento, limitado pela velocidade a que os nossos circuitos biológicos funcionam. Se os circuitos de um cérebro humano fossem analisados pelos mesmos padrões de desempenho dos computadores – por «taxa clock» ou velocidade de processamento – o supercomputador médio de IA já é 120 milhões de vezes mais rápido do que o nosso cérebro.
A velocidade não é, reconhecidamente, um grande indicador de inteligência; há seres humanos muito obtusos capazes de pensar rapidamente. Mas um ritmo de processamento mais rápido proporciona duas vantagens em comparação com o cérebro humano: a ingestão de muito mais informação e a resposta a muitos mais pedidos simultâneos. Grande parte do cérebro humano mantém-se normalmente em pilotagem automática – servindo passivamente as necessidades internas, guiando o batimento do nosso coração e o movimento dos nossos membros, só intervindo para fazer ajustes quando o piloto automático se revela defeituoso. Em contrapartida, a velocidade de que a IA é capaz permite o surgimento programático de grandes realizações, o que possibilita a resolução de problemas mais complexos, mais difíceis e de muito maior dimensão do que os atualmente solucionáveis pelo cérebro humano.
Uma vez completada a sua formação intelectual, tanto o ser humano como a máquina são teoricamente capazes de «pensar» ou, para usar o termo técnico equivalente, «inferir». Durante uma entrevista, uma discussão ou um encontro romântico, um aluno de pós-graduação recorre à formação e à experiência que adquiriu. Todos nós o fazemos, consultando uma camada mais fina de contemplação e reflexão sobre o que aprendemos, por oposição a recitar de memória fórmulas exatas, factos individuais e números precisos. O cérebro humano não foi concebido para memorizar informação de modo a permitir uma reprodução tal e qual, e a maior parte dos cérebros é incapaz de o fazer. Em vez disso o que resta, e deve restar, depois de inúmeras lições, ensaios e exames, é uma compreensão dos conceitos mais profundos e duradouros que essas mesmas ferramentas educacionais têm por objetivo revelar: a maravilha da astronomia, a tragédia da ambição, a necessidade (ou não) da revolução.
O mesmo acontece com a IA. Quando um modelo emerge uma vez terminada a sua formação, deixa de precisar de aceder aos dados originais com que foi treinado. Em vez disso, fica apenas com uma intuição orientadora aproximada, reunida a partir do conhecimento que recebeu, para responder a perguntas, desafiar o raciocínio e fazer previsões. Tal como os humanos não carregam consigo bibliotecas de material, um modelo de IA infere mais do que recorda. A diferença, então, é que a velocidade superior facilita esta inferência numa gama mais vasta e profunda de informações aprendidas do que aquilo que um ser humano poderia alguma vez ter a esperança de conseguir.
Para o fazer, ainda que seja para responder a uma simples pergunta, um modelo de IA pode efetuar milhares de milhões de complexas operações técnicas. Enquanto um computador tradicional se limita a recuperar informações específicas armazenadas na sua memória – uma vez que não é capaz de chegar a conclusões que não existam anteriormente – a IA projeta a computação no sentido do cérebro humano. Tal como os humanos aprendem para pensar, as máquinas treinam para inferir. Pensar, ou inferir, não pode acontecer sem aprender.
A primeira fase – para os seres humanos e para as máquinas – é o processo mais intensivo, tanto no que diz respeito ao tempo despendido como à quantidade de recursos necessários. Um estudante de pós-doutoramento pode ter passado duas décadas ou mais a desenvolver a capacidade de compor – em dois dias – um ensaio ponderado sobre um determinado assunto. Do mesmo modo, o treino dos maiores modelos de IA pode demorar meses, mas a inferência resultante surgirá em meras frações de segundo.
Os atuais sistemas de IA já dão respostas aparentemente convincentes e ponderadas a perguntas humanas. Nas suas interações mais recentes e futuras, funcionarão de uma maneira abrangente, percorrendo múltiplos domínios do conhecimento com uma agilidade muito superior à de qualquer humano ou de qualquer grupo de humanos. Para as IA, a escala – no sentido de tamanho – permite a velocidade; como acabámos de ver, quanto maior e mais bem treinada for a máquina, mais rápidos e exaustivos serão os resultados que fornece. Além disso, ao reconhecerem nos dados padrões que passam despercebidos ao operador humano, os sistemas de IA estarão equipados para destilar expressões tradicionais de conhecimento em respostas originais e, a partir de enormes quantidades de dados, forjar novas verdades conceptuais.
O que levanta uma questão, ou, melhor, mais de uma questão.
OPACIDADE
Como sabemos o que sabemos sobre o funcionamento do nosso universo? E como sabemos que o que sabemos é verdade?
Na maior parte das áreas do conhecimento, desde o advento do método científico, com a sua insistência na experimentação como critério de prova, qualquer informação que não seja apoiada por provas tem sido considerada incompleta e não fiável. Só a transparência, a reprodutibilidade e a validação lógica conferem legitimidade a uma reivindicação de verdade. Sob a influência deste enquadramento, os últimos séculos assistiram a uma enorme expansão do conhecimento humano, da compreensão humana e da produtividade humana que culminou com a invenção do computador e das máquinas capazes de aprender.
Livro: "Génesis"
Autores: Henry Kissinger, Craig Mundie e Eric Schmidt
Editora: D. Quixote
Data de Lançamento: 19 de novembro de 2024
Preço: € 19,90
Subscreva a Newsletter do É Desta que Leio Isto aqui e receba diretamente no seu e-mail, todas as semanas, sugestões de leitura, notícias e acesso a pré-publicações.
Hoje, porém, na era da IA, enfrentamos um desafio novo e particularmente assustador: informação sem explicação. As respostas da IA – que, como já foi referido, podem assumir a forma de descrições altamente articuladas e coerentes de conceitos complexos – são para todos os efeitos instantâneas. O output das máquinas é despido de justificações ou explicações, sem preconceito ou motivo aparentes – mas também sem referência a fontes ou outros modos de prova. No entanto, apesar desta falta de fundamentação para uma dada resposta, os primeiros sistemas de IA já conseguiram obter entre os humanos níveis tremendos de confiança – e de aceitação como base de decisões – nas suas inexplicáveis e aparentemente oraculares afirmações. À medida que avançam, estes novos «cérebros» podem parecer não só imbuídos de autoridade mas também infalíveis.
Embora o feedback humano ajude uma máquina de IA a aperfeiçoar os seus algoritmos internos, a máquina é a principal responsável pela deteção de padrões nos dados com que foi treinada e pela atribuição de pesos a esses dados. Uma vez treinado, o modelo também não publica o esquema matemático interno que inventou, do que resulta a circunstância de as representações da realidade geradas pela máquina serem em grande medida opacas, mesmo para os seus inventores. Atualmente, os seres humanos tentam assegurar-se da integridade destes modelos de máquinas examinando apenas os resultados. O funcionamento interno permanece em grande parte impenetrável – daí a referência a alguns sistemas de IA como «caixas negras». Embora alguns investigadores estejam a tentar, através da engenharia reversa, converter os resultados destes modelos complexos em algoritmos familiares, ainda não é claro se serão bem-sucedidos.
Em suma, os modelos treinados através da aprendizagem automática permitem que os seres humanos saibam coisas novas (os resultados produzidos pelo modelo), mas não que compreendam como foram feitas essas descobertas (os processos internos do modelo). Isto separa o conhecimento humano da compreensão humana de um modo que seria inaceitável em qualquer outra época da humanidade. A perceção humana no sentido moderno desenvolveu-se a partir das intuições e dos resultados que se seguem à experiência subjetiva consciente, ao exame individual da lógica e à capacidade de reproduzir os resultados. Estes métodos de conhecimento derivam por sua vez de um impulso quintessencialmente humanista: «Se não consigo fazer, não consigo compreender; se não consigo compreender, não posso saber se é verdade.»
No enquadramento que emergiu na Era do Iluminismo, estes elementos centrais – capacidade humana individual, compreensão subjetiva e verdade objetiva – funcionavam em conjunto. Em contraste, as verdades produzidas pela IA são fabricadas por processos que os seres humanos não são capazes de reproduzir. O modo de raciocínio da IA, que não segue os modelos humanos, fica para lá da experiência subjetiva e da capacidade dos seres humanos, que não conseguem sequer representar totalmente os processos internos das máquinas.
Estes factos impediriam, pelos padrões de raciocínio do Iluminismo, que as respostas geradas pelas máquinas fossem aceites como verdadeiras. E no entanto nós – pelo menos os milhões que já começaram a interagir com os primeiros sistemas de IA – aceitamos a veracidade da grande maioria desses resultados.3 É certo que alguns utilizadores mais avançados conseguem compreender o metaprocesso da aprendizagem automática; para a maioria das pessoas, no entanto, a confiança na verdade objetiva dos resultados fornecidos pelas máquinas tem de assentar num tipo de fé que se exprime como uma crença intimamente desejada na lógica das máquinas e na autoridade dos seus criadores.
Em si mesma, a emergência desta crença como método aceite na procura da verdade objetiva assinala uma grande transformação no pensamento humano moderno. Porque mesmo que os modelos de IA não «compreendam» o mundo no sentido humano – uma vez que as máquinas não têm consciência nem subjetividade –, a sua capacidade objetiva de chegar a conclusões novas e exatas sobre o nosso mundo através de métodos não humanos não só perturba a nossa confiança no método científico prosseguido continuamente desde há cinco séculos, como também desafia a pretensão humana a uma compreensão exclusiva ou única da realidade.
O que pode isto significar? Será que a era da IA não só não conseguirá impulsionar a humanidade para a frente como, pelo contrário, vai catalisar o regresso a uma aceitação pré-moderna de uma autoridade inexplicável? Em suma, estaremos, poderemos estar, à beira do precipício de uma grande reviravolta na cognição humana – um iluminismo negro?
Comentários