Os investigadores da empresa proprietária da Facebook e Instagram já começaram a utilizar o RSC para treinar grandes modelos de processamento da linguagem natural – comunicação máquina e humana através de línguas – e visão artificial para investigação, com o objetivo de treinar algum dia com a utilização de biliões de parâmetros.

O RSC vai ajudar os investigadores de inteligência artificial (IA) da Meta a criar novos e melhores modelos que possam aprender de milhões de exemplos, trabalhar em centenas de idiomas diferentes, analisar texto, imagens e vídeo até à perfeição, desenvolver novas ferramentas de realidade aumentada e muito mais, segundo a empresa.

“Esperemos que RSC nos ajude a construir sistemas de IA totalmente novos que possam, por exemplo, realizar traduções de voz em tempo real a grandes grupos de pessoas, cada uma das quais com um idioma diferente, para que possam colaborar sem problemas durante um projeto de investigação ou jogar juntos com realidade aumentada”, disse.

Em última instância, assegurou a Meta em comunicado, o trabalho realizado com o RSC vai facilitar o caminho para a construção da próxima grande plataforma informática, o metaverso, onde as aplicações e os produtos baseados na IA vão desempenhar um papel importante.

Apesar de a Meta estar a investigar a computação de alto rendimento desde há alguns anos, decidiu no início de 2020 que a melhor maneira de acelerar o avanço da investigação era desenhar uma nova infraestrutura a partir de zero, com o objetivo de aproveitar a nova tecnologia das unidades de processamento gráfico (GPU, na sigla em Inglês) e do tecido em rede.

“Queremos que esta infraestrutura seja capaz de reinar modelos com mais de um bilião de parâmetros em conjuntos de dados de até um hexabyite, o que equivale a 36 mil anos de vídeo de alta qualidade”, ainda segundo o texto da empresa.

O RSC já está em marcha, mas o seu desenvolvimento continua, resumiu a nota.

As primeiras provas de rendimento mostram que um modelo com dezenas de milhares de milhões de parâmetros pode terminar os ensaios em três semanas, comparando com as nove semanas anteriores.

Os supercomputadores de IA constroem-se combinando múltiplas GPU em nós de cálculo, que são imediatamente ligados por um tecido em rede de alto rendimento para permitir uma comunicação rápida entre essas unidades.

Este ano, a Meta vai procurar aumentar o número de GPU das atuais 6.080 para 16.000, o que permite o aumento do rendimento da formação em IA em mais de duas vezes e meia.

Kevin Lee e Shubho Sengupta, da equipa de investigação de IA da Meta, resumiram: “Esperamos que esta mudança de função na capacidade de computação nos permita não apenas criar modelos de IA mais precisos para os nossos serviços já existentes, como também experiências de utilizador completamente novas, especialmente no metaverso”.