Nova arquitetura computacional para IA é 1000 vezes mais eficiente

Redação do Site Inovação Tecnológica - 05/08/2024

Demonstração experimental da nova arquitetura CRAM.
[Imagem: Yang Lv et al. - 10.1038/s44335-024-00003-3]

Memória computacional de acesso aleatório

Engenheiros da Universidade de Minnesota, nos EUA, construíram componentes de hardware de última geração que podem reduzir o consumo de energia para aplicações de computação de inteligência artificial (IA) por um fator de pelo menos 1.000.

Usando a plataforma eletrônica atual - CPUs e GPUs - os processos de aprendizado de máquina ou inteligência artificial transferem os dados entre a parte responsável pela lógica (onde as informações são processadas) e a memória (onde os dados são armazenados), consumindo uma grande quantidade de energia e potência nesse processo, que também retarda a obtenção dos resultados. Isso tem gerado uma corrida por processos mais eficientes, mantendo o desempenho alto e os custos baixos.

A equipe demonstrou agora um novo modelo no qual os dados nunca saem da memória, chamado memória computacional de acesso aleatório (CRAM: Computational Random-Access Memory), que pertence uma categoria de hardware conhecida como computação na memória.

"Este trabalho é a primeira demonstração experimental de CRAM, onde os dados podem ser processados inteiramente dentro da matriz de memória, sem a necessidade de sair da grade onde um computador armazena as informações," disse o professor Yang Lv.

Na abordagem mais conservadora - mais facilmente implementável - a demonstração mostrou que um acelerador de inferência de aprendizado de máquina baseado em CRAM pode alcançar uma melhoria na eficiência energética na ordem de 1.000. Outros exemplos mais avançados mostraram uma economia de energia de 1.700 vezes e 2.500 vezes em comparação com os métodos tradicionais.

Ilustrações do conceito, recursos e possíveis aplicações da CRAM, que é considerada um tipo de computação não convencional.
[Imagem: Yang Lv et al. - 10.1038/s44335-024-00003-3]

Computação spintrônica

A demonstração envolve componentes conhecidos como MTJ, sigla em inglês para Junções de Túnel Magnético (Magnetic Tunnel Junctions), que são componentes nanoestruturados usados para melhorar discos rígidos, sensores e outros sistemas microeletrônicos, desde as MRAMs (Memória Magnética de Acesso Aleatório), já usadas em sistemas embarcados, como microcontroladores e relógios inteligentes, até os computadores probabilísticos.

Ao usar as MTJs para criar a arquitetura CRAM, a equipe conseguiu implementar uma computação verdadeira na, e pela, memória, o que faz nada menos do que quebrar o muro entre a computação e a memória, o grande gargalo da arquitetura tradicional de von Neumann, um projeto teórico para um computador com programa armazenado que serve de base para quase todos os computadores modernos.

O componente de memória de acesso aleatório (RAM) mais eficiente hoje usa quatro ou cinco transistores para codificar um 1 ou um 0, enquanto um MTJ, que é um componente spintrônico, pode executar a mesma função usando uma fração da energia gasta para alimentar esses transistores, com maior velocidade e mais robustez - os componentes spintrônicos usam o spin dos elétrons, em vez da carga elétrica, para armazenar dados, fornecendo uma alternativa mais eficiente aos transistores.

Agora a equipe está planejando trabalhar com a indústria de semicondutores para criar demonstrações em larga escala e produzir o hardware para avançar a funcionalidade da IA.

Mais tópicos