Samsung e rivais buscam soluções para evitar desperdício de memória em servidores de IA

As principais fabricantes de semicondutores do mundo, incluindo Samsung e SK hynix, anunciaram a aceleração de novas tecnologias de memória. Chamadas de CXL e PIM, a ideia aqui é solucionar a subutilização de recursos em servidores de inteligência artificial, por meio de uma iniciativa para contornar as limitações físicas e os custos elevados da atual tecnologia HBM.

Nos dias atuais, esses servidores operam com uma subutilização crítica, com uso entre 50% e 60% de memória instalada, enquanto o restante permanece ocioso e inacessível para outros idiomas. Para solucionar esse desperdício, os altos custos de expansão de memória de alta largura de banda (HBM), fabricantes como Samsung e SK hynix investem em três frentes principais:

• CXL (Compute Express Link);
• PIM (Processing-In-Memory);
• HBF (High Bandwitdh Flash).

A primeira delas é uma interface aberta que possibilita o “pooling” de memória, permitindo que múltiplos servidores compartilhem recursos ociosos de forma dinâmica. Quanto à segunda, trata-se de uma tecnologia que integra capacidades de computação diretamente onde os dados estão armazenados.

Clique aqui para ler mais