Samsung y SK Hynix discrepan sobre lo que viene después de la HBM

Los dos gigantes coreanos de la memoria aprovecharon la conferencia Hot Chips, a finales de agosto, para plantar apuestas divergentes sobre el futuro de la memoria para IA. Samsung detalló su primer producto comercial de procesamiento en memoria construido sobre DRAM de bajo consumo, y está metiendo más lógica en el chip base de la HBM; SK Hynix presentó iHBM, un enfoque de encapsulado que, según dice, reduce en más de un 30% la resistencia térmica de las pilas de memoria de gran ancho de banda, de acuerdo con el Korea JoongAng Daily y Digitimes.

Las posiciones son racionales vista la clasificación. SK Hynix controla la mayoría del mercado de HBM según casi todas las estimaciones, y un líder defiende el estándar que domina: sus problemas son problemas de líder — el calor, y la dificultad de apilar chips DRAM cada vez más alto sin cocinar las capas intermedias. Un recorte del 30% en la resistencia térmica no es un dato glamuroso, pero la térmica es la restricción que limita la altura de las pilas, y la altura de las pilas es la vía por la que crece la capacidad de la HBM.

Samsung, que persigue, apuesta por cambiar el juego. El procesamiento en memoria ataca el problema de fondo desde el otro lado: en lugar de llevar los datos al cómputo cada vez más deprisa, traslada parte del cómputo a la memoria, de modo que los datos no viajan. El argumento físico es viejo y sólido — el movimiento de datos, no la aritmética, domina el presupuesto energético de las cargas de IA. La historia aporta la cautela: el PIM lleva dos décadas siendo la próxima gran revolución de la memoria y ha naufragado una y otra vez en la misma roca: exige que el software cambie. Los fabricantes de aceleradores y los autores de frameworks tienen que programar para él, e históricamente se han negado.

Lo distinto ahora es el tamaño del premio y el dolor del statu quo. Cuando el ancho de banda de memoria es el techo de un mercado de aceleradores de cientos de miles de millones, la recompensa por romper el muro en vez de escalarlo nunca fue mayor. La próxima generación de aceleradores dirá qué apuesta hicieron los compradores.