Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Durante años, la conversación sobre inteligencia artificial ha girado alrededor de la GPU, de la TPU y de las redes. Ahora el foco vuelve a una pieza menos vistosa y bastante más decisiva cuando toca mover datos a toda velocidad entre memoria, almacenamiento y procesador.
Eso explica que dos compañías asentadas a apenas 12 kilómetros de distancia en California estén empujando la misma idea por caminos distintos. ScaleFlux, con sede en Milpitas, y Phison, instalada en San José, quieren aliviar el atasco que aparece cuando la CPU ya no puede absorber sola el flujo de datos que exige la infraestructura de IA.
ScaleFlux sitúa el cuello de botella donde menos se miraba
Saeed Raja, vicepresidente y manager general de ScaleFlux, aborda el origen de esa apuesta.
"Cuando fundamos esta compañía hace 12 años, estábamos un poco por delante de la agenda, porque ya entonces veíamos que el cuello de botella iba a estar en la CPU, por la ralentización en el rendimiento del almacenamiento de datos. Por eso, entonces nos dijimos, necesitamos aceleración para ayudar a descargar la CPU". - Saeed Raja, vicepresidente y manager general de ScaleFlux
La empresa ha desarrollado un nuevo chip con firmware propio para ampliar el ancho de banda y acelerar el flujo de datos en las controladoras de memorias y discos. La idea no consiste en competir con la CPU, sino en quitarle trabajo allí donde el movimiento de datos empieza a pesar tanto como el cálculo.
Hoy la aceleración ya no se limita a la computación pura. Hao Zhong, CEO de ScaleFlux, sostiene que el almacenamiento computacional ha dejado atrás la compresión y el filtrado de datos para entrar en tareas como la computación vectorial y la preparación de datos para IA.
Después llegaron la GPU y la TPU para descargar redes neuronales, y más tarde la red empezó a asumir parte de esa presión. Raja sostiene que, en el último año, mucha gente ha vuelto a mirar al almacenamiento como una pieza central de la infraestructura de IA y de computación en la nube.
Phison lleva la caché flash hasta el corazón del PC con IA
Phison propone otra vía.
La multinacional taiwanesa, fundada en el año 2000, plantea con AIdaptiv una capa flash que funciona como extensión de memoria caché entre la DRAM, la GPU y el almacenamiento convencional. En la práctica, intenta colocar un colchón intermedio para que no todo dependa de una memoria principal cada vez más tensionada, algo que ya se nota en la presión sobre la RAM.
Michael Wu, presidente de la rama estadounidense de Phison, pone el acento en la dimensión industrial del movimiento. Sus controladoras de disco ya las utilizan 21 fabricantes, entre ellos Kioxia, Micron, Samsung y Sandisk.
La línea Pascari empaqueta esa estrategia con discos SSD, controladora, firmware y servicios de personalización para clientes OEM orientados a infraestructuras de inteligencia artificial. Rick Allen, jefe de producto de Phison, explica además que AIdaptiv tiene una variante de caché pura basada en pSLC y otra híbrida para equipos con M.2 que mezcla TLC para almacenamiento y pSLC para caché.
Un modelo de 24 gigabytes puede ejecutarse en un portátil de 16 gigabytes. Allen lo resume con un ejemplo muy concreto, porque AIdaptiv permite descargar aproximadamente la mitad del peso del modelo fuera de la memoria principal.
La pelea ya no está solo en calcular, sino en mover datos
La frase de Michael Wu tiene algo de provocación y algo de diagnóstico.
"Los ingresos de las compañías IA están directamente ligados a cuánto almacenamiento disponen. Y como éste no se puede multiplicar por dos, tienen que recurrir al edge. El almacenamiento se ha convertido en la nueva computación". - Michael Wu, presidente de la rama estadounidense de Phison
Esa mirada encaja con el discurso de ScaleFlux, aunque use otro vocabulario. Hao Zhong defiende que la aceleración debe producirse en cada etapa de la cadena de datos, desde los procesadores y la red hasta la memoria y el almacenamiento, porque el cuello de botella ya no vive en un único punto.
Diez veces por segundo.
Zhong afirma que la compañía ha trabajado con Nvidia y con proveedores de memoria para acelerar a ese ritmo las operaciones de input y output. También adelanta que ese mismo desplazamiento del problema alcanzará a la capa de DRAM con CXL, una interconexión de muy alta velocidad.
Ahí entra la nueva unidad MC600 de ScaleFlux, compatible con PCIe Gen 6, CXL 3.2 y DDR4 y DDR5. No es un detalle menor, porque el debate ya no gira solo alrededor de cuántos parámetros caben en un modelo, sino de cuánta fricción introduce cada salto entre memoria, disco y procesador.
Ocho fabricantes de PC ya prueban una salida al límite de memoria
Phison ha llevado esa discusión al ordenador personal con la ayuda de Intel.
Ambas compañías colaboran para validar AIdaptiv en PCs con IA e integrarla con Llama.cpp y OpenVINO. Ocho fabricantes de PC participan en ese trabajo y siete de ellos ya están en distintas etapas orientadas a producción, una señal de que el problema ha dejado de ser exclusivo del gran centro de datos y se ha acercado al escritorio, como también sugieren los límites del dato en memoria.
Raja lo plantea como una cuestión de ensamblaje entre piezas que hasta hace poco se analizaban por separado. CPU, GPU y DPU necesitan, a su juicio, la memoria y el almacenamiento adecuados para formar una infraestructura de IA escalable y eficiente, justo cuando el gran cuello de botella ya no está en el chip que más se ve, sino en la tubería que transporta los datos entre todos los demás.