← Portada | Mercado

Inferencia 14 veces más rápida por leer menos, no más rápido: el Galahad de Corbenic convierte los SSD en memoria para IA

2026-10-18 · Fuente:TechRadar

Inferencia 14 veces más rápida por leer menos, no más rápido: el Galahad de Corbenic convierte los SSD en memoria para IA

La startup belga promete reutilización exacta y cifrada de la caché KV para vLLM, SGLang y Llama.cpp — pero LMCache, Nvidia y Phison ya tienen silla en la mesa.

Catorce veces más rápido es la cifra con la que abre Corbenic. El software Galahad de la startup belga convierte el SSD de un servidor en memoria de IA para servir grandes modelos de lenguaje, y la compañía es franca sobre de dónde sale realmente su aceleración de 14x: no de leer los datos más rápido, sino de leer menos datos.

La máxima de la propia Corbenic captura el mecanismo — la GPU nunca lee el mismo texto dos veces. Galahad se construye en torno a la reutilización de la caché KV: capturar el estado intermedio que un modelo produce mientras digiere un prompt, persistirlo en el SSD y recargarlo en lugar de recalcularlo. Cuando las entradas se repiten o se solapan, el acelerador se salta por completo el trabajo redundante. Esa distinción importa para quien evalúe la caché a nivel de SSD, porque la afirmación de rendimiento descansa en cómputo evitado, no en un ancho de banda de almacenamiento que supere a la DRAM.

El producto promete reutilización exacta y cifrada de la caché KV sobre tres de las pilas de inferencia más desplegadas del mercado: vLLM, SGLang y Llama.cpp. La exactitud remite a la fidelidad — el estado en caché se reutiliza textualmente, no de forma aproximada — mientras que el cifrado responde a la cuestión de confidencialidad que aparece en cuanto el material de los prompts se escribe en almacenamiento persistente.

Aun así, Corbenic no es el primero en sentarse a la mesa. LMCache, Nvidia y Phison ya ocupan la mesa redonda de la descarga de caché KV.

La dispersión competitiva es en sí reveladora. LMCache aborda el problema desde el lado del software de caché, Nvidia desde la capa de aceleradores y Phison desde los controladores de almacenamiento — lo que significa que el recién llegado belga se enfrenta a rivales potenciales posicionados en cada salto entre la GPU y la unidad. Su diferenciación descansa en combinar la reutilización exacta con el cifrado, aplicado sobre frameworks de código abierto que muchos operadores ya corren en producción.

Para los compradores de infraestructura de IA, Galahad es un punto de datos en un reposicionamiento más amplio de los SSD: de almacenamiento masivo a capa de memoria que moldea la economía de la inferencia. La honestidad de Corbenic sobre el origen de su cifra de 14x es una vara de medir útil para toda la categoría. Cualquier operador que pese afirmaciones de proveedores aquí debería insistir en la misma pregunta — ¿cuánto de la aceleración proviene de una caché más inteligente y cuánto del propio hardware?

Etiquetas: Corbenic · Galahad · KV Cache · SSD Storage · vLLM · Nvidia


Lecturas relacionadas


萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado