2026-11-04 · Fuente:虎嗅·中继

No genera imágenes: predice el futuro en un espacio abstracto; la idea jerárquica concebida en 2022 obtiene cuatro años después su primera implementación completa y reproducible
En la tarea de laberinto Visual AntMaze, el modelo de una sola capa LeWM logró apenas un 18% de éxito, mientras que H-JEPA, con tres capas apiladas, lo elevó al 73%. Este es el primer logro completo y reproducible de la línea de modelos jerárquicos del mundo defendida por Yann LeCun, cuatro años después de que propusiera el concepto de JEPA jerárquico en su artículo de 2022 «A Path Towards Autonomous Machine Intelligence». Durante estos cuatro años, la actitud de la industria pasó de la observación al escepticismo y ahora a esta validación, y su significado va mucho más allá del salto de una cifra: demuestra que los modelos del mundo pueden completar planificaciones de largo plazo sin depender de la generación a nivel de píxeles.
JEPA significa Joint-Embedding Predictive Architecture, es decir, arquitectura predictiva de incrustación conjunta. A diferencia de los actuales modelos generativos de video, no dibuja el siguiente fotograma, sino que comprime la imagen en un conjunto de vectores abstractos —representaciones latentes— y predice el futuro en ese espacio abstracto, como dos personas jugando al ajedrez con los ojos cerrados: sin mover las piezas en el tablero, uno dice «rey cinco avanza uno» o «peón uno avanza uno», y el otro puede trazar mentalmente la evolución de la partida. H-JEPA apila varios JEPA capa a capa; cada nivel cuenta con un codificador de observaciones, un codificador de acciones y un predictor latente, y predice estados en distintas escalas temporales dentro de su propio espacio de representación: el nivel más bajo gestiona los detalles y mira más cerca, y cuanto más alto, más lejos y más macroscópica es la visión.
En la planificación el orden se invierte: primero el nivel superior propone un estado objetivo aproximado, que se convierte en subobjetivo del nivel inferior, y así se refina capa por capa hasta que el nivel más bajo emite las acciones. Esta lógica jerárquica proviene del concepto de LeCun «de Nueva York a París»: para ir de Pekín a Shanghái, el cerebro primero decide «tomar el tren de alta velocidad», luego piensa cómo llegar a la estación sur de Pekín y por último qué pie mover; el nivel de reservas solo necesita hora, precio y número de tren, mientras que el nivel de los pasos requiere centro de gravedad, escalones y suelo. Y esto es precisamente lo que más cuesta al Transformer: predecir token a token equivale a mezclar en un mismo pensamiento la reserva del billete, el trayecto a la estación y la bajada de escaleras, y cuantos más pasos, más fácil es equivocarse. El artículo señala que los modelos planos de una sola capa deben desplegar una enorme cantidad de pasos de grano fino en tareas largas, los errores de predicción se acumulan sin cesar y el espacio de búsqueda de acciones se expande en consecuencia.
El salto del 18% al 73% es llamativo, pero surgen preguntas: si tres capas ya son tan eficaces, ¿por qué no apilar cien? ¿Dónde está el techo del JEPA jerárquico? LeCun aún tiene que dar una respuesta.
Para los compradores de cómputo para IA, la señal de este avance merece atención seria. Las arquitecturas tipo JEPA enfatizan la predicción en espacios de representación abstracta y, en teoría, eluden la dependencia extrema de los modelos generativos de video respecto a enormes volúmenes de memoria de video de alto ancho de banda y cómputo denso; en la fase de inferencia predominan las secuencias de razonamiento sobre vectores latentes, con una forma de cómputo más cercana al aprendizaje de representaciones que al difuminado difusivo. Si los modelos jerárquicos del mundo avanzan hacia la inteligencia encarnada, la robótica y la toma de decisiones de secuencias largas, la estructura de adquisición de cómputo podría evolucionar de «clústeres de entrenamiento puramente GPU» hacia «cargas mixtas de entrenamiento + inferencia + planificación», y los compradores deberán reservar cuotas elásticas de cómputo de inferencia de baja latencia y rendimiento medio al planificar sus clústeres, en lugar de acumular sin más potencia máxima de entrenamiento.
En cuanto a las consideraciones de compra, se recomienda atender tres puntos: primero, la línea de modelos del mundo aún está en fase de validación investigadora y dista de la comercialización a gran escala, por lo que no conviene ajustar de inmediato las compras de hardware, aunque pueden incluirse cláusulas de compatibilidad arquitectónica en los contratos; segundo, el entrenamiento de representaciones latentes de estos modelos es sensible al ancho de banda de memoria y a la topología de interconexión, por lo que al elegir nodos debe priorizarse la evaluación de interconexiones de nivel NVLink y configuraciones de memoria de alto ancho de banda; tercero, los entornos de simulación (como tareas tipo Visual AntMaze) también requieren inversión sostenida de cómputo, y el presupuesto de compra debe incluir los clústeres de simulación en el total. La actitud racional es realizar pilotos a pequeña escala, ampliar por fases y seguir la reproducibilidad y los avances de ingeniería de futuros artículos antes de comprometer inversión de capital.
【Datos reales de mercado】Las arquitecturas de modelo aquí tratadas pertenecen al ámbito de artículos de investigación y no corresponden a modelos concretos de cómputo a la venta; dicho modelo no cuenta actualmente con datos de precios de venta. Para seguir las cotizaciones en tiempo real y la disponibilidad de recursos de cómputo relacionados, atento a los próximos informes de mercado de WANAN News (AIXX News).
En conjunto, el hito de H-JEPA consiste en convertir por primera vez una línea teóricamente elegante en una implementación completa y reproducible. Quizá no sustituya a corto plazo a los modelos generativos, pero ofrece un camino alternativo y validado para el problema de la planificación de largo plazo en la «máquina inteligente autónoma». Para la industria del cómputo, el verdadero punto de inflexión llegará cuando esta arquitectura pase de tareas de laberinto a robots reales y escenarios de decisión industrial.
P: ¿Cuáles son exactamente los resultados de H-JEPA en la tarea Visual AntMaze?
R: El modelo de una sola capa LeWM logró apenas un 18% de éxito, y H-JEPA, con tres capas apiladas, lo elevó al 73%; es la primera implementación completa y reproducible de la línea de modelos jerárquicos del mundo de Yann LeCun.
P: ¿Cuál es la diferencia esencial entre H-JEPA y los modelos generativos de video como modelos del mundo?
R: JEPA no genera el siguiente fotograma, sino que comprime la imagen en representaciones latentes abstractas y predice el futuro en el espacio abstracto; H-JEPA apila además varios JEPA capa a capa y predice jerárquicamente estados en distintas escalas temporales para completar la planificación de largo plazo.
Etiquetas: Yann LeCun · H-JEPA · JEPA · LeWM · World Model
萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado