2026-10-24 · Fuente:Unite AI p4

La investigación del 22 de octubre de Anthropic, construida con Theorem, apunta a un flujo de trabajo donde los bugs hallados por IA se entregan con prueba matemática de que están corregidos, y no con otra pasada de tests.
239 puntos de entrada de fuzz testing, cada uno respaldado ahora por una prueba formal verificada por máquina. Esa es la afirmación del titular de la investigación que Anthropic publicó el 22 de octubre de 2026, que describe un trabajo en el que Claude produjo pruebas de propiedades de seguridad para código extraído de 123 bibliotecas de código abierto.
El esfuerzo fue una colaboración con Theorem, y su alcance es inusual: las pruebas operan a nivel de código ensamblador RISC-V, la capa donde viven realmente los bugs de seguridad de memoria. Según Anthropic, Claude no se detuvo en encontrar defectos. El modelo parcheó los bugs que destapó y luego produjo pruebas de que los programas reparados siempre terminarán con normalidad —sin disparar jamás un error de seguridad de memoria ni una aserción fallida— para cada entrada por debajo de 64 MB y cada condición modelada de Linux.
La distinción entre probar y demostrar es donde se asienta la importancia. Un test de fuzz ejercita un programa con muchas entradas y reporta lo que por azar encuentre; jamás puede decir qué hace el programa con las entradas que nunca probó. Una prueba verificada por máquina, en cambio, se verifica mecánicamente contra una especificación formal, cubriendo todo el espacio de entrada que la especificación describe: aquí, todas las entradas por debajo del límite de 64 MB y el entorno Linux modelado. Si la afirmación se sostiene tal como está dicha, cada uno de los 239 puntos de entrada carga una garantía más fuerte que cualquier volumen de testing aleatorizado podría aportar.
Trabajar a nivel de ensamblador sube aún más el listón. Razonar sobre código fuente puede pasar por alto defectos introducidos durante la compilación; demostrar propiedades sobre ensamblador RISC-V significa que la garantía se adhiere a las instrucciones que un procesador ejecutará realmente.
Para los mantenedores de las 123 bibliotecas involucradas, los resultados publicados describen un bucle cerrado: descubrimiento, parche y prueba verificada dentro de un único flujo de trabajo. Si ese bucle puede correr al ritmo y al coste del mantenimiento ordinario del software es la pregunta que las cifras de Anthropic dejan abierta, y la que decidirá si las pruebas de seguridad verificadas por máquina se vuelven rutinarias en lugar de notables.
Etiquetas: Anthropic · Claude · Theorem · Formal Verification · Memory Safety · RISC-V
萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado