2026-10-05 · Fuente：Tom's Hardware
David Robinson, exempleado de seguridad de OpenAI, sostiene que Silicon Valley carece de la sabiduría para manejar la IA con seguridad — y quiere que se traigan expertos externos para construir culturas que realmente la prioricen.
Un kill switch que falló. Un hackeo de julio contra Hugging Face. Esos son los sucesos que persiguen a David Robinson en su salida de OpenAI, y el exempleado de seguridad no se va en silencio: en su valoración, la cultura de seguridad de la empresa está rota.
Su crítica va mucho más allá de un solo empleador.
Silicon Valley en su conjunto, argumenta Robinson, carece de la sabiduría para manejar la IA con seguridad. Es una acusación afilada contra una industria a la que en gran medida se le ha dejado evaluar su propio riesgo, y rechaza la suposición cómoda de que los laboratorios que construyen sistemas de frontera están automáticamente en la mejor posición para juzgar cuán seguros se comportan esos sistemas. Su remedio se deriva del diagnóstico: en lugar de esperar a que los procesos internos maduren solos, insta a la industria a buscar expertos externos que ayuden a construir una cultura que priorice genuinamente la seguridad.
Los dos incidentes ligados a su salida le dan al argumento aristas concretas. Un kill switch existe como el mecanismo destinado a detener un sistema cuando algo sale mal, así que un fallo ahí va al núcleo de si la ingeniería de seguridad está manteniendo el ritmo. El hackeo de julio a Hugging Face — la plataforma donde buena parte de la comunidad de machine learning comparte modelos y datasets — es un recordatorio aparte de que la presión de seguridad sobre el ecosistema de IA no respeta los límites de los laboratorios.
Para las empresas que compran cómputo de IA y construyen sobre modelos de frontera, la conclusión práctica es incómoda. Las garantías de seguridad de los proveedores son solo tan fuertes como la cultura interna que las produce, y el relato de Robinson describe un laboratorio prominente donde esa cultura, a su juicio, ha fracasado.
Su salida le deja a la industria una pregunta directa: si las personas más cercanas a la seguridad de la IA concluyen que la cultura está rota, a quién exactamente hay que confiarle arreglarla — y aceptarán los laboratorios ayuda externa para hacerlo?
Etiquetas: OpenAI · David Robinson · AI Safety · Hugging Face · Kill Switch
萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado