2026-09-17 · Fuente：iFUN
El director ejecutivo de Anthropic dice que añadir mecanismos de seguridad ya no basta: el ritmo de las nuevas capacidades de IA debe bajar para que las pruebas y las salvaguardas puedan seguirle el paso.
El director ejecutivo de Anthropic, Dario Amodei, está pidiendo un enfoque marcadamente más cauto para construir sistemas de IA potentes. En su evaluación, ya no basta con adosar mecanismos de seguridad adicionales a modelos cada vez más capaces. En cambio, argumenta, la propia velocidad a la que llegan las nuevas capacidades debe reducirse, para que los procedimientos de evaluación y las medidas de protección tengan tiempo de seguirle el paso a la tecnología.
La postura de la empresa detrás del asistente Claude marca un cambio de énfasis: en lugar de tratar la seguridad como un complemento añadido a cada lanzamiento sucesivo, la propia velocidad del avance de capacidades debe moderarse hasta que los procesos de verificación y las salvaguardas puedan alcanzarla. La discusión concierne directamente también al ChatGPT de OpenAI, el otro sistema conversacional insignia nombrado en el reporte.
Amodei no sostiene el argumento solo. Ha conseguido el respaldo del director ejecutivo de OpenAI, Sam Altman, y de Elon Musk, un alineamiento que resalta dado lo directo con que las compañías y personas involucradas compiten en la frontera del desarrollo de la IA. Cuando líderes rivales convergen en la necesidad de no solo añadir salvaguardas sino frenar la introducción de nuevas capacidades, eso señala que el debate sobre el desarrollo seguro de la IA ha ido más allá de las preguntas de protección a nivel de funciones.
En su núcleo, la propuesta reordena las prioridades del trabajo de IA frontera. La postura de Amodei sostiene que los regímenes de pruebas y los controles de riesgo no deben quedar rezagados respecto de las capacidades de los modelos; donde la brecha amenaza con abrirse, el remedio no es apilar más funciones de seguridad sobre un ciclo de lanzamientos veloz, sino una reducción deliberada en la velocidad a la que se introducen nuevas habilidades. Para un campo cuyo impulso comercial descansa en la iteración rápida y las actualizaciones de modelos que copan titulares, ese es un estándar exigente.
Si ese estándar se adopta en la práctica queda como la pregunta abierta que deja el reporte. Lo que es inequívoco es que los líderes detrás de ChatGPT y Claude comparten ahora públicamente la opinión de que el crecimiento de capacidades ha superado los medios para verificarlo, y que el tempo del avance, y no solo su supervisión, debería aminorar.
Etiquetas: Anthropic · OpenAI · Dario Amodei · Sam Altman · Elon Musk · AI Safety
萬安算交所 AIXX · AIXX · Exchange verificado · Ir al mercado