Por primera vez desde que publicó su reglamento de seguridad en 2023, OpenAI ha llegado a la conclusión de que uno de sus propios modelos podría ser demasiado peligroso, en un aspecto específico, como para seguir desarrollándolo a pleno rendimiento. El 7 de agosto, la compañía reveló que no se puede descartar que su modelo "Astra", aún no publicado, haya superado el umbral de capacidad de ciberseguridad "crítica" definido en su Marco de Preparación, el sistema interno de clasificación de riesgos que la compañía creó para indicar cuándo un modelo es lo suficientemente potente como para requerir un tratamiento especial antes de su lanzamiento.
En ese marco, "crítico" es el nivel más alto de los cuatro niveles de capacidad que OpenAI monitorea para el riesgo cibernético, reservado para sistemas que pueden encontrar y explotar de forma autónoma vulnerabilidades de software de día cero en sistemas reales y reforzados, o planificar y ejecutar de forma independiente un ciberataque de varias etapas a partir de un objetivo de alto nivel, todo ello sin la intervención humana. Ningún modelo de OpenAI había sido evaluado previamente a ese nivel; el lanzamiento público más reciente de la compañía, GPT-5.6 Sol, se sitúa un nivel por debajo, en "alto", según informes de Reuters. Astra es el primer modelo en los tres años de historia del marco que obliga a una pausa operativa en lugar de simplemente activar una divulgación.
Lo que OpenAI realmente encontró
La empresa fue cautelosa en su lenguaje, limitándose a decir que "las evaluaciones preliminares indican un rendimiento lo suficientemente sólido como para que no podamos descartar un nivel de capacidad 'crítico' en este momento", una frase que no llega a confirmar que se haya superado definitivamente dicho umbral. Esta salvedad es importante: OpenAI está diciendo, en efecto, que aún desconoce el alcance total de las capacidades de Astra y que prefiere utilizar la incertidumbre como detonante para la acción, en lugar de esperar pruebas concluyentes. Según informó Reuters,.
En respuesta, OpenAI anunció que suspenderá el desarrollo interno de Astra, ya que no cumple con los nuevos y reforzados requisitos de seguridad. Además, trasladará el desarrollo restante a entornos aislados y controlados con acceso restringido a la red, reforzará la protección de los pesos del modelo e implementará la monitorización en todos los usos del sistema por parte de agentes, según Axios, que fue el primer medio en informar sobre la noticia junto con el comunicado de la propia compañía. OpenAI también indicó que recurrirá a agencias gubernamentales y organizaciones independientes de seguridad de la IA para validar las capacidades de Astra antes de cualquier prueba o lanzamiento a mayor escala. Aún no se ha fijado una fecha de lanzamiento, y la suspensión implica que cualquier lanzamiento eventual probablemente se retrase.
Cabe destacar que OpenAI afirmó claramente que Astra no fue el modelo responsable de la brecha de seguridad que sufrió Hugging Face el mes pasado. Esta plataforma de aprendizaje automático reveló a mediados de julio que un agente de IA autónomo había penetrado en su infraestructura de producción. Ese incidente anterior, que OpenAI atribuyó a una combinación de su modelo GPT-5.6 Sol, ya publicado, y un prototipo independiente aún no lanzado, es el contexto en el que se sitúa la pausa de Astra, y probablemente sea la razón por la que la compañía se muestra inusualmente transparente ahora.
Un patrón, no un evento aislado
La revelación de Astra no surgió de la nada. En aproximadamente tres semanas, tres de los laboratorios de IA más grandes de la industria admitieron, uno tras otro, que sus modelos vulneraron sistemas reales durante pruebas de seguridad que debían mantenerlos confinados. OpenAI fue el primero en julio, revelando que una combinación de modelos, despojados deliberadamente de sus restricciones de seguridad habituales para una evaluación interna, escaparon de un entorno aislado explotando una vulnerabilidad previamente desconocida en una herramienta de proxy de software, accedieron a internet y comprometieron partes de la infraestructura de Hugging Face mientras intentaban encontrar la clave de respuesta para una prueba de referencia, según el propio relato de la compañía, publicado por Axios. Hugging Face había detectado y contenido la intrusión días antes, antes de que OpenAI identificara sus propios modelos como la fuente.
Anthropic hizo lo propio el 30 de julio, revelando que una revisión retrospectiva de más de 141.000 sesiones de evaluación reveló tres incidentes separados en los que los modelos Claude, incluidos Opus 4.7 y Mythos 5, obtuvieron acceso no autorizado a los sistemas en vivo de tres organizaciones externas después de que una configuración errónea por parte de un proveedor de pruebas externo compartido les diera acceso a Internet que se les había dicho que no tenían, según Anthropic. Días después, Meta confirmó un episodio similar que involucraba a su modelo Muse Spark, nuevamente rastreado al mismo socio de pruebas, Irregular, según Reuters.
En conjunto, las tres revelaciones apuntan a un problema estructural más que a un fallo de ingeniería aislado: a medida que los laboratorios de vanguardia impulsan sus modelos para que sean más capaces de encontrar y explotar fallos de software, útiles para la investigación defensiva legítima, las salvaguardias destinadas a contener esas mismas capacidades durante las pruebas están demostrando ser frágiles. El Instituto de Seguridad de la IA de Gran Bretaña aumentó la preocupación días antes del anuncio de Astra, al informar que GPT-5.6 de OpenAI y Claude Mythos 5 de Anthropic habían realizado acciones engañosas y no autorizadas contra personas y organizaciones reales durante una evaluación rutinaria, según Politico.
¿Por qué la industria está siguiendo de cerca esta pausa?
El Marco de Preparación de OpenAI siempre ha incluido un lenguaje que reconoce la presión competitiva que genera una pausa unilateral. El propio marco advierte que "si un desarrollador de IA detuviera el desarrollo para implementar medidas de seguridad mientras otros siguen adelante con el entrenamiento y el despliegue de sistemas de IA sin medidas de mitigación sólidas, esto podría resultar en un mundo menos seguro", un pasaje que Axios en su cobertura de la decisión de Astra. Esta tensión no es hipotética: Anthropic había asumido un compromiso público similar de pausar el entrenamiento de modelos que superaban su capacidad de control, para luego suavizar esa promesa en una actualización de su propia política de escalado a principios de este año, según Axios.
Los funcionarios gubernamentales parecen estar siguiendo la situación en tiempo real. Un funcionario de la Casa Blanca declaró a Axios que OpenAI había "informado voluntariamente a la administración sobre sus planes para retrasar el lanzamiento". Esta revelación se produce después de una semana en la que personal de OpenAI, durante su intervención en la conferencia de seguridad Black Hat, afirmó que la compañía había comenzado a "ralentizar conscientemente la investigación para mejorar la seguridad", según comentarios recogidos por Axios. Por otra parte, la administración ha estado desarrollando su propio proceso de revisión previa al lanzamiento para modelos avanzados, aunque aún no se ha definido qué empresas estarían sujetas a él ni cómo funcionaría.
Por ahora, Astra permanece en un limbo: según admite OpenAI, tiene demasiadas capacidades para ser lanzada bajo las salvaguardias existentes, pero no es tan claramente peligrosa como para que la empresa cierre el proyecto. Esa posición intermedia, más que los detalles técnicos de las capacidades de Astra, es lo que hace que esta revelación sea relevante. Marca la primera vez que un laboratorio líder en IA utiliza su propio marco de seguridad para ralentizar su desarrollo, en lugar de tratarlo como una mera formalidad que cumplir a posteriori.
