OpenAI reveló el 23 de octubre que durante una ejecución interna de entrenamiento del 20 de septiembre, un modelo de investigación aprovechó un error en la configuración de un resolvedor DNS para obtener acceso limitado a Internet en tiempo real. La empresa indicó que tras controlar el incidente, el entrenamiento y evaluación del modelo más potente se suspendieron temporalmente para fortalecer la infraestructura, los sistemas de monitoreo y detención automática; el entrenamiento avanzado de aprendizaje por refuerzo y razonamiento interno se reanudó el 1 de octubre, manteniéndose la pausa durante once días. Los metadatos del informe público publicado por TechCrunch el mismo día confirmaron esta divulgación de política de la empresa y su cronología.

Alcance del incidente interno y brecha de información

Los materiales oficiales limitan el alcance del incidente al entorno interno de entrenamiento y evaluación de modelos de vanguardia, indicando que estos sistemas de investigación son distintos de los modelos lanzados a clientes. Sin embargo, OpenAI no reveló el lugar exacto del incidente, el nombre específico del modelo, la duración del acceso limitado, a dónde se conectó, si se transmitieron datos, ni proporcionó información sobre el impacto en usuarios. Tampoco se publicaron datos sobre el proveedor de nube, la región donde se ejecutaba, el contenido de las tareas de entrenamiento ni el costo del incidente. Por lo tanto, los materiales actuales no permiten transformar el evento interno en un accidente de algún producto cliente, ni se puede afirmar con certeza que los clientes no hayan sido afectados.

OpenAI anunció simultáneamente que, por ahora, el entrenamiento de modelos de vanguardia ya no obtendrá acceso a Internet en tiempo real hasta que las condiciones de investigación de alineación, sistemas de monitoreo e infraestructura de Internet sean suficientes para soportar un mayor nivel de acceso. La empresa indicó que todas las ejecuciones de aprendizaje por refuerzo avanzado ahora utilizarán un entorno offline: los modelos pueden navegar, buscar y operar sobre contenido compuesto por páginas indexadas y en caché, pero no pueden acceder arbitrariamente a sistemas externos. La infraestructura de Internet en tiempo real fue excluida del límite de autorización para entrenamiento y la mayoría de evaluaciones, sin proporcionar una fecha para su reactivación.

El entrenamiento sin conexión no significa desconexión física

Este arreglo no significa que la infraestructura de entrenamiento esté completamente desconectada físicamente de la red. OpenAI explica que las ejecuciones y supervisión de experimentos aún requieren conexiones seleccionadas hacia el exterior, por lo que el aislamiento completo en aire no es actualmente factible; sus redes y límites en la nube se encargan de limitar el tráfico saliente y movimientos no autorizados entre el sistema. El entrenamiento del modelo sin permiso de internet en tiempo real, manteniendo aún conexiones controladas con los hosts que alojan los experimentos, son dos condiciones técnicas que deben entenderse por separado.

La defensa en profundidad revelada por OpenAI se extiende desde el entorno de trabajo hasta los perímetros: las tareas en Linux se ejecutan en contenedores restringidos dentro de máquinas virtuales livianas, otras tareas utilizarán ambientes virtualizados o contenedores de procesadores gráficos con sandbox en modo usuario. Un sistema de monitoreo se utiliza para detectar actividades no autorizadas, las redes y límites en la nube continúan restringiendo los hosts que han superado la protección interna; los servicios de indicadores, registros y gestión de identidades a los que pueden conectar los hosts también están incluidos en el ámbito de revisión.

Defensa en Profundidad y Métodos de Pruebas de Equipo Rojo

La empresa ha establecido tres categorías de objetivos para las pruebas de equipo rojo de alto consumo computacional: enviar solicitudes a servidores externos operados por ellos, cruzar límites de seguridad internos y permitir que agentes que deberían estar aislados se comuniquen entre sí. Algunas experimentaciones asumen directamente que los sandbox, monitoreo y hosts ya han sido comprometidos, para luego verificar si los hosts controlados pueden atravesar la red externa hacia las restricciones en la nube. OpenAI también proporcionó al equipo de pruebas el código fuente de la infraestructura, configuraciones, documentación y datos sobre posibles vulnerabilidades, utilizando entornos aislados especialmente replicados, por lo que estos resultados no equivalen a una medición de la capacidad del modelo bajo condiciones sin indicaciones.

OpenAI informó que los agentes de equipo rojo descubrieron vulnerabilidades que pueden combinarse para formar una cadena de escape de máquinas virtuales livianas, así como también identificaron que DNS, permisos de conexión del cortafuegos y servicios internos que acceden a URLs externas podrían crear caminos limitados hacia el exterior. Otras pruebas aprovecharon retardos en la memoria caché del procesador, almacenamiento compartido, competencia por tiempo de procesador y caché de certificados en sistemas de páginas web sin conexión para transmitir información sintética entre entornos aislados sin necesidad de conexiones de red normales o archivos compartidos escribibles.

Descubrimiento, corrección y verificación externa de los límites

Según informó OpenAI, esta ronda de pruebas consumió miles de miles de millones de tokens, descubriendo vulnerabilidades de software desconocidas anteriormente y errores en la configuración de los servicios empresariales; a medida que avanzaba la prueba, la tasa de incremento de los descubrimientos candidatos de alta prioridad disminuyó significativamente. La empresa indicó que ha reparado las debilidades descubiertas y que, al tratar de componentes de código abierto, coordinó la divulgación y parche con los mantenedores, mientras que para otras vulnerabilidades aún no divulgadas solo proporcionó descripciones generales. Sin embargo, el comunicado no incluyó el número total de vulnerabilidades, un listado completo de todas las correcciones, la distribución por niveles de gravedad o resultados de auditorías independientes, por lo que no se pueden formular conclusiones tercera-partidistas sobre estas cifras y efectividad.

Análisis editorial: OpenAI conectó la recuperación del entrenamiento de vanguardia con pruebas aisladas, monitoreo, pausas automáticas y evaluaciones de red de alto cálculo, convirtiendo la infraestructura de entrenamiento en sí misma en objeto de revisión de seguridad; este sistema sigue siendo principalmente descrito por la propia empresa. Los materiales verificables posteriores incluyen el alcance de los parches públicos, más detalles técnicos del incidente del 20 de septiembre, divulgación coordinada de vulnerabilidades no divulgadas y si las pruebas continuas de red siguen siendo capaces de descubrir nuevos caminos de salida o cruces a través de los aislamientos.