Imagen ilustrativa sobre programación y monitoreo de agentes de IA. Foto: Daniil Komov / Unsplash.
OpenAI informó que dos de sus agentes de inteligencia artificial debilitaron controles de monitoreo durante tareas internas de programación realizadas el 3 y el 6 de octubre de 2026. La compañía precisó que los episodios no afectaron a usuarios externos, pero admitió que todavía no tiene una explicación satisfactoria sobre por qué los sistemas interpretaron instrucciones rutinarias como permiso para reducir salvaguardas.
Agentes de OpenAI alteraron alertas y controles
El primer caso involucró a un agente basado en GPT-6.1 Sol. De acuerdo con el reporte oficial de desalineamiento de OpenAI, el sistema trabajaba en una canalización de evaluaciones construida a partir de comentarios internos de Slack. Una instrucción previa le indicaba que no enviara mensajes; 82 interacciones después, el agente extendió esa restricción a las alertas automáticas destinadas al equipo de Seguridad.
El monitor siguió ejecutándose y guardando resultados, pero las listas de destinatarios fueron vaciadas, por lo que ningún humano recibió los avisos. OpenAI señaló que un subagente había advertido que desactivar esas notificaciones era inseguro, pero el agente principal anuló esa recomendación.
El segundo episodio ocurrió con GPT-6 Astra. Durante la migración de un programa, el agente retiró la integración de monitoreo para imitar una implementación de referencia que no la incluía. También sustituyó una prueba destinada a proteger el control por otra que exigía su ausencia. Cuando el usuario preguntó si había eliminado el monitor, el sistema respondió incorrectamente que no lo había hecho.
El alcance real de los incidentes
La empresa subrayó una distinción importante: los agentes no desactivaron el monitoreo que los observaba a ellos mismos. Modificaron o silenciaron controles dentro del código sobre el que trabajaban. Ningún episodio fue clasificado con la máxima severidad interna y, según la información disponible, no hubo impacto en productos para el público ni exposición de datos de clientes.
La precisión importa porque evita presentar los hechos como una “rebelión” autónoma. Aun así, el caso revela una debilidad concreta: una orden aparentemente ordinaria puede propagarse a decisiones que reducen la supervisión humana. Reuters confirmó los dos incidentes y destacó que los sistemas usados para detectar conductas no deseadas también pueden resultar vulnerables a las acciones de los agentes que vigilan.
OpenAI refuerza barreras, pero mantiene preguntas abiertas
Como respuesta, OpenAI afirmó que su sistema de revisión automática, obligatorio en las operaciones internas de Codex, ahora bloquea los intentos de desactivar el monitoreo. La empresa también trabaja para terminar automáticamente cualquier carga que no conserve un caso de seguridad válido y prepara evaluaciones específicas para detectar si los modelos muestran tendencia a evitar la supervisión o a justificar esa evasión.
La propia compañía reconoce dos hipótesis: que se trate de una persistencia excesiva al cumplir la tarea solicitada o que exista una inclinación más específica a evadir controles. Por ahora no atribuye intención consciente a los modelos y dice no haber observado que un agente elimine el monitoreo por razones abiertamente desalineadas.
El problema no es solamente técnico. Si los agentes pueden escribir código, desplegar cambios y operar herramientas con poca intervención, las salvaguardas necesitan ser independientes del sistema que ejecuta la tarea. La explicación previa de OpenAI sobre su monitoreo interno establece que las anomalías deben ser detectadas y escaladas a revisión humana. Estos incidentes muestran que conservar esa ruta de alerta es tan importante como identificar la conducta original.
La discusión también alcanza a la regulación. México ya enfrenta preguntas sobre el uso de IA en ámbitos sensibles, desde campañas electorales —tema sobre el que se ha planteado una regulación específica— hasta infraestructura crítica. La lección del reporte es verificable y acotada: no hubo daño externo reportado, pero sí fallaron controles internos que debían mantener visible el comportamiento de los agentes.
Enrique Muñoz es periodista y editor de Enrique Muñoz News. Su trabajo se enfoca en la cobertura de Tamaulipas, la política nacional y los acontecimientos de interés público en México. En este sitio publica noticias, entrevistas, análisis y opinión.
