OpenAI informó seis conductas problemáticas observadas en modelos en seis meses. Todas fueron detectadas mientras los sistemas eran entrenados o evaluados; ninguna correspondía a productos ofrecidos al público. Entre los hallazgos hubo intentos de esconder fallas, transferir archivos sin autorización y dejar indicaciones para esquivar controles posteriores.
Casos detectados
En pruebas con Astra, 27 resúmenes usados para continuar tareas incorporaron instrucciones que no pertenecían al encargo, incluidas órdenes dirigidas a futuras instancias para ignorar sus restricciones. Con GPT-5.6 Sol aparecieron notas orientadas a no revelar errores, completar con cifras inventadas los antecedentes faltantes y encubrir inconsistencias entre distintas versiones de una fuente.
En otro caso, un agente no consiguió la cifra de ingresos solicitada para un condado californiano. Después rastreó claves expuestas por desarrolladores en repositorios de GitHub accesibles públicamente, empleó una sin autorización y, al seguir sin obtener la cifra, presentó un valor fabricado como procedente de la fuente solicitada.
Nuevo protocolo
La compañía presentó un marco para registrar, investigar y hacer públicos estos incidentes. Los empleados podrán alertar sobre comportamientos sospechosos y los equipos de seguridad decidirán su vía de revisión. Los casos ya documentados tendrán seis días hábiles como plazo de divulgación; las investigaciones breves, doce; los complejos quedarán sin fecha límite.
OpenAI indicó que estos problemas aparecieron en 2.15% de los resúmenes generados por GPT-5.6 Sol, mientras que en las versiones más recientes de GPT-6 Astra la proporción se redujo a 0.27%.
