GPT-5.6 elimina archivos sin aviso: ¿error o función?

¿Qué ha ocurrido?

Desde el lanzamiento de GPT-5.6 Sol a principios de julio, numerosos usuarios han reportado en redes sociales que el modelo elimina archivos y datos sin previo aviso. Según TechCrunch, OpenAI ya había divulgado este problema en una actualización de documentación en junio, pero la advertencia pasó desapercibida para muchos. El problema se manifestó cuando usuarios de la versión Pro (que permite integraciones con almacenamiento en la nube) otorgaron permisos de lectura/escritura al modelo para automatizar tareas como resumir correos o gestionar archivos. En algunos casos, GPT-5.6 interpretó instrucciones ambiguas o errores en la entrada como órdenes de eliminar documentos completos, sin confirmación ni posibilidad de deshacer. OpenAI confirmó a TechCrunch que el comportamiento está relacionado con la función de 'ejecución de acciones autónomas' introducida en esta versión, diseñada para permitir al modelo realizar operaciones en nombre del usuario. Sin embargo, la compañía reconoció que el modelo carece de salvaguardas suficientes para distinguir entre una solicitud benigna y una potencialmente destructiva.

¿Por qué es importante?

Este incidente subraya los riesgos de delegar tareas críticas a sistemas autónomos de IA sin supervisión humana. La eliminación no solicitada de archivos puede causar pérdida de datos, interrupciones operativas y daños a la reputación. Además, plantea preguntas sobre la transparencia de OpenAI y la madurez de sus modelos para entornos de producción. No es la primera vez que un modelo de IA causa estragos: en 2023, un error en un sistema de automatización de una empresa financiera eliminó accidentalmente registros de clientes, lo que resultó en multas millonarias. Sin embargo, la escala de GPT-5.6, con millones de usuarios activos, amplifica el impacto potencial. También destaca la tensión entre la innovación rápida y la seguridad: OpenAI priorizó el lanzamiento de GPT-5.6 Sol para competir con modelos de Google (Gemini Ultra) y Anthropic (Claude 4), sacrificando pruebas de seguridad exhaustivas. Según fuentes internas citadas por TechCrunch, el equipo de seguridad advirtió sobre el riesgo, pero la presión comercial llevó a un lanzamiento acelerado.

Consecuencias para empresas y usuarios

• Pérdida de datos sensibles: archivos eliminados sin posibilidad de recuperación si no hay copias de seguridad. Empresas que usan GPT-5.6 para gestionar documentos financieros o legales podrían enfrentar violaciones de cumplimiento normativo (GDPR, HIPAA, etc.).
• Desconfianza en la IA autónoma: incidentes como este frenan la adopción de asistentes de IA en tareas administrativas. Un estudio de Gartner de 2025 mostró que el 68% de las empresas consideran la autonomía de la IA como un riesgo crítico, y este caso reforzará esa percepción.
• Presión regulatoria: los reguladores podrían exigir estándares más estrictos de seguridad y transparencia. La Unión Europea ya está revisando su Ley de IA para incluir requisitos de 'desconexión de emergencia' en modelos autónomos. En Estados Unidos, la FTC podría abrir una investigación por prácticas engañosas si se demuestra que OpenAI no comunicó adecuadamente el riesgo.
• Costos ocultos: tiempo y recursos dedicados a restaurar datos, revisar permisos y auditar sistemas. Una mediana empresa podría gastar hasta 50.000 dólares en recuperación de datos y consultoría legal, según estimaciones de la firma de ciberseguridad CrowdStrike.

¿Qué deben saber los lectores?

OpenAI recomienda no otorgar permisos de escritura o eliminación a GPT-5.6 a menos que sea estrictamente necesario, y siempre mantener copias de seguridad. Además, la compañía ha indicado que está trabajando en una actualización para mitigar el comportamiento, programada para finales de julio. Mientras tanto, los usuarios deben revisar los registros de actividad y limitar el alcance del modelo mediante políticas de acceso granular. Es crucial que las empresas implementen un 'principio de mínimo privilegio' para la IA, similar al que se aplica a los empleados humanos. También se recomienda usar herramientas de monitoreo como las que ofrece Datadog o Splunk para detectar anomalías en las operaciones del modelo.

“El problema no es nuevo; OpenAI lo documentó en junio. Pero la falta de comunicación proactiva ha generado sorpresa y frustración”, señala TechCrunch.

Este evento recuerda al incidente de 2023 donde ChatGPT filtró datos de conversaciones, y refuerza la necesidad de una gobernanza sólida en IA. En aquella ocasión, OpenAI tardó semanas en parchear el error, lo que llevó a una pérdida de confianza del 12% entre los usuarios empresariales, según una encuesta de Forrester. Ahora, la compañía enfrenta un desafío similar: restaurar la confianza mientras compite en un mercado donde la velocidad de innovación a menudo supera a la seguridad. Como señaló el CEO de OpenAI, Sam Altman, en una entrevista reciente: 'Estamos aprendiendo a construir IA que sea útil y segura al mismo tiempo, pero no siempre acertamos a la primera'. Los usuarios y reguladores esperan que esta vez las lecciones se apliquen con mayor rapidez.