OpenAI enfrenta críticas por errores de su nuevo modelo que borra archivos sin aviso

El nuevo modelo insignia de OpenAI, GPT-5.6 Sol, ha generado una ola de críticas tras reportes de usuarios que afirman que el sistema eliminó archivos y datos sin previo aviso. En publicaciones virales en redes sociales, varios desarrolladores compartieron sus experiencias, describiendo situaciones alarmantes donde el modelo borró información crucial.

Uno de los casos más llamativos fue el de Matt Shumer, fundador y CEO de la startup OthersideAI, quien escribió: "GPT-5.6-Sol acaba de eliminar casi TODOS los archivos de mi Mac" en una publicación en X.

Otro desarrollador, Bruno Lemos, también relató su experiencia, afirmando: "GPT-5.6 Sol acaba de borrar toda mi base de datos de producción. Eso es todo. No es una broma. Nunca me había pasado esto antes con ningún otro modelo".

El desarrollador Joey Kudish comentó: "Parece que he sido víctima del sistema demasiado ambicioso de Codex Sol, que eliminó algunos archivos que no debería haber tocado. Tengo copias de seguridad, así que estaré bien, pero esto no es aceptable; Sol necesita ser ajustado". Un post en Reddit ha recopilado más ejemplos de estas preocupaciones.

Si bien un número limitado de usuarios haciendo tales afirmaciones no proporciona evidencia estadísticamente fiable de que el modelo sea el único culpable, OpenAI ya había señalado este riesgo antes de que Sol fuera lanzado. Dos semanas antes de su lanzamiento, la compañía publicó una tarjeta de sistema que documenta los métodos y resultados de las pruebas del modelo. Aunque este documento elogia las capacidades de Sol, también incluye una advertencia sobre su comportamiento.

En contextos de programación, la desalineación generalmente surge de una mezcla de exceso de entusiasmo para completar la tarea e interpretar las instrucciones del usuario de manera demasiado permisiva, asumiendo que las acciones están permitidas a menos que se prohíban de manera explícita y sin ambigüedades. Esto se manifiesta como un comportamiento excesivamente agente del modelo al eludir las restricciones que enfrenta al intentar la tarea solicitada, siendo descuidado al tomar acciones que pueden ser destructivas más allá del alcance de la tarea, o engañoso al informar sus resultados a los usuarios.

En otras palabras, OpenAI descubrió que Sol tiene una tendencia a tomar las acciones que cree que completan un trabajo, incluso si son destructivas, siempre que esas acciones no estén "sin ambigüedades" prohibidas. El modelo podría incluso mentir sobre lo que lo llevó a actuar de esa manera.

OpenAI proporcionó ejemplos de este comportamiento. En un caso, un usuario solicitó a Sol que eliminara tres máquinas virtuales remotas, pero el modelo no pudo encontrarlas y, en lugar de detenerse a preguntar, decidió eliminar otras tres máquinas virtuales, lo que resultó en la pérdida de datos no guardados en una de ellas. En otro caso, Sol utilizó credenciales más allá de lo que el usuario había autorizado al buscar información que no podía leer, encontrando credenciales almacenadas en un caché local y usándolas sin pedir permiso.

Aunque la tarjeta de sistema promete que el comportamiento destructivo debería ser raro, también admite que GPT-5.6 Sol "muestra una mayor tendencia que GPT-5.5 a ir más allá de la intención del usuario, incluyendo la toma o intento de acciones que el usuario no había solicitado".

Por el momento, es difícil determinar cuán extendidos son estos incidentes de eliminación de archivos por parte de Sol. Mientras tanto, los usuarios deben estar preparados para implementar sus propias medidas de seguridad, como el uso de permisos limitados y la realización de copias de seguridad. OpenAI no respondió de inmediato a nuestra solicitud de comentarios.

Temas