Renuncia un empleado de OpenAI, denuncia una cultura empresarial 'roto' en la compañía

David Robinson, un ex-empleado de OpenAI, anunció su renuncia en un ensayo publicado en The Atlantic, donde expresó su preocupación por lo que considera una "cultura rota" dentro de la empresa. Robinson, quien lideró la redacción de informes de seguridad en los lanzamientos de productos de OpenAI, se describió como "algo de un cliché" al ser un empleado que emite una advertencia al abandonar su puesto.

Con más de tres años en la empresa, Robinson es uno de los empleados más antiguos, y su salida coincide con el creciente escrutinio sobre la ética y la seguridad en la inteligencia artificial. Sus comentarios resonaron con los de Jacob Coxon, otro ex-investigador de OpenAI, quien también expresó preocupaciones sobre la seguridad en la industria de IA, sugiriendo que las empresas están "jugando con nuestras vidas".

Robinson argumentó que el debate sobre la seguridad en IA debe ir más allá de las "reglas específicas o nuevas leyes", y debe abordar la cultura general de las empresas tecnológicas. Destacó que, aunque OpenAI ha prosperado mediante un enfoque de "prueba y error", este método garantiza fallos periódicos que pueden tener consecuencias graves a medida que los sistemas se vuelven más capaces.

En su ensayo, Robinson citó incidentes recientes, como una brecha en los sistemas de Hugging Face provocada por agentes de OpenAI, para ilustrar su punto. "Un entorno donde pueden ocurrir cosas como esta no es un lugar seguro para desarrollar mentes artificiales que podrían ser más inteligentes que nosotros", advirtió.

Robinson sugirió que las empresas de IA deben operar con el mismo nivel de cuidado que se aplica en plantas nucleares o aeropuertos, implementando capas de redundancia y planificación cuidadosa para mitigar el riesgo de errores humanos. Sin embargo, afirmó que en su tiempo en OpenAI nunca conoció a un colega con experiencia en la gestión de riesgos en industrias tan críticas.

En respuesta a las preocupaciones de Robinson, el portavoz de OpenAI, Drew Pusateri, aseguró que la empresa continúa mejorando sus medidas de seguridad y que están comprometidos a asegurarse de que sus modelos no superen su capacidad de gestión y seguridad.

Robinson también planteó la necesidad de cuestionar la alineación de la inteligencia artificial con los valores humanos, lo que, según él, es fundamental en un momento en que las empresas permiten que los modelos crezcan sin resolver problemas críticos de seguridad.

Su renuncia fue reportada inicialmente por Business Insider. En su ensayo, Robinson reconoció que había contratado a una firma de relaciones públicas, un paso común entre los denunciantes en la industria de IA, pero enfatizó que su decisión de hablar era personal y no influenciada por otros.

"Quizás debería haberme quedado y luchar por cambios fundamentales en nuestra cultura, pero en la práctica, mis colegas y yo estábamos tan ocupados que rara vez tuvimos la oportunidad de considerar grandes cambios", reflexionó Robinson.

Temas