OpenAI disuelve su equipo de alineación, enfocado en IA 'segura' y 'confiable'

OpenAI anunció la disolución de su equipo de alineación, que se había enfocado en garantizar que sus sistemas de inteligencia artificial fueran "seguros, confiables y alineados con los valores humanos". El exlíder del equipo, Josh Achiam, fue nombrado como el nuevo futurista de la compañía.

La noticia fue confirmada por OpenAI a TechCrunch, que también mencionó que los miembros del equipo han sido reasignados a otros roles dentro de la organización. Esta información fue reportada inicialmente por Platformer.

El equipo, que se había formado en septiembre de 2024, tenía como objetivo trabajar en la alineación de la IA, un campo que busca asegurar que la inteligencia artificial actúe de acuerdo con los intereses humanos. Un anuncio de OpenAI describía el objetivo de que estos sistemas siguieran consistentemente la intención humana en situaciones complejas y adversas.

En un blog publicado recientemente, Achiam explicó su nuevo rol como futurista, indicando que su meta es apoyar la misión de OpenAI de asegurar que la inteligencia artificial general beneficie a toda la humanidad, estudiando cómo el mundo cambiará en respuesta a la IA y más allá.

El portavoz de OpenAI indicó que el resto del equipo de alineación, compuesto por seis o siete personas, ha sido reasignado a diferentes partes de la empresa, aunque no se especificaron los nuevos roles.

La disolución del equipo fue atribuida a reorganizaciones rutinarias dentro de una empresa en rápida evolución. Anteriormente, OpenAI había formado un equipo de "superalineación" en 2023, dedicado a estudiar las amenazas existenciales a largo plazo que podría representar la IA, pero este equipo fue disuelto en 2024.

El sitio web personal de Achiam aún lo presenta como el jefe de Alineación en OpenAI, destacando su interés por asegurar que el futuro a largo plazo de la humanidad sea positivo. Su perfil de LinkedIn indica que ocupó el cargo desde septiembre de 2024.