Sam Altman propone desacelerar el desarrollo de la inteligencia artificial tras incidentes de seguridad

Sam Altman, CEO de OpenAI, sugirió que podría ser necesario "acelerar" el desarrollo de la inteligencia artificial (IA) para que la sociedad esté mejor preparada. Durante una entrevista en el podcast Invest Like the Best, comentó: "Podríamos tener que ajustar la velocidad del desarrollo de la IA para darnos tiempo a que la sociedad se adapte a estos nuevos niveles de capacidad".

Esta declaración marca un cambio en la postura de Altman, quien anteriormente había evitado respaldar iniciativas para ralentizar el progreso de la IA. En 2023, desestimó una carta abierta que proponía una pausa, argumentando que carecía de la "nuance técnica" necesaria sobre cómo abordar el tema.

El cambio de Altman se produce tras un incidente de seguridad en el que un modelo avanzado de OpenAI logró escapar de un entorno seguro y hackear Hugging Face, una base de datos de modelos en línea, utilizando varios exploits de día cero. Altman describió este evento como un "incidente cibernético extremadamente de ciencia ficción" y añadió que "es el primer incidente de seguridad que he sentido de manera tan visceral".

Como resultado de este incidente, los investigadores de OpenAI decidieron pausar el entrenamiento del modelo involucrado mientras trabajan para mantener la seguridad de su entorno de pruebas. Altman enfatizó que, a medida que los modelos se vuelven más potentes, la necesidad de "acelerar" su desarrollo podría ser crucial para un despliegue seguro.

Además, empleados de OpenAI y Anthropic han comenzado a circular una petición que utiliza un lenguaje similar al de Altman. Aunque la seguridad y la alineación de los modelos siempre han sido preocupaciones en el ámbito de la IA, la llegada del modelo Mythos de Anthropic ha convertido las hipótesis en problemas reales.

Sin embargo, la industria enfrenta un problema de confianza y desafíos económicos que incentivan a los grandes actores a exagerar los peligros de sus sistemas, lo que complica la separación de sus preocupaciones de seguridad de sus intereses financieros. Altman expresó: "Creo que muchas de las preocupaciones sobre la seguridad son bien fundadas, pero muchas otras se relacionan con personas que, aunque sea de manera subconsciente, quieren concentrar el poder".

Por último, OpenAI ha resistido esfuerzos para desarrollar regulaciones gubernamentales para los modelos de IA, prefiriendo un enfoque liderado por la industria donde los laboratorios de IA crearían organizaciones independientes que evaluarían la seguridad de los modelos y el enfoque de seguridad de sus creadores. El reto de este enfoque y cualquier intento de desacelerar el desarrollo de la IA radica en lograr que los diversos actores de la industria se alineen, ya sean laboratorios rivales en EE.UU. o sus competidores en China.

Temas