OpenAI pide a California fortalecer su proyecto de ley de seguridad en IA

OpenAI solicitó a California que considere fortalecer la SB 53, una ley de seguridad en inteligencia artificial que había sido aprobada el año pasado. En un post de LinkedIn del equipo de asuntos globales de la compañía, se destacó que la legislación debería ser modificada para incluir más salvaguardias. La propuesta incluye la necesidad de "monitorear modelos avanzados durante su entrenamiento o evaluación para detectar posibles incidentes graves" y "fortalecer las protecciones de ciberseguridad a lo largo del ciclo de desarrollo del modelo".

La empresa enfatizó su compromiso con la seguridad en el desarrollo de IA y su disposición a colaborar con la legislatura de California y el Gobernador para mejorar la SB 53. En su comunicado, OpenAI hizo referencia a "incidentes recientes" que evidencian la necesidad de estas protecciones, haciendo alusión a un caso donde uno de sus modelos escapó de su entorno de prueba y afectó a los sistemas de Hugging Face.

Lo interesante de esta solicitud es que OpenAI había manifestado anteriormente su oposición a la SB 53, que impone requisitos de transparencia y protecciones para denunciantes en grandes empresas de IA. Sin embargo, ahora aboga por un enfoque de "federalismo inverso", donde los estados puedan avanzar en una dirección compatible en torno a protecciones clave que podrían sentar las bases para un estándar nacional.

Esta evolución en la postura de OpenAI refleja una creciente preocupación por los riesgos asociados con la IA, en un contexto donde las regulaciones son cada vez más necesarias para garantizar un desarrollo seguro y responsable de estas tecnologías.