Accenture y Anthropic se asocian para evaluar la inteligencia artificial de manera innovadora

Accenture y Anthropic anunciaron una asociación estratégica que marcará un hito en la evaluación de modelos de inteligencia artificial. La colaboración permitirá que empleados de Accenture trabajen directamente dentro de las instalaciones de Anthropic para llevar a cabo evaluaciones rigurosas de sus modelos y procesos.

En un comunicado de prensa, Anthropic destacó que Faculty, una empresa adquirida por Accenture en enero, se encargará de "evaluar y realizar pruebas de alineación, así como verificar las salvaguardias de los modelos". Ambas compañías se comprometieron a invertir al menos $1.000 millones en este proyecto durante los próximos cinco años.

La elección de Accenture sorprendió a muchos observadores del sector de la IA. Tras el anuncio, las acciones de Accenture experimentaron un incremento del 8% en el mercado. Este enfoque hacia evaluadores embebidos surgió de un post de Dario Amodei, cofundador de Anthropic, que había despertado el interés de diversas organizaciones de investigación de seguridad en IA.

Anthropic señaló que en las próximas semanas se anunciarán más evaluadores y que están en conversaciones con organizaciones sin fines de lucro como METR para implementar elementos de evaluación embebida utilizando sus propios fondos.

Aunque Accenture no es conocida por su trabajo en la vanguardia de la investigación en aprendizaje profundo, Anthropic destacó su experiencia práctica en la implementación de IA para grandes corporaciones y agencias gubernamentales como una ventaja clave. Además, al ser una empresa pública grande, es más independiente de Anthropic y del ecosistema complejo que rodea al laboratorio de IA.

La colaboración también se produce en un contexto donde no existen estándares claros para el acceso y la comunicación de los evaluadores. Anthropic espera que su enfoque evolucione con el tiempo. A pesar de que las evaluaciones externas son una parte importante del proceso de lanzamiento de nuevos modelos de lenguaje, incidentes recientes han elevado la preocupación por la seguridad de estos sistemas.

Algunos críticos han expresado su preocupación de que el plan de Amodei para la auto-regulación de la industria de IA podría ser una forma de eludir la responsabilidad por el mal comportamiento de los modelos de IA. Sin embargo, Anthropic reafirmó que estos evaluadores no disminuyen su responsabilidad, sino que ayudan a hacerla más verificable. "La seguridad de nuestros modelos sigue siendo nuestra responsabilidad", enfatizó la empresa.

Temas