Google DeepMind inaugura un instituto para ampliar el debate sobre la inteligencia artificial

Google y Google DeepMind anunciaron la creación del DeepMind Institute el miércoles, con el objetivo de avanzar en la conversación sobre la inteligencia artificial general (AGI). Este nuevo instituto contará con la dirección de destacados expertos como Shane Legg, cofundador de DeepMind, James Manyika, ejecutivo de Google, y Demis Hassabis, presidente de Google DeepMind, siendo Legg el editor gerente.

El instituto tiene como meta resaltar las diferentes visiones entre Google, Google DeepMind y la comunidad investigadora global en torno a la AGI. Según el comunicado, "no siempre estarán de acuerdo y probablemente cambiarán de opinión a medida que surjan más datos e información en esta rápida frontera".

La colección inaugural de cuatro ensayos aborda una variedad de temas, incluyendo políticas económicas para gestionar la posible disrupción causada por la AGI, la preservación del razonamiento modelado de forma comprensible, principios para el florecimiento humano y un marco para evaluar modelos de IA avanzados.

Uno de los ensayos, escrito por los investigadores de seguridad de DeepMind, Rohin Shah y Anca Dragan, argumenta que la disminución de la transparencia en la IA —la capacidad de verificar el razonamiento paso a paso de un modelo— no es inevitable. A medida que nuevas arquitecturas hacen que los modelos más poderosos sean más difíciles de monitorear, los autores sugieren que desarrolladores y reguladores deben enfrentar directamente los compromisos de seguridad. Esto podría implicar limitar la "profundidad de serie opaca" —la cantidad de cálculo secuencial que un modelo puede realizar sin producir un rastro de razonamiento legible— o exigir que los desarrolladores demuestren que los sistemas menos transparentes siguen siendo igualmente monitoreables.

En otro ensayo, Hassabis propone la creación de un organismo de estándares de IA de frontera liderado por EE. UU. para evaluar los modelos de IA más avanzados. Según su marco, los desarrolladores inicialmente presentarían sus modelos de forma voluntaria para revisión hasta 30 días antes de su lanzamiento. Una vez que el sistema de evaluación haya demostrado ser efectivo, pasar las pruebas podría convertirse en un requisito para implementar modelos de frontera en Estados Unidos.

Este organismo diseñaría inicialmente evaluaciones en consulta con empresas de IA, pero eventualmente desarrollaría evaluaciones independientes y no divulgadas —lo que el ensayo denomina pruebas "reservadas"— para evitar que los laboratorios adapten sus modelos a evaluaciones conocidas. Hassabis afirmó que el marco podría "ajustarse si la gravedad de la situación lo exige", lo que podría incluir una desaceleración coordinada entre los desarrolladores de IA de frontera.

Los ensayos llegan en un momento en que el debate sobre la seguridad en la industria se desplaza de declaraciones generales de preocupación hacia propuestas concretas para la divulgación, el escrutinio externo y, si las salvaguardias no avanzan, desaceleraciones coordinadas. Este cambio se aceleró esta semana cuando líderes de la industria respaldaron elementos del llamado del CEO de Anthropic, Dario Amodei, para "racionar" el desarrollo de IA de frontera.

Temas