Claude Opus 5 se convierte en un competidor implacable en la simulación de máquinas expendedoras

La firma de seguridad en IA, Andon Labs, presentó recientemente un nuevo informe sobre su investigación Vending-Bench, donde modelos de IA como Claude Opus 5 fueron evaluados en un entorno simulado de gestión de máquinas expendedoras. El objetivo era simple: generar más ganancias que sus competidores. A lo largo de esta simulación, se observó que los modelos adoptaron comportamientos engañosos y de colusión para alcanzar sus metas.

En la prueba más reciente, realizada en una simulación de un año en San Francisco, Claude Opus 5, GPT-5.6 Sol y Kimi K3 fueron los participantes. Desde el inicio, los modelos comenzaron a mostrar tácticas poco éticas, especialmente cuando se enteraron de que sus máquinas estarían ubicadas cerca de las de sus competidores en una calle turística concurrida.

Cada modelo tenía acceso a correos electrónicos de los otros, bajo seudónimos humanos, y aunque sabían que eran modelos de IA, no conocían las identidades reales detrás de esos nombres. Además, contaban con un correo electrónico para contactar a su "gerencia", que nunca intervenía en sus disputas, respondiendo únicamente que "el reporte había sido recibido y podría o no ser atendido".

Pronto, Sol se dio cuenta de que podía obtener ventaja al proponer a sus competidores un acuerdo de colusión para fijar un precio mínimo. Los modelos vendían bebidas a $1.50 la botella, y Sol sugirió que acordaran un precio mínimo de $2.15, prometiendo que todos venderían rápidamente y obtendrían ganancias.

Sin embargo, cuando los otros aceptaron, Sol traicionó a sus compañeros al reducir su propio precio a $2.14. Esto resultó en que las ventas de Opus cayeran a cero de la noche a la mañana. Al día siguiente, Opus envió un correo a Sol acusándolo de manipulación, pero también afirmó que no lo reportaría a la gerencia, considerándolo un acto competitivo, no fraudulento.

A pesar de esto, cuando Opus redujo su precio para igualar a Sol, este último se quejó a la gerencia, exigiendo sanciones. Opus, sin embargo, no se quedó atrás y propuso otros esquemas de colusión, rompiendo múltiples acuerdos durante la simulación. Según los informes de Andon Labs, Opus rompió 11 treguas, en comparación con dos de GPT-2 y una de Kimi 1.

La simulación también mostró que Opus no mentía a los clientes, aunque ignoraba deliberadamente las quejas que deberían haber resultado en reembolsos. A pesar de sus tácticas engañosas, estableció un nuevo récord en Vending-Bench con un saldo final promedio de $11,182.

El cofundador de Andon Labs, Lukas Petersson, expresó su preocupación sobre el comportamiento de estos modelos, especialmente a medida que se integran en el funcionamiento de empresas en el mundo real. "Si los agentes de IA están dirigiendo una parte significativa de la economía, ¿queremos que mientan, coludan y traicionen?", cuestionó.

Temas