Dario Amodei de Anthropic habla sobre el temor a la inteligencia artificial china y los modelos abiertos

Dario Amodei, fundador y CEO de Anthropic, realizó declaraciones el pasado lunes sobre la creciente preocupación en la industria respecto a los modelos de inteligencia artificial (AI) abiertos y la capacidad de China en este campo. En su publicación, Amodei aclaró que Anthropic nunca ha abogado por la prohibición de modelos de pesos abiertos, enfatizando que considera estas restricciones como poco útiles.

Su respuesta se dio tras un pronunciamiento de Jensen Huang, CEO de Nvidia, quien publicó en la red social X una carta abierta firmada por varias empresas de AI, incluyendo Meta y Microsoft, instando a los legisladores a evitar restricciones prematuras sobre los modelos de AI abiertos. Aunque la carta no mencionó a China directamente, el debate en la industria ha girado en torno a las acusaciones de que laboratorios de AI chinos están mejorando sus capacidades mediante el robo de propiedad intelectual de sus contrapartes estadounidenses.

Amodei argumentó que los modelos de pesos abiertos que no poseen capacidades peligrosas son un bien público, ya que no tienen costo más allá del cómputo necesario para ejecutarlos, y aportan valor a empresas, desarrolladores e investigadores. Sin embargo, también expresó su preocupación por el uso de la AI por parte de gobiernos autoritarios, que podrían desarrollar modelos más poderosos para lograr superioridad militar permanente y reprimir a su propia población. Afirmó que el Partido Comunista Chino no es el único gobierno autoritario que le preocupa, pero sí es el más capaz.

En su publicación, Amodei mencionó que apoya los esfuerzos para crear una organización de pruebas de seguridad de modelos, siempre que a nivel global, incluido China, haya un acuerdo para someterse a estas evaluaciones. Este enfoque, según él, podría facilitar la cooperación en la prevención de armas biológicas impulsadas por AI, un tema que considera de interés para China también.

Amodei también destacó que las acciones que podrían limitar la capacidad de China en este ámbito incluyen restringir su acceso a chips potentes y formalizar un endurecimiento contra el uso de la destilación, una técnica que permite a un modelo de AI aprender de otro a través de la generación de prompts. Este tipo de preocupaciones se enmarcan en un contexto más amplio, donde el gobierno de EE.UU. ha amenazado con sanciones a China si se determina que hay robo de propiedad intelectual relacionado con modelos estadounidenses.

En conclusión, las declaraciones de Amodei subrayan la complejidad del debate sobre la regulación de la inteligencia artificial y la necesidad de un enfoque equilibrado que considere tanto la innovación como los riesgos potenciales asociados con el uso indebido de esta tecnología.