Microsoft advierte sobre riesgos de la IA tras críticas a Anthropic y su modelo Claude
Mustafa Suleyman cuestionó la presentación del modelo Claude como consciente y pidió más transparencia en el desarrollo de IA. Advirtió sobre las consecuencias negativas que esto podría acarrear.
FOTO: Mustafa Suleyman, responsable de Inteligencia Artificial de Microsoft.
Buenos Aires, 16 septiembre (NA) — Mustafa Suleyman, responsable de Inteligencia Artificial de Microsoft, lanzó una fuerte advertencia sobre la forma en que Anthropic entrena a su modelo Claude y sostuvo que ese enfoque podría tener consecuencias negativas para la humanidad.
Según informó la BBC y supo la Agencia Noticias Argentinas, el ejecutivo cuestionó que la compañía presente a su sistema como si pudiera tener características propias de una persona.
Suleyman señaló que Anthropic corre el riesgo de desarrollar una inteligencia artificial difícil de controlar al enseñarle conceptos vinculados con la conciencia, los deseos y la autonomía.
En ese sentido, rechazó la idea de que los sistemas actuales puedan ser conscientes y afirmó que no existen pruebas de que experimenten sentimientos, sufrimiento o preferencias propias.
El ejecutivo también cuestionó el proceso de antropomorfización —la incorporación de características humanas a los modelos de IA— y, si bien elogió al director de Anthropic, Dario Amodei, y a su equipo por su enfoque profesional, planteó que este tipo de entrenamiento puede hacer que Claude parezca tener valores o una identidad propia.
"No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente", sostuvo.
Además, Suleyman reclamó mayor transparencia sobre la manera en que las empresas desarrollan y evalúan sus modelos, junto con controles independientes sobre su comportamiento.
Como antecedente, mencionó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face y advirtió que tratar a estos sistemas como si tuvieran derechos o bienestar propios podría sumar "una capa adicional de riesgo".
La académica Wendy Hall, de la Universidad de Southampton, consideró que este es el tipo de debate que debería darse a nivel internacional.
Lectura rápida
¿Quién advirtió sobre los riesgos de la IA?
Mustafa Suleyman, de Microsoft, cuestionó el enfoque de Anthropic en el entrenamiento de su modelo Claude.
¿Qué criticó Suleyman sobre Claude?
Criticó que se presentara a Claude como si tuviera características humanas, lo que podría generar problemas.
¿Cuáles son los riesgos mencionados?
Suleyman advirtió sobre el desarrollo de una IA difícil de controlar y los peligros de la antropomorfización.
¿Qué pidió Suleyman para el desarrollo de IA?
Reclamó mayor transparencia y controles independientes en la creación y evaluación de modelos de IA.
¿Qué antecedentes mencionó Suleyman?
Se refirió a un intento de hackeo por parte de agentes de IA de OpenAI como un ejemplo de riesgos potenciales.
[Fuente: Noticias Argentinas]
