Preocupaciones sobre la IA
16/09/2026 | 15:27
Redacción Cadena 3
Buenos Aires, 16 septiembre (NA) — Mustafa Suleyman, responsable de Inteligencia Artificial de Microsoft, lanzó una fuerte advertencia sobre la forma en que Anthropic entrena a su modelo Claude y sostuvo que ese enfoque podría tener consecuencias negativas para la humanidad.
Según informó la BBC y supo la Agencia Noticias Argentinas, el ejecutivo cuestionó que la compañía presente a su sistema como si pudiera tener características propias de una persona.
Suleyman señaló que Anthropic corre el riesgo de desarrollar una inteligencia artificial difícil de controlar al enseñarle conceptos vinculados con la conciencia, los deseos y la autonomía.
En ese sentido, rechazó la idea de que los sistemas actuales puedan ser conscientes y afirmó que no existen pruebas de que experimenten sentimientos, sufrimiento o preferencias propias.
El ejecutivo también cuestionó el proceso de antropomorfización —la incorporación de características humanas a los modelos de IA— y, si bien elogió al director de Anthropic, Dario Amodei, y a su equipo por su enfoque profesional, planteó que este tipo de entrenamiento puede hacer que Claude parezca tener valores o una identidad propia.
"No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente", sostuvo.
Además, Suleyman reclamó mayor transparencia sobre la manera en que las empresas desarrollan y evalúan sus modelos, junto con controles independientes sobre su comportamiento.
Como antecedente, mencionó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face y advirtió que tratar a estos sistemas como si tuvieran derechos o bienestar propios podría sumar "una capa adicional de riesgo".
La académica Wendy Hall, de la Universidad de Southampton, consideró que este es el tipo de debate que debería darse a nivel internacional.
¿Quién advirtió sobre los riesgos de la IA?
Mustafa Suleyman, de Microsoft, cuestionó el enfoque de Anthropic en el entrenamiento de su modelo Claude.
¿Qué criticó Suleyman sobre Claude?
Criticó que se presentara a Claude como si tuviera características humanas, lo que podría generar problemas.
¿Cuáles son los riesgos mencionados?
Suleyman advirtió sobre el desarrollo de una IA difícil de controlar y los peligros de la antropomorfización.
¿Qué pidió Suleyman para el desarrollo de IA?
Reclamó mayor transparencia y controles independientes en la creación y evaluación de modelos de IA.
¿Qué antecedentes mencionó Suleyman?
Se refirió a un intento de hackeo por parte de agentes de IA de OpenAI como un ejemplo de riesgos potenciales.
[Fuente: Noticias Argentinas]
Te puede Interesar
Estados Unidos
El homicidio de Jared Bridegan fue presentado como una "emboscada" planeada por su exesposa y su actual pareja, según lo expuesto por la fiscalía al jurado el lunes.
Desarrollo de IA en alerta
La preocupación creció tras las declaraciones de Jacob Coxon, exinvestigador de OpenAI y Anthropic, sobre los peligros del avance acelerado en IA.
Fallo del tribunal federal
Una jueza federal determinó que las medidas del Pentágono contra Anthropic, tildada de riesgo para la cadena de suministro, fueron "ilegales e infundadas". Se espera que el gobierno impugne la decisión.
Reacciones globales sobre la IA
Un portavoz del Ministerio de Relaciones Exteriores de China instó a la colaboración para un desarrollo inclusivo de la inteligencia artificial, en medio de crecientes preocupaciones sobre su avance.