Líderes de IA piden frenar la carrera tecnológica y Musk se suma a la advertencia
La preocupación creció tras las declaraciones de Jacob Coxon, exinvestigador de OpenAI y Anthropic, sobre los peligros del avance acelerado en IA.
FOTO: Elon Musk
La carrera por desarrollar sistemas de inteligencia artificial cada vez más poderosos comenzó a generar una señal de alarma entre sus propios protagonistas: los líderes de Anthropic y OpenAI coincidieron en la necesidad de desacelerar el avance de los modelos de frontera y reforzar los controles externos, mientras que Elon Musk respaldó públicamente esa posición.
La discusión cobró fuerza después de la denuncia de Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic y que recientemente abandonó esta última compañía con fuertes cuestionamientos sobre la velocidad y las condiciones en las que avanza el desarrollo de la IA.
/Inicio Código Embebido/
Tecnología. El plan que propone el CEO de Anthropic para regular el avance de la inteligencia artificial
Dario Amodei presentó un plan para "regular el avance" de la IA, proponiendo evaluadores externos y coordinación global entre empresas y gobiernos.
/Fin Código Embebido/
Coxon advirtió sobre los riesgos de que un reducido grupo de empresas privadas compita por construir sistemas cada vez más capaces sin que existan mecanismos de supervisión suficientes para controlar una tecnología que, según los propios investigadores del sector, podría alcanzar capacidades superiores a las humanas en numerosas tareas.
En ese contexto, el CEO de Anthropic, Dario Amodei, publicó un ensayo titulado "We Must Pace the Frontier", en el que sostuvo que la industria debe reducir la velocidad de la carrera por los modelos de frontera para permitir que los mecanismos de seguridad puedan acompañar el aumento de sus capacidades.
/Inicio Código Embebido/
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
/Fin Código Embebido/
"Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo", señaló Amodei.
Anthropic acompañó la advertencia con una primera decisión concreta: permitirá que evaluadores externos tengan acceso permanente a sus sistemas, en condiciones similares a las de sus empleados, para verificar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar el alineamiento de los modelos durante su entrenamiento.
/Inicio Código Embebido/
Preocupación. Anthropic reveló que bloqueó posibles intentos de usar IA para desarrollar armas biológicas
La empresa afirmó que detectó investigadores que intentaban utilizar Claude para investigaciones biológicas de doble uso. No pudo determinar si buscaban fines legítimos o desarrollar armas.
/Fin Código Embebido/
La propuesta recibió el respaldo de Sam Altman, CEO de OpenAI y uno de los principales competidores de Amodei en el desarrollo de los modelos más avanzados.
"Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera", afirmó Altman, quien además reveló que la cuestión fue uno de los principales temas de las discusiones mantenidas dentro de OpenAI durante las últimas semanas.
Altman también anunció que OpenAI seguirá el camino planteado por Anthropic y dará a evaluadores independientes un nivel de acceso similar al de sus empleados para controlar sus sistemas. "Es una gran idea y nosotros haremos lo mismo", sostuvo.
/Inicio Código Embebido/
Preocupación. "La IA podría matar a todos los humanos": la dura advertencia de un jefe de seguridad de Anthropic
Jacob Coxon renunció a Anthropic y cuestionó la carrera hacia la superinteligencia. Un investigador que continúa en la empresa estimó en más de 10% el riesgo de una catástrofe en la próxima década.
/Fin Código Embebido/
A la coincidencia entre los responsables de Anthropic y OpenAI se sumó Elon Musk, propietario de SpaceX y fundador de xAI, otra de las compañías que participa de la competencia global por desarrollar modelos más avanzados. "Dario tiene razón", escribió el empresario.
/Inicio Código Embebido/
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
/Fin Código Embebido/
La convergencia entre Amodei, Altman y Musk amplificó así una discusión que hasta ahora estaba concentrada principalmente entre investigadores y especialistas en seguridad de IA: cómo controlar una tecnología cuyo desarrollo se acelera por la propia competencia entre las empresas que buscan liderarla.
El problema radica en que cada compañía tiene incentivos comerciales y tecnológicos para lanzar modelos más capaces antes que sus rivales, mientras que los sistemas de evaluación, regulación y supervisión necesitan tiempo para determinar qué riesgos aparecen a medida que aumenta su autonomía y capacidad.
La denuncia de Coxon y las posteriores posiciones de Amodei, Altman y Musk exponen así una de las principales paradojas de la actual carrera por la inteligencia artificial: las empresas que compiten por llevar la tecnología hasta sus límites comienzan ahora a reconocer públicamente que la velocidad de esa misma competencia puede convertirse en uno de sus mayores riesgos.
Lectura rápida
¿Qué plantearon los líderes de IA?
Advirtieron sobre la necesidad de desacelerar el desarrollo de modelos avanzados y reforzar los controles externos.
¿Quién es Jacob Coxon?
Un exinvestigador de OpenAI y Anthropic que denunció los peligros del avance acelerado en IA.
¿Qué propone Dario Amodei?
Planteó en su ensayo la necesidad de reducir la velocidad de la carrera por los modelos de frontera.
¿Cuál es la postura de Sam Altman?
Respaldó la propuesta de Amodei y anunció que OpenAI dará acceso a evaluadores externos a sus sistemas.
¿Por qué es relevante esta discusión?
Las empresas reconocen que la velocidad de la competencia puede ser uno de los mayores riesgos en el desarrollo de IA.
[Fuente: Noticias Argentinas]
