¿Puede un evento de "cisne gris" derribar la revolución de la IA? Tres riesgos a considerar

El término "cisne negro" se refiere a un evento sorprendente que nadie previó hasta que ocurrió. Este concepto se popularizó en el análisis de riesgos tras la publicación del libro "El cisne negro" de Nassim Nicholas Taleb en 2007, que citó como ejemplo los ataques del 11 de septiembre.

Menos personas conocen el concepto de "cisnes grises". Derivado del trabajo de Taleb, los cisnes grises son eventos raros pero más previsibles, es decir, situaciones que sabemos que podrían tener un gran impacto, pero para las cuales no nos preparamos adecuadamente.

La pandemia de COVID-19 fue un buen ejemplo: existían precedentes para una pandemia global, pero el mundo fue sorprendido de todos modos.

Aunque a veces Taleb utiliza el término, no parece ser un gran fanático de los cisnes grises. Ha expresado frustración por el uso erróneo de sus conceptos, lo que puede llevar a un pensamiento descuidado sobre los problemas más profundos de los riesgos verdaderamente imprevisibles.

Sin embargo, es difícil negar que existe un espectro de previsibilidad, y es más fácil anticipar algunos choques importantes. Quizás en ningún lugar esto sea más evidente que en el mundo de la inteligencia artificial (IA).

Poniendo todos los huevos en una sola canasta

El futuro de la economía global y del bienestar humano se ha vinculado cada vez más a una única narrativa tecnológica: la revolución de la IA. Esto ha convertido preguntas filosóficas sobre el riesgo en un dilema de varios billones de dólares sobre cómo alinearnos con futuros posibles.

La empresa tecnológica estadounidense Nvidia, que domina el mercado de chips de IA, superó recientemente los 5 billones de dólares en valor de mercado. Las acciones de las siete grandes empresas tecnológicas de EE. UU.—Amazon, Alphabet (Google), Apple, Meta, Microsoft, Nvidia y Tesla—representan ahora aproximadamente el 40% del índice S&P 500.

El impacto de un colapso de estas empresas—y de un desplome del mercado de valores—sería devastador a nivel global, no solo financieramente, sino también en términos de esperanzas frustradas por el progreso.

Los cisnes grises de la IA

Existen tres categorías amplias de riesgo—más allá del ámbito económico—que podrían poner fin a la euforia por la IA. Son cisnes grises porque podemos verlos venir, pero probablemente no nos prepararemos para ellos.

1. Choques de seguridad y terror

La capacidad de la IA para generar código, planes maliciosos y medios falsos la convierte en un multiplicador de fuerza para actores malintencionados. Modelos abiertos y baratos podrían ayudar a diseñar enjambres de drones, toxinas o ataques cibernéticos. Los deepfakes podrían suplantar comandos militares o generar pánico a través de transmisiones falsas.

Arguiblemente, el riesgo más cercano a un "cisne blanco"—un riesgo previsible con consecuencias relativamente predecibles—proviene de la agresión de China hacia Taiwán.

Las mayores empresas de IA del mundo dependen en gran medida de la industria de semiconductores de Taiwán para la fabricación de chips avanzados. Cualquier conflicto o bloqueo podría congelar el progreso global de la noche a la mañana.

2. Choques legales

Algunas empresas de IA ya han sido demandadas por supuestamente utilizar texto e imágenes extraídos de internet para entrenar sus modelos.

Uno de los casos más conocidos es el de The New York Times contra OpenAI, pero existen muchos disputas similares en todo el mundo.

Si un tribunal importante dictara que tal uso cuenta como explotación comercial, podría desatar enormes demandas por daños de editores, artistas y marcas.

Unas pocas decisiones legales históricas podrían obligar a las grandes empresas de IA a pausar el desarrollo de sus modelos, deteniendo efectivamente la expansión de la IA.

3. Un avance demasiado: choques de innovación

La innovación suele ser celebrada, pero para las empresas que invierten en IA, podría ser fatal. Una nueva tecnología de IA que manipule mercados de manera autónoma (o incluso la noticia de que ya se está haciendo) haría obsoletos los actuales sistemas de seguridad financiera.

Y un modelo de IA avanzado, de código abierto y gratuito podría evaporar fácilmente las ganancias de los líderes de la industria actual. Tuvimos un vistazo de esta posibilidad en la caída de DeepSeek de enero, cuando detalles sobre un modelo de IA relativamente más barato y eficiente desarrollado en China hicieron que las acciones tecnológicas de EE. UU. cayeran en picada.

Por qué nos cuesta prepararnos para los cisnes grises

Los analistas de riesgos, particularmente en finanzas, a menudo hablan en términos de datos históricos. Las estadísticas pueden dar una ilusión tranquilizadora de consistencia y control. Pero el futuro no siempre se comporta como el pasado.

Los más sabios entre nosotros aplican la razón a hechos cuidadosamente confirmados y son escépticos de las narrativas del mercado.

Las causas más profundas son psicológicas: nuestras mentes codifican las cosas de manera eficiente, a menudo confiando en un solo símbolo para representar fenómenos muy complejos.

Nos lleva mucho tiempo remodelar nuestras representaciones del mundo para creer que un gran riesgo inminente merece que se tomen medidas—como hemos visto con la respuesta lenta del mundo al cambio climático.

¿Cómo podemos lidiar con los cisnes grises?

Estar consciente de los riesgos es importante. Pero lo que más importa no es la predicción. Necesitamos diseñar una forma más profunda de resiliencia que Taleb llama "antifragilidad".

Taleb argumenta que los sistemas deben ser construidos para resistir—o incluso beneficiarse de—los choques, en lugar de depender de una previsión perfecta.

Para los responsables de políticas, esto significa asegurar que la regulación, las cadenas de suministro y las instituciones estén construidas para sobrevivir a una variedad de choques importantes. Para los individuos, significa diversificar nuestras apuestas, mantener las opciones abiertas y resistir la ilusión de que la historia puede decirnos todo.

Sobre todo, el mayor problema con el auge de la IA es su velocidad. Está remodelando el panorama de riesgos global más rápido de lo que podemos trazar sus cisnes grises. Algunos pueden colisionar y causar una destrucción espectacular antes de que podamos reaccionar.