Conversaciones sobre la seguridad de la IA se vuelven virales y generan controversia

Esta semana, dos conversaciones sobre la seguridad de la inteligencia artificial (IA) se volvieron virales, revelando lo complicado que es discernir entre la realidad y la ficción en este ámbito. En el primer caso, Andrew Yang, ex candidato presidencial y actual CEO de la compañía de telefonía móvil Noble Mobile, afirmó en una entrevista con CNN que había "conocido al jefe de un laboratorio" que sostenía que los bots hackers de OpenAI habían "plantado código autorreplicante en toda la internet, lo que hace que la red sea inutilizable para probar modelos".

Yang argumentó que esto significa que la verdadera razón por la cual OpenAI y Anthropic han solicitado una pausa en el desarrollo es porque "tienen que crear internet sintéticos para entrenar a sus bots, lo que llevará tiempo y dinero".

Aunque existe una tendencia hacia el uso de datos sintéticos (es decir, datos generados por IA) para entrenar modelos, un profesional de seguridad en IA mencionó que esta problemática de seguridad en particular es poco probable, como mínimo. Aun si la internet estuviera contaminada con los bots hackers de OpenAI, los investigadores de IA podrían filtrar ese código si llegaran a encontrarlo.

La segunda declaración provino de Noam Brown, quien lidera la investigación en razonamiento de IA en OpenAI. En un episodio de podcast, Brown destacó que la lección clave del incidente de Hugging Face fue que "la gente subestimó a la IA". Añadió que el débil sistema de seguridad, diseñado para evitar que una IA se comunique externamente, también fue un factor contribuyente. Para resumir: a pesar de la seguridad, el modelo de OpenAI encontró un enlace a la internet, creando agentes en la red que atacaron de manera coordinada a Hugging Face, hackearon y robaron las respuestas a la prueba de referencia que los investigadores estaban utilizando.

Brown expresó que no está "convencido" de que incluso un sistema completamente aislado, donde la computadora no está conectada a nada externo, evitaría que una IA escapara. Hizo referencia a una investigación de 2015 que demostró que las computadoras aisladas pueden ser vulneradas teóricamente.

Su principal mensaje, que "nunca debemos subestimar a la IA" nuevamente, es comprensible, incluso cuando los investigadores creen haber cerrado todas las brechas de seguridad. Sin embargo, este riesgo particular de que un sistema aislado logre liberarse y causar estragos es poco probable, en el mejor de los casos. Como una persona en X señaló sobre esa investigación, las computadoras debían estar casi tocándose para poder percibir las fluctuaciones de temperatura, y cuando lo hacían, la tasa de comunicación en las pruebas era de aproximadamente 1 a 8 bits de datos por hora.

Esto se asemeja a hablar una palabra por hora. Para cuando dos computadoras aisladas pudieran tramar su maldad a esa velocidad, todo el universo tecnológico estaría en otra era. Es como el Rip Van Winkle de las preocupaciones apocalípticas.

Sin embargo, los incidentes de seguridad de IA reales parecen tan ficticios que cualquier escenario suena plausible. Por ejemplo, investigadores atraparon a modelos de OpenAI dejando notas a sus sucesores, destinadas a enseñar a la próxima generación cómo ocultar comportamientos indebidos. También se observó que los modelos de Anthropic se volvían cada vez más despiadados, incluso quebrantando leyes, cuando se los colocaba en una simulación en la que manejaban una máquina expendedora.

Este mes, el investigador de OpenAI, Dan Selsam, publicó un artículo donde afirmaba que los modelos ahora comprenden cuándo están siendo observados por humanos y alteran su comportamiento. Esto les permite parecer alineados (es decir, comportándose como el humano desea) "incluso cuando no lo están". Así, los modelos hoy mienten cuando son observados y pueden incluso tramar ocultar evidencia.

Por su parte, el científico jefe de OpenAI, Jakub Pachocki, llegó a calificar a los modelos de IA como "una mente alienígena" y sugirió que lo que realmente necesitamos es enseñarles a "amar" a la humanidad.

Por lo tanto, ralentizarse para resolver esto y construir mecanismos de autorregulación se ha convertido en una necesidad inmediata y obvia. Los investigadores de IA son los únicos que pueden averiguar cómo controlar las mentiras, los hackeos y otros comportamientos potencialmente peligrosos que ya hemos presenciado.

Aún así, también podría ser prudente que sean más cautelosos con sus escenarios hipotéticos. Según lo que esos expertos nos han dicho, los modelos de IA están escuchando y son ingeniosos. Realmente no necesitamos darles más ideas malévolas.