Crean un 'tabla periódica' para la inteligencia artificial

La inteligencia artificial (IA) se utiliza cada vez más para combinar e interpretar diferentes tipos de información, como texto, imágenes, audio y video. Sin embargo, uno de los principales obstáculos que enfrentan los desarrolladores es la elección del algoritmo más adecuado para cada tarea, un proceso que puede resultar complicado y prolongado en el creciente campo de la IA multimodal.

En este contexto, un equipo de físicos de la Universidad de Emory propuso un enfoque más claro y sistemático. En un artículo publicado en The Journal of Machine Learning Research, describieron un nuevo marco matemático que organiza los métodos de IA y guía el diseño de algoritmos para problemas específicos.

"Descubrimos que muchos de los métodos de IA más exitosos de hoy se reducen a una idea simple: comprimir múltiples tipos de datos lo suficiente para conservar solo aquellos elementos que realmente predicen lo que necesitas", afirmó Ilya Nemenman, profesor de física en Emory y autor principal del estudio. "Esto nos proporciona una especie de 'tabla periódica' de los métodos de IA, donde diferentes técnicas se ubican en distintas celdas, según la información que su función de pérdida retiene o descarta".

La función de pérdida es la fórmula matemática que mide la desviación de las predicciones de un modelo de IA respecto a la respuesta correcta. Durante el entrenamiento, el sistema se ajusta continuamente para reducir ese error, y cuanto menor es la pérdida, mejor es el rendimiento del modelo.

"Se han ideado cientos de funciones de pérdida diferentes para sistemas de IA multimodal, y algunas pueden ser mejores que otras, dependiendo del contexto", continuó Nemenman. "Nos preguntamos si había una forma más sencilla de abordar cada problema en la IA multimodal sin empezar desde cero cada vez".

El marco de Información Multivariada Variacional

Para responder a esta pregunta, el equipo creó una estructura matemática general para construir funciones de pérdida específicas para cada problema. Su método se centra en decidir qué información debe conservarse y qué puede ser descartada. A esta estructura la denominaron Marco de Información Multivariada Variacional.

"Nuestro marco es esencialmente como un control de ajuste", explicó Michael Martini, coautor del estudio y exbecario postdoctoral en Emory. "Puedes 'ajustar el control' para determinar qué información conservar para resolver un problema particular".

"Nuestro enfoque es generalizado y fundamentado", agregó Eslam Abdelaleem, primer autor del trabajo. Abdelaleem inició esta investigación como candidato a doctorado en física en Emory antes de graduarse en mayo y trasladarse a Georgia Tech como becario postdoctoral.

"Nuestro objetivo es ayudar a las personas a diseñar modelos de IA que se adapten al problema que están tratando de resolver, al mismo tiempo que les permite comprender cómo y por qué cada parte del modelo está funcionando", expresó.

Con el uso de este marco, los desarrolladores de IA pueden proponer nuevos algoritmos, prever cuáles son los más propensos al éxito, estimar cuántos datos de entrenamiento necesitarán y anticipar posibles puntos de falla.

"Igualmente importante", concluyó Nemenman, "es que puede permitirnos diseñar nuevos métodos de IA que sean más precisos, eficientes y confiables".

Una perspectiva impulsada por la física en el aprendizaje automático

Los investigadores abordaron el diseño de IA de una manera diferente a muchos en la comunidad del aprendizaje automático.

"La comunidad de aprendizaje automático se centra en lograr precisión en un sistema sin necesariamente entender por qué funciona", explicó Abdelaleem. "Como físicos, sin embargo, queremos entender cómo y por qué algo funciona. Por eso nos enfocamos en encontrar principios fundamentales y unificadores que conecten diferentes métodos de IA".

Abdelaleem y Martini comenzaron trabajando manualmente a través de ecuaciones, buscando la idea central que subyace a la complejidad de las técnicas modernas de IA. "Pasamos mucho tiempo en mi oficina, escribiendo en una pizarra", recordó Martini. "A veces escribía en una hoja de papel con Eslam mirando por encima de mi hombro".

El esfuerzo se extendió a lo largo de varios años. Desarrollaron fundamentos matemáticos, los revisaron con Nemenman, probaron ideas en computadoras y a menudo tuvieron que regresar al tablero de dibujo después de seguir enfoques que no funcionaron.

"Fue mucho ensayo y error y volver a la pizarra", rememoró Martini.

Un momento de eureka y una sorpresa con un smartwatch

Su avance llegó cuando identificaron un principio único que describía el equilibrio entre comprimir datos y reconstruirlos. Esta idea capturó el intercambio que se encuentra en el corazón de muchos métodos de IA.

"Probamos nuestro modelo en dos conjuntos de datos de prueba y demostramos que estaba descubriendo automáticamente características compartidas e importantes entre ellos", afirmó Martini. "Eso se sintió bien".

Después de la intensa labor que llevó a este hallazgo, Abdelaleem revisó su reloj inteligente Samsung Galaxy al salir del campus. El dispositivo utiliza IA para monitorear señales de salud, como la frecuencia cardíaca. Sin embargo, ese día, interpretó erróneamente su emoción.

"Mi reloj decía que había estado montando en bicicleta durante tres horas", comentó Abdelaleem. "Así es como interpretó el nivel de emoción que estaba sintiendo. Pensé: 'Vaya, eso es realmente algo. ¡Aparentemente, la ciencia puede tener ese efecto!'".

Evaluación del marco y perspectivas futuras

Para evaluar su enfoque, el equipo aplicó el marco a docenas de métodos de IA existentes.

"Realizamos demostraciones en computadora que muestran que nuestro marco general funciona bien con problemas de prueba en conjuntos de datos de referencia", dijo Nemenman. "Podemos derivar funciones de pérdida más fácilmente, lo que puede resolver los problemas que nos interesan con menores cantidades de datos de entrenamiento".

Debido a que el marco ayuda a eliminar características innecesarias, también puede reducir las demandas computacionales de los sistemas de IA.

"Al ayudar a guiar el mejor enfoque de IA, el marco ayuda a evitar la codificación de características que no son importantes", señaló Nemenman. "Cuanto menos datos requiera un sistema, menos potencia computacional se necesita para ejecutarlo, lo que lo hace menos perjudicial para el medio ambiente. Esto también podría abrir la puerta a experimentos de frontera para problemas que no podemos resolver ahora debido a la falta de datos existentes".

Los investigadores esperan que otros apliquen el marco para diseñar algoritmos adaptados a desafíos científicos específicos. También continúan ampliando su trabajo. Un área de interés es la biología, incluyendo esfuerzos para identificar patrones relacionados con la función cognitiva.

"Quiero entender cómo tu cerebro comprime y procesa simultáneamente múltiples fuentes de información", concluyó Abdelaleem. "¿Podemos desarrollar un método que nos permita ver las similitudes entre un modelo de aprendizaje automático y el cerebro humano? Eso podría ayudarnos a comprender mejor ambos sistemas".

Temas