La premisa errónea de Alan Turing sobre la inteligencia artificial podría haber llevado a un callejón sin salida

Las ideas de Alan Turing sobre la inteligencia artificial (IA) pueden haber dirigido la investigación en este campo por un camino equivocado durante los últimos 75 años, según el destacado científico en computación Peter J. Denning. En su nuevo libro, Turing's Mistake: Escaping the Yoke of Unintelligent Machines, Denning argumenta que dos suposiciones fundamentales hechas por Turing en 1950 continúan moldeando la investigación en IA hoy en día.

La primera suposición establece que la inteligencia puede existir independientemente de un cuerpo físico y, por lo tanto, puede ser recreada en software. La segunda, que una máquina puede demostrar inteligencia al imitar con éxito a un humano en una conversación, es la base del conocido test de Turing.

Denning afirma: "Estas dos afirmaciones han moldeado gran parte de la investigación y el desarrollo de la IA. Mi premisa es que nuestra aceptación de estas afirmaciones ha llevado al desorden de IA en el que nos encontramos hoy".

El científico advierte que la búsqueda de la inteligencia general artificial (AGI), o máquinas con inteligencia a nivel humano, es poco probable que tenga éxito. En cambio, señala que las tecnologías que se están desarrollando podrían introducir riesgos significativos.

El Problema del Conocimiento Tácito

En el centro del argumento de Denning se encuentra la noción de conocimiento tácito, que se refiere a la vasta cantidad de entendimiento humano que no puede ser fácilmente expresado con palabras o representado de una manera que las computadoras puedan procesar. Denning sostiene que el aprendizaje automático no puede captar cinco categorías principales de conocimiento tácito: sentido común, interacciones cotidianas con las personas y el entorno, emociones y percepción, habilidades de desempeño práctico, y el conocimiento social e histórico que está incrustado en la cultura.

A lo largo de los años, los investigadores han intentado organizar el sentido común en bases de datos. Uno de los esfuerzos más conocidos fue el proyecto Cyc, iniciado en la década de 1980 con el objetivo de crear una extensa colección de hechos de sentido común. Tras cuatro décadas de trabajo, el proyecto contenía aproximadamente 25 millones de entradas.

Sin embargo, Denning señala: "Incluso este tesoro no pudo sumar un trasfondo de sentido común suficiente para que los sistemas expertos fueran lo suficientemente inteligentes como para ser expertos. Cyc validó que gran parte del conocimiento que hace a las personas expertas no puede ser articulado como proposiciones".

Denning considera que las habilidades prácticas presentan un desafío aún mayor. "Nuestras habilidades de desempeño en miles de dominios no pueden ser comunicadas a las máquinas. Mientras que las descripciones de resultados hábiles ('saber qué') pueden ser representadas como bits y almacenadas en una máquina, no sabemos cómo codificar el conocimiento incorporado para un desempeño hábil ('saber cómo')".

Un ejemplo que utiliza es el de los músicos consumados. "Un violinista virtuoso puede tocar música hermosa, pero no puede describir a un aprendiz cómo producirla".

Denning también menciona que, incluso si un robot pudiera observar e imitar a humanos hábiles, careciendo de un cuerpo biológico, no podría comprender cómo se siente el músico al tocar música hermosa o cómo se siente el público al escucharla.

Denning incluye la intuición, las corazonadas, la imaginación y la creatividad espontánea entre las formas de conocimiento tácito que permanecen fuera del alcance de las máquinas.

Por qué el conocimiento humano resiste la codificación

Denning sostiene que todas estas limitaciones derivan de lo que él llama el problema de representación. Las computadoras solo pueden realizar cálculos utilizando datos e instrucciones que han sido codificados en formas físicas que pueden reconocer y procesar. Sin embargo, el conocimiento tácito no encaja naturalmente en ese marco.

"Detrás de cada palabra hay un profundo pozo de conocimiento tácito que le da significado", explica Denning. "Las palabras son solo representaciones simbólicas de significados, no los significados en sí mismos. Los modelos de lenguaje grandes, como ChatGPT, Claude y Gemini, solo manipulan palabras; no pueden conocer ni entender el significado de lo que están diciendo".

Según Denning, esto crea una división fundamental. Dado que los científicos aún no pueden explicar completamente cómo funciona el conocimiento tácito en los humanos, tampoco pueden traducirlo a una forma que las máquinas puedan utilizar.

Denning admite: "Cómo albergamos el conocimiento tácito es en gran medida un misterio. Todo lo que sabemos es que está incorporado. No tenemos idea de lo que podríamos observar y medir en nuestros cuerpos para revelarlo".

El contexto y la cultura moldean la inteligencia

Denning también argumenta que la inteligencia depende en gran medida del contexto, las circunstancias que dan significado a las palabras, acciones y decisiones. El contexto permite a las personas reconocer el sarcasmo, el humor, la sinceridad y la emoción. Ayuda a determinar cuándo ser diplomático, cuándo bromear y cómo interpretar innumerables señales sociales.

"Cuando indagas sobre de dónde proviene una suposición del contexto actual, descubres que se basa en conversaciones anteriores de contextos previos. Cada una de esas, a su vez, se basa en conversaciones anteriores y sus contextos. Este patrón es interminable y fractal", explica Denning.

La cultura representa otro gran obstáculo para la IA. Denning describe la cultura como un conjunto de valores, normas, juicios, historia, comunidades, estados de ánimo e incluso relaciones de poder y cuidado.

"Las conversaciones humanas están impregnadas de suposiciones de fondo que dan significado y relevancia a las palabras que se utilizan", señala Denning. "Escalar los LLMs con redes neuronales cada vez más grandes no les permitirá adquirir el conocimiento humano incorporado que llamamos cultura. Los LLMs no alcanzarán el objetivo del test de Turing: demostrar un pensamiento de máquina indistinguible del pensamiento humano".

Seguridad de la IA y los límites de la comprensión humana

Denning concluye que los humanos y los sistemas de IA pueden desarrollar formas diferentes de conocimiento tácito que ninguno puede comprender completamente. "Las máquinas no pueden leer nuestro conocimiento tácito y nosotros no podemos leer el suyo", escribe. "Somos alienígenas a través de una brecha intransitable".

Argumenta que esta brecha plantea serias preocupaciones sobre la seguridad de la IA. Si las máquinas no pueden interpretar el contexto no verbal detrás de las intenciones humanas, alinear de manera confiable los sistemas avanzados de IA con los objetivos humanos puede resultar imposible.

"A través de la automatización de la IA, las redes de máquinas podrían desarrollar su propia inteligencia de máquina que no alcanza el nivel de inteligencia general humana, pero que aún es capaz de crear problemas graves para los humanos. Esta amenaza es mayor que la de un posible dominio por parte de máquinas superinteligentes", explica.

"La inteligencia de máquina tiene preocupaciones diferentes a las nuestras y no parece preocuparse por nosotros. Sus formas de pensar y resolver problemas parecen ajenas a nosotros. Aún no sabemos cómo vivir de manera segura con estas máquinas. Retroceder de una singularidad de automatización de IA exigirá mucho de nosotros. Comenzamos aceptando que la cultura familiar se está desvaneciendo a medida que las máquinas inteligentes aparecen en nuestra sociedad y no sabemos qué viene. Nos negamos a pensar como máquinas o a ser sumisos a ellas. Reafirmamos nuestra humanidad, declaramos una vez más lo que nos hace diferentes de las máquinas y celebramos esas diferencias.

Temas