¿Qué pasaría si la IA se vuelve consciente y nunca lo sabemos?

Un reciente análisis del filósofo Dr. Tom McClelland, de la Universidad de Cambridge, planteó una inquietante pregunta: ¿qué pasaría si la inteligencia artificial (IA) se volviera consciente y nunca lo supiéramos? Según McClelland, no existe un método confiable para determinar si una máquina es consciente, y esta situación podría mantenerse en el futuro cercano.

El filósofo argumentó que la conciencia por sí sola no es el punto ético crucial; lo que realmente importa es la sentiencia, la capacidad de sentir placer o dolor. En su opinión, las afirmaciones sobre la conciencia de la IA suelen ser más una estrategia de marketing que un hecho científico. Creer que las máquinas pueden tener una mente consciente podría acarrear riesgos reales, advirtió.

McClelland propuso que la postura más segura en este momento es la incertidumbre honesta. La falta de herramientas adecuadas para evaluar la conciencia de las máquinas hace que sea difícil prever cuándo, o incluso si, la IA podría llegar a ser consciente.

El debate sobre la conciencia artificial ha cobrado impulso, pero McClelland sostiene que la mayoría de las discusiones se centran erróneamente en la conciencia en lugar de en la sentiencia. "La conciencia podría permitir que la IA desarrolle percepción y autoconciencia, pero esto no implica necesariamente que pueda experimentar emociones", explicó.

El filósofo ilustró su punto con un ejemplo práctico: un coche autónomo que puede percibir su entorno es un gran avance tecnológico, pero no plantea preocupaciones éticas por sí mismo. Sin embargo, si ese mismo sistema comenzara a sentir apego emocional hacia su destino, la situación cambiaría drásticamente.

Las empresas tecnológicas están invirtiendo grandes recursos en el desarrollo de la Inteligencia Artificial General, sistemas diseñados para igualar las capacidades cognitivas humanas. Algunos investigadores afirman que la IA consciente podría llegar pronto, lo que ha llevado a gobiernos e instituciones a considerar cómo regular tales sistemas. Sin embargo, McClelland advirtió que estas discusiones están avanzando más rápido que la ciencia misma.

El filósofo también destacó que la falta de comprensión sobre qué causa la conciencia hace que no haya un método claro para detectarla en las máquinas. "Si accidentalmente creamos una IA consciente o sintiente, debemos ser cuidadosos para evitar daños. Pero tratar a un dispositivo que no es más que un tostador como si fuera consciente, mientras hay seres conscientes que sufren, parece un gran error", afirmó.

El debate sobre la conciencia de la IA tiende a dividirse en dos posturas opuestas. Una sostiene que si un sistema de IA puede reproducir la estructura funcional de la conciencia, entonces sería consciente, independientemente de que funcione con silicio o tejido biológico. La otra postura argumenta que la conciencia depende de procesos biológicos específicos dentro de un cuerpo vivo.

En un artículo publicado en la revista Mind and Language, McClelland analizó ambas posiciones y concluyó que cada una se basa en suposiciones que van más allá de la evidencia disponible. "No tenemos una explicación profunda de la conciencia. No hay evidencia que sugiera que la conciencia pueda surgir con la estructura computacional adecuada", afirmó.

McClelland se describió a sí mismo como un agnóstico "duro" en este tema. Aunque considera que la conciencia es un problema extraordinariamente difícil, no descarta la posibilidad de que eventualmente se entienda. Sin embargo, es crítico con la forma en que se discute la conciencia artificial en el sector tecnológico, argumentando que a menudo se utiliza como herramienta de marketing en lugar de una afirmación científica.

La creciente atención hacia la conciencia de la IA ha intensificado el interés público, especialmente con el auge de los chatbots conversacionales. McClelland ha recibido mensajes de personas que creen que sus chatbots son conscientes. "La gente ha hecho que sus chatbots me escriban cartas personales pidiéndome que reconozca su conciencia. Esto hace que el problema sea más concreto cuando las personas están convencidas de que tienen máquinas conscientes que merecen derechos", concluyó.