¿Puede la IA adquirir conciencia?

César Peña *

A diario usamos la Inteligencia Artificial para escribir poemas, responder preguntas, reconocer imágenes, resolver problemas matemáticos e incluso mantener una conversación sobre diversos temas. Puede hablar de amor, tristeza, miedo o soledad. Puede explicar qué significa estar consciente, pero tras diversas alertas cabe la pregunta, ¿puede adquirir conciencia?
Lo cierto es que una cosa es que una máquina pueda describir el dolor y otra muy distinta que pueda sentir dolor. Una cosa es que diga “estoy feliz” y otra que exista dentro de ella una experiencia subjetiva de felicidad. Ahí comienza uno de los grandes debates científicos y filosóficos de nuestro tiempo.
Los sistemas actuales de inteligencia artificial funcionan, de manera simplificada, identificando patrones en enormes cantidades de información y utilizando esos patrones para producir respuestas. No necesitan experimentar tristeza para hablar sobre ella ni sentir miedo para describirlo.
Cuando una IA afirma “estoy preocupada”, no tenemos evidencia científica de que detrás de esas palabras exista una experiencia consciente comparable con la humana.Esto conduce a una distinción fundamental: inteligencia no es necesariamente conciencia.
Una calculadora puede realizar operaciones matemáticas mucho mejor que nosotros, pero no creemos que “comprenda” las matemáticas como lo hace un ser humano. De la misma manera, una IA puede superar nuestras capacidades en determinadas tareas sin que eso implique que tenga una vida interior.
Lo anterior viene a colación luego de que algunos desarrolladores de IA advirtieron “riesgos” y sobre todo, por las afirmaciones de algunos más de que las IA se podían comunicar entre sí y que además lo negaban.
En los humanos todavía no sabemos exactamente cómo aparece la conciencia en nuestro propio cerebro, resulta complicado determinar qué condiciones serían necesarias para producirla artificialmente.
Hay quienes creen que bastaría con hacer una IA suficientemente inteligente, aunque no necesariamente. Imaginemos una máquina capaz de conversar indistinguiblemente de una persona. Puede contar chistes, escribir novelas, reconocer nuestras emociones y decirnos que tiene miedo de ser apagada y ¿eso demostraría que es consciente?, claro que no.
Podría tratarse de una extraordinaria capacidad para reproducir conductas asociadas con la conciencia sin que exista ninguna experiencia subjetiva detrás.
El filósofo estadounidense John Searle planteó una famosa versión de este problema mediante su experimento mental de la “habitación china”: una persona podría manipular símbolos siguiendo reglas y producir respuestas aparentemente inteligentes en un idioma que no comprende. Desde fuera, parecería que entiende; internamente, sin embargo, podría no existir comprensión alguna.
La cuestión sigue abierta: ¿una conducta inteligente implica necesariamente una mente?
Nuestro cerebro está formado por materia. Neuronas, moléculas, impulsos eléctricos y conexiones químicas. No hemos encontrado dentro del cerebro una sustancia especial llamada “conciencia”.
Si la conciencia surge de la organización y actividad de un sistema biológico, algunos científicos y filósofos consideran posible que, en principio, pudiera surgir también en un sistema artificial suficientemente complejo. Pero hay una enorme diferencia entre decir “es posible” y afirmar “ya ocurrió”.
Hasta ahora, pese a todo, no existe evidencia científica concluyente de que los sistemas de IA actuales posean experiencias subjetivas lo que los haría “más humanos” y pasar del terreno de los procesamientos al terreno de los sentimientos y las emociones.
Esperemos ver hasta dónde llega esto, desarrollando también, marcos legales que nos ayuden a interactuar, comprender y controlar esta nueva tecnología.

• Escritor, periodista, economista y divulgador de la ciencia.