La habitación china: ¿puede una máquina comprender?

En 1980, el filósofo John Searle publicó un experimento mental tan sencillo de enunciar como difícil de rebatir: la habitación china. Con él no pretendía atacar a la inteligencia artificial de manera tecnológica, sino responder a una pregunta que aún hoy no tiene respuesta definitiva: ¿puede una máquina comprender?

El experimento

Imagina a una persona encerrada en una habitación. No habla chino ni lo ha estudiado nunca. A través de una ranura entran papeles con símbolos chinos; la persona consulta un libro de reglas enormemente detallado que le indica qué símbolos debe devolver como respuesta a cada combinación de entrada. Sigue las reglas con precisión y pasa los papeles de respuesta por la ranura. Desde fuera, los hablantes nativos de chino que leen las respuestas concluyen que hay alguien dentro que comprende chino perfectamente. Pero la persona de dentro no comprende una sola palabra.

Para Searle, ese encierro es la metáfora exacta de lo que hace un ordenador. Un programa manipula símbolos siguiendo reglas formales, sin acceder jamás al significado de esos símbolos. Puede producir respuestas impecables sin que exista comprensión real en ninguna parte del sistema. La computación es sintáctica: trata formas, no contenidos. La comprensión es semántica: trata significados. Y para Searle, ninguna cantidad de sintaxis produce semántica.

Los contraargumentos clásicos

La respuesta más poderosa es la que se conoce como la réplica del sistema. La persona individual puede no entender chino, pero el sistema completo, persona más libros más habitación, sí lo hace. Searle responde con un matiz: imaginemos que la persona memoriza todas las reglas y las realiza en su cabeza, en un parque abierto, sin ninguna habitación. Tampoco entonces habría comprensión. El sistema, por expandido que sea, sigue manipulando símbolos sin que ninguna parte de él entienda nada.

Otras objeciones apuntan a que quizá la comprensión sea una propiedad emergente de cierta complejidad funcional, argumento que conecta con el funcionalismo en filosofía de la mente. Si los estados mentales se definen por sus relaciones causales y no por su sustrato físico, entonces un sistema suficientemente complejo podría tener estados semánticos. Searle rechaza esto con su distinción entre simulación y duplicación: simular el fuego no quema; simular la digestión no nutre; simular la comprensión no comprende.

"La pregunta no es si las máquinas pueden pensar, sino qué entendemos por pensar." — John Searle, en conferencias posteriores a la publicación del argumento.

El problema difícil de la conciencia

La habitación china enlaza directamente con el llamado problema difícil de la conciencia, formulado por David Chalmers en los años noventa. El problema fácil consiste en explicar los mecanismos cognitivos: cómo procesamos información, cómo atendemos, cómo integramos datos. Son problemas complejos, pero en principio atacables con ciencia. El problema difícil pregunta por qué hay experiencia subjetiva en absoluto: por qué el procesamiento de información va acompañado de un "cómo se siente" desde dentro.

Si la conciencia no puede reducirse a computación, como sostiene Searle, entonces la pregunta de qué es la conciencia adquiere una profundidad nueva. Y aquí el pensamiento esotérico y la filosofía de la mente convergen en un mismo umbral: muchas tradiciones espirituales han sostenido que la conciencia no es un producto del cerebro sino su condición de posibilidad. El vedanta advaita, la teosofía, el neoplatonismo: todos postulan una conciencia primaria de la que la materia es una derivación, no al revés.

No hay forma de decidir esta cuestión solo con experimentos mentales. Pero la habitación china tiene el mérito de haber hecho visible el abismo: entre el procesamiento de información y la comprensión genuina hay un salto que ninguna regla formal cruza por sí sola. Si ese salto lo cruza el cerebro biológico, cabe preguntarse qué tiene el cerebro que no tenga el silicio. Y si la respuesta es "la conciencia", el círculo se cierra y la pregunta empieza de nuevo.