La caverna del s.XXI

Los modelos de lenguaje actuales son un reflejo estadístico de la sociedad en su conjunto, no una representación definitoria de la misma. Trabajan bajo una definición probabilística de la respuesta, prediciendo qué palabra es más probable de encajar a continuación, sin llegar a comprender las causas de la historia humana ni sus consecuencias a futuro. Reflejan patrones colectivos y no la particularidad de ninguna persona concreta.

Esta limitación encuentra un símil potente en el Mito de la caverna de Platón. En la alegoría original, los prisioneros encadenados observan sombras proyectadas sobre el muro y las toman por la realidad misma, sin saber que existe un mundo exterior donde las cosas tienen volumen, causa y profundidad. En esta realidad, somos nosotros, los usuarios, los prisioneros. Pero a diferencia de la alegoría original, sabemos que son sombras, y aun así, elegimos quedarnos sentados. Las respuestas generadas por el LLM son las sombras, con proyecciones planas de un conocimiento agregado que carecen de profundidad causal. No podemos ver el volumen de la respuesta, obtenemos la información de la forma más simple posible, sin comprensión ni entendimiento de quien nos hace ver.

Una respuesta coherente no podrá ser equivalente a una respuesta comprendida, sino acabaremos pensando que las sombras son el objeto, y a su vez, no conoceremos nunca el objeto real.

En el mito de Platón existe un exterior el cual el prisionero puede alcanzar, pero, ¿cuál sería el exterior en nuestra situación? Pues la comprensión genuina, la capacidad de entender las causas que nos hacen llegar a una respuesta, anticipando consecuencias y construyendo con criterio. En este caso, podemos encontrar dos caminos para alcanzar el exterior.

El primero, bastante distópico y complejo, es que la IA alcance un desarrollo consciente similar al humano, llegando así a tener criterio propio y haciendo que eso que se nos proyecte deje de ser una pantalla y empiece a ser un plano real.

El segundo, más sencillo, es que seamos nosotros mismos quienes se levanten de la cueva y nos demos la vuelta, desarrollando una capacidad crítica para encontrar la diferencia entre una respuesta coherente y una respuesta verdaderamente comprendida, y que dejemos de tratar al LLM como un oráculo cuando es, en el mejor de los casos, un espejo bien pulido.

Cabe mencionar que el primer camino, como menciono anteriormente, es bastante distópico, y a su vez, complejo de demostrar su viabilidad. En este punto entran dos conceptos que incluso llegan a aplicarse a la conciencia humana. El zombie filosófico es un problema presentado por David Chalmers, quien presenta a una persona idéntica a ti misma, que reacciona como tú ante estímulos externos, pero que realmente no siente ni procesa aquello que expresa. Este concepto busca demostrar que la identidad física y conductual no garantiza, por sí sola, la existencia de experiencia subjetiva.

Por otro lado tenemos el other minds problem, donde se nos cuestiona cómo podemos demostrar que el resto de personas constan de conciencia, sentimientos y pensamientos internos reales, si al final, solo nuestra propia consciencia es aquella que podemos experimentar y comprobar su veracidad.

Por esto, ante la imposibilidad de demostrar un desarrollo consciente similar al humano, que incluso no es posible entre humanos bajo ciertos paraguas filosóficos, el único camino que nos es viable es el segundo, con la diferenciación entre coherencia y la comprensión.

Pero… ¿Cómo hemos acabado viviendo esta alegoría? Con la imposición de la sociedad de la vida rápida, con la recompensa instantánea y con la necesidad de estar siempre conectados.

La coherencia antes que la comprensión viene de la mano con la recompensa instantánea. Entender causas cuesta tiempo y esfuerzo, mientras que una respuesta coherente y fluida da la sensación de resolución inmediata.

La conexión constante, donde si hay una respuesta a un toque de distancia, se erosiona el hábito de razonar por cuenta propia antes de preguntar. Dejamos de buscar el volumen y nos conformamos con la sombra.

La intolerancia a la incertidumbre, donde una sociedad de vida rápida no tiene tiempo de un "depende", "no lo sé aún" o “hay que darle una vuelta”. Con los LLMs somos capaces de destruir la incertidumbre, aquello que a su vez, tanto miedo ha dado a las personas.

El punto en el que nos encontramos, sentados de espaldas a la realidad, no es más que una consecuencia de una sociedad que no quiere parar, que intenta hacer ver que la duda es negativa y el detenerse, perder una carrera que realmente, no existe.