Un modelo de inteligencia artificial generativa (IA) resuelve un problema de matemáticas, corrige código, planea una tarea de horas y explica cómo ha llegado a una conclusión. Es tentador decir que «razona». Pero esa palabra, aplicada a una máquina, quizá confunda más de lo que aclara.
Aristóteles habría desconfiado de ella. No porque ignorase la complejidad de la mente, sino porque la tomaba demasiado en serio como para reducirla a una sola facultad. En la Ética a Nicómaco distingue varias virtudes del pensamiento: unas sirven para conocer lo necesario; otras, para actuar en un mundo cambiante; unas permiten fabricar, y otras deliberar sobre cómo vivir. Esta distinción puede ordenar el debate sobre los grandes modelos de lenguaje, o LLM, que impulsan las IA generativas. Ese debate oscila entre dos caricaturas: los LLM son meras «calculadoras de palabras» o bien han empezado a pensar como nosotros. Tal vez ninguna de las dos afirmaciones apunte en la dirección adecuada.
Aristóteles llama téchnē a la destreza de producir algo según un saber hacer. También distingue el noûs, la capacidad de captar los primeros principios; la epistéme, el conocimiento demostrativo construido sobre ellos; y la phrónesis, la prudencia que delibera acerca de los fines de una vida. Un LLM exhibe, sin duda, una forma extraordinaria de téchnē. Produce textos, programas, traducciones, resúmenes y argumentos; ajusta su registro, imita géneros y combina información con una velocidad que habría parecido prodigiosa hace pocos años. Sin embargo, fabricar algo competente no equivale todavía a comprenderlo. Un artesano puede ejecutar una receta admirable sin saber justificar sus principios. Del mismo modo, un modelo puede transformar enormes colecciones de textos digitalizados en respuestas convincentes sin que de ello se siga que sabe de qué habla.
Esa era la intuición de la metáfora del «loro estocástico», propuesta hace unos años por la lingüista Emily Bender y sus colegas. Según esa imagen, el modelo cose fragmentos de lenguaje guiado por regularidades probabilísticas. Su aparente comprensión sería un efecto de la fluidez verbal: tendemos a atribuir una mente allí donde encontramos una conversación convincente.
Los LLM recientes complican esa imagen. Los llamados modelos «razonadores» pueden revisar pasos intermedios, detectar algunos errores, utilizar herramientas externas y abandonar una estrategia fallida para intentar otra. Investigaciones sobre sus mecanismos internos sugieren que, en ciertos casos, el modelo prepara una solución antes de generar las palabras que la expresan. No avanza a ciegas: a veces organiza una meta y los medios para alcanzarla, como un jugador de ajedrez que reconoce una posición favorable antes de decidir la siguiente jugada.
¿Prueba eso que el modelo comprende? No necesariamente. Pero obliga a precisar la pregunta.
Podemos distinguir tres sentidos de «comprender». El primero es funcional: el sistema se comporta como alguien que entiende. Responde a variaciones de una pregunta, explica, generaliza y resuelve tareas nuevas. En este terreno, los LLM han avanzado de forma espectacular. El segundo sentido es semántico. No pregunta qué hace el modelo, sino si sus palabras remiten realmente a aquello de lo que hablan. Cuando escribe «incendio», ¿se refiere a un fenómeno del mundo o solo a otras palabras —humo, llamas, bomberos— que suelen aparecer con ella en los textos? El buen rendimiento funcional puede ser una prueba relevante, pero no resuelve por sí solo esa cuestión. El tercero es fenoménico: ¿hay una experiencia subjetiva asociada a ser ese sistema? ¿Hay algo que sienta, le importe o le duela? No hay ninguna evidencia de ello. Y sin experiencia, deseo o vulnerabilidad resulta difícil atribuir a una máquina la phrónesis aristotélica.
Esta última distinción importa más que ninguna otra. La prudencia no consiste solo en calcular los medios más eficaces para alcanzar un objetivo. Consiste en preguntarse qué objetivos merecen ser perseguidos. Un LLM puede ordenar opciones, anticipar consecuencias y ayudar a un humano a decidir. Pero no parece tener un bien propio que proteger, una pérdida que evitar ni una vida cuya orientación esté en juego.
Los próximos sistemas tendrán memorias más persistentes, usarán herramientas con mayor autonomía y quizá construirán modelos causales del mundo. Si aprenden sin olvidar y corrigen sus predicciones frente a la realidad, será cada vez más difícil negarles toda forma de comprensión. Aun así, Aristóteles nos obliga a no confundir una capacidad con otra. Una máquina puede producir, inferir y planificar. Lo que todavía no parece capaz de hacer es preguntarse, por sí misma, para qué debería hacerlo.
