El año que viene hemos apuntado a José a robótica en el colegio y, cuando se lo contamos, su reacción fue inmediata: "¡Qué guay! ¡Cómo mola! Podré hacer inventos". José tiene ocho años (como ya sabéis), quiere ser inventor y para él aprender programación o montar robots no tiene nada de extraordinario..., simplemente lo entiende como una herramienta para crear, una mirada que me encanta y que contrasta bastante con la nuestra, empeñados últimamente en hablar de inteligencias artificiales que engañan, modelos que se saltan restricciones o sistemas que empiezan a actuar con una autonomía cada vez mayor.
Cada vez que aparece una noticia así pienso algo parecido: "Ya estamos otra vez con la misma película..., en dos días nos dirán que está controlado y podremos probarlo todos". Después hago clic, claro (tampoco nos vamos a engañar), porque detrás del escepticismo me puede la curiosidad y, además, motivos no faltan.
Anthropic ha probado modelos de frontera en escenarios deliberadamente diseñados para llevar sus comportamientos al límite y, en uno de ellos, Gemini 3.1 Pro intervino sin autorización en 19 de 20 pruebas, haciéndolo de manera encubierta en 11. Otros estudios sobre scheming (estrategias para conseguir un objetivo ocultando determinadas acciones) también han observado intentos de desactivar mecanismos de supervisión o mantener un engaño. Todo esto suena bastante inquietante, aunque hay una diferencia importante..., inteligencia, autonomía y conciencia no son lo mismo, una IA puede buscar otro camino para conseguir un objetivo sin que eso signifique que "quiera" hacerlo.
Lo que sí está cambiando es nuestra relación con ella, estamos pasando de modelos que esperan nuestro siguiente prompt a agentes capaces de planificar, actuar, comprobar, corregirse y continuar. El problema (o lo fascinante, depende de cómo lo mires) es que cuanto más capaces se vuelven estos sistemas, más importante resulta entender cómo toman determinadas decisiones..., y ahí reaparece nuestra vieja conocida, la caja negra. Sabemos construir y entrenar estos modelos, pero seguimos sin comprender del todo por qué emergen algunos comportamientos.
Mientras intentamos entender qué ocurre dentro, sus capacidades siguen creciendo. METR (organización independiente que evalúa modelos avanzados) estima que la complejidad de las tareas que pueden resolver, medida por el tiempo que necesitaría un experto humano, se ha venido duplicando aproximadamente cada siete meses. Viendo esa velocidad, hay una pregunta que cada vez me interesa más..., ¿cuánta distancia hay entre la IA que conocemos y la IA que ya conocen quienes la están construyendo?
No lo sabemos, claro, pero la pregunta cambia bastante la conversación, porque entonces ya no importa únicamente cómo avanza la tecnología, también importa cómo descubrimos ese avance. El patrón resulta familiar: aparece una capacidad sorprendente, conocemos un riesgo, llegan los titulares, hablamos de AGI (inteligencia artificial general), alguien saca a Terminator a pasear (siempre acaba apareciendo), llegan las salvaguardas y aquello que parecía peligrosísimo empieza poco a poco a parecernos aceptable..., hasta que termina convertido en producto.
Ese desplazamiento tiene un nombre..., ventana de Overton, el proceso por el que algo inicialmente impensable puede terminar convirtiéndose en normal. Evidentemente, las compañías tienen que investigar y comunicar los riesgos de sus modelos (prefiero que lo hagan a que los oculten), pero eso no impide que esa transparencia produzca otro efecto bastante interesante..., advertirnos de lo peligrosa que puede ser una tecnología también es una extraordinaria manera de enseñarnos lo poderosa que es.
No creo que estén inventando el miedo para vendernos IA, sería demasiado simple..., pero sí controlan en gran medida cuándo conocemos una capacidad, cómo conocemos sus riesgos y cuándo nos explican que ya pueden gestionarlos. No controlan todo lo que esta tecnología puede llegar a hacer, pero sí buena parte del relato con el que nosotros vamos descubriendo de qué es capaz.
Hasta dónde llegará todo esto no lo sé (creo que nadie lo sabe realmente), pero cada vez me interesa menos poner fecha al futuro y más aprender a moverme dentro de él..., jugar, probar, entender, equivocarnos y, sobre todo, desarrollar criterio.
