No hay IA

Hay formas de controlar la nueva tecnología, pero primero tenemos que dejar de mitificarla.

Jaron Lanier

Como científico informático, no me gusta el término "IA". De hecho, creo que es engañoso, tal vez incluso un poco peligroso. Todo el mundo ya está usando el término y puede parecer un poco tarde para discutir al respecto. Pero estamos al comienzo de una nueva era tecnológica, y la forma más fácil de administrar mal una tecnología es entenderla mal.

El término “inteligencia artificial” tiene una larga historia: fue acuñado en la década de 1950, en los primeros días de las computadoras. Más recientemente, los científicos informáticos han crecido con películas como "The Terminator" y "The Matrix", y con personajes como Commander Data, de "Star Trek: The Next Generation". Estas piedras de toque culturales se han convertido en una mitología casi religiosa en la cultura tecnológica. Es natural que los informáticos anhelen crear IA y hacer realidad un sueño anhelado.

Sin embargo, lo sorprendente es que muchas de las personas que persiguen el sueño de la IA también se preocupan de que pueda significar el día del juicio final para la humanidad. Se afirma ampliamente, incluso por científicos en el centro mismo de los esfuerzos actuales, que lo que están haciendo los investigadores de IA podría resultar en la aniquilación de nuestra especie, o al menos en un gran daño para la humanidad, y pronto. En una encuesta reciente, la mitad de los científicos de IA acordaron que había al menos un diez por ciento de posibilidades de que la IA destruyera la raza humana. Incluso mi colega y amigo Sam Altman, que dirige OpenAI, hizo comentarios similares.

Entre en cualquier cafetería de Silicon Valley y podrá escuchar cómo se desarrolla el mismo debate: una persona dice que el nuevo código es solo código y que las personas están a cargo, pero otra argumenta que cualquiera que tenga esta opinión simplemente no entiende cuán profunda es la nueva tecnología. 

Los argumentos no son del todo racionales: cuando les pido a mis amigos científicos más temerosos que expliquen cómo podría ocurrir un apocalipsis de IA, a menudo se paralizan por la parálisis que se apodera de alguien que intenta concebir el infinito. Dicen cosas como “El progreso acelerado pasará volando y no seremos capaces de concebir lo que está sucediendo”.

No estoy de acuerdo con esta forma de hablar. Muchos de mis amigos y colegas están profundamente impresionados por sus experiencias con los últimos grandes modelos, como GPT-4, y prácticamente están haciendo vigilias esperando la aparición de una inteligencia más profunda. Mi posición no es que estén equivocados sino que no podemos estar seguros; conservamos la opción de clasificar el software de diferentes maneras.

La posición más pragmática es pensar en la IA como una herramienta, no como una criatura. Mi actitud no elimina la posibilidad de peligro: sin importar cómo lo pensemos, aún podemos diseñar y operar nuestra nueva tecnología de manera incorrecta, de manera que nos perjudique o incluso nos lleve a la extinción. 

Mitologizar la tecnología solo hace que sea más probable que no la operemos bien, y este tipo de pensamiento limita nuestra imaginación, atándola a los sueños de ayer. Podemos trabajar mejor bajo el supuesto de que no existe la IA. Cuanto antes entendamos esto, antes comenzaremos a administrar nuestra nueva tecnología de manera inteligente.

Si la nueva tecnología no es verdadera inteligencia artificial, entonces, ¿qué es? En mi opinión, la forma más precisa de entender lo que estamos construyendo hoy es como una forma innovadora de colaboración social.

Un programa como GPT-4 de OpenAI, que puede escribir oraciones en orden, es algo así como una versión de Wikipedia que incluye muchos más datos, combinados usando estadísticas. Los programas que crean imágenes por encargo son algo así como una versión de búsqueda de imágenes en línea, pero con un sistema para combinar las imágenes. En ambos casos, son las personas las que han escrito el texto y proporcionado las imágenes.

Los nuevos programas combinan el trabajo realizado por las mentes humanas. Lo que es innovador es que el proceso de combinación se ha vuelto guiado y restringido, de modo que los resultados son utilizables y, a menudo, sorprendentes. Este es un logro significativo y digno de celebrar, pero se puede considerar que ilumina concordancias previamente ocultas entre las creaciones humanas, más que la invención de una nueva mente.

Por lo que puedo decir, mi punto de vista halaga la tecnología. Después de todo, ¿qué es la civilización sino la colaboración social? Ver la IA como una forma de trabajar juntos, en lugar de como una tecnología para crear seres inteligentes e independientes, puede hacerla menos misteriosa, menos como Hal 9000 o Commander Data. Pero eso es bueno, porque el misterio solo hace que la mala gestión sea más probable.

Es fácil atribuir inteligencia a los nuevos sistemas; tienen una flexibilidad e imprevisibilidad que normalmente no asociamos con la tecnología informática. Pero esta flexibilidad surge de las matemáticas simples. 

Un modelo de lenguaje grande como GPT-4 contiene un registro acumulativo de cómo coinciden determinadas palabras en la gran cantidad de texto que ha procesado el programa. Esta tabulación gigantesca hace que el sistema se aproxime intrínsecamente a muchos patrones gramaticales, junto con aspectos de lo que podría llamarse estilo autoral. Cuando ingresa una consulta que consta de ciertas palabras en un orden determinado, su entrada se correlaciona con lo que hay en el modelo; los resultados pueden ser un poco diferentes cada vez, debido a la complejidad de correlacionar miles de millones de entradas.

La naturaleza no repetitiva de este proceso puede hacer que se sienta animado. Y hay un sentido en el que puede hacer que los nuevos sistemas estén más centrados en el ser humano. Cuando sintetiza una nueva imagen con una herramienta de IA, puede obtener un montón de opciones similares y luego tener que elegir entre ellas; si es un estudiante que usa un LLM para hacer trampa en una tarea de ensayo, puede leer las opciones generadas por el modelo y seleccionar una. Una tecnología que no se repite exige un poco de elección humana.

* Publicado en The New Yorker, 20.04.23. Jaron Lanier es informático, autor y músico, actualmente trabaja en Microsoft.