Loros estocásticos
No todo lo que brilla es oro, así como no todo lo que habla como humano es humano. Y es más fácil caer en el engaño cuando existe un interés en hacernos creer que una simulación equivale a la realidad. La inteligencia artificial, que se ha incorporado a nuestros días y actividades, es una herramienta que vale la pena conocer para comprender sus alcances y limitaciones, sin atribuirle facultades que no necesariamente posee.
Los modelos de lenguaje de gran tamaño, o LLM por sus siglas en inglés, son la tecnología detrás de los chatbots que muchos utilizamos cotidianamente. Estos sistemas responden preguntas, redactan textos y mantienen conversaciones que parecen realizarse con una persona. Sin embargo, una cosa es producir respuestas que parecen inteligentes y otra comprender lo que se dice. A esa diferencia alude la expresión que da título a este texto, loros estocásticos, que explico más adelante.
Esta tecnología se basa en modelos probabilísticos que, mediante redes neuronales artificiales de aprendizaje profundo, identifican patrones en enormes cantidades de información. Su funcionamiento consiste fundamentalmente en predecir qué palabras o fragmentos de texto tienen mayor probabilidad de aparecer a continuación, a partir de las instrucciones que proporcionamos, llamadas ‘prompts’, y del contexto de la conversación.
La idea de utilizar redes neuronales artificiales no es nueva. Sus antecedentes se remontan a mediados del siglo pasado, aunque su desarrollo reciente ha sido posible gracias al incremento del poder de cómputo, la disponibilidad de información en Internet y modelos que utilizan miles de millones de parámetros. Lo novedoso no es tanto la intención de emular ciertas capacidades humanas, sino la velocidad y coherencia con que ahora pueden hacerlo.
Loros estocásticos es una expresión acuñada en 2021 por la lingüista Emily M. Bender y sus colaboradoras para describir sistemas capaces de producir lenguaje aparentemente coherente sin que ello implique comprensión ni intención comunicativa. El término estocástico alude al uso de probabilidades para generar cada palabra.
Actualmente leo ‘La estafa de la IA’, de Emily M. Bender y Alex Hanna, donde las autoras presentan una crítica fundamentada de esta tecnología, de sus intereses comerciales y de los riesgos de atribuirle capacidades que no podemos demostrar, se lo recomendamos.
Otro antecedente interesante es el experimento mental de la habitación china, propuesto en 1980 por el filósofo John Searle. Imaginemos a una persona encerrada en una habitación que recibe preguntas escritas en chino. Aunque desconoce ese idioma, dispone de instrucciones que le permiten manipular símbolos y producir respuestas correctas. Desde afuera parecería que comprende chino, cuando en realidad solo sigue reglas. El experimento plantea precisamente la diferencia entre simular comprensión y comprender.
Esa diferencia se hace visible cuando estos modelos producen respuestas incorrectas, llamadas alucinaciones, que pueden resultar completamente convincentes. Aunque existen mecanismos automáticos para reducirlas, la intervención humana sigue siendo necesaria para verificar información, corregir errores y supervisar decisiones.
Nuestra mente tiende de manera natural a atribuir características humanas a aquello que se comporta como nosotros. Si una máquina conversa, responde amablemente y parece comprender nuestras emociones, fácilmente podemos imaginar que existe alguien detrás de esas palabras. Esta inclinación, el antropomorfismo, puede dificultarnos distinguir entre una conversación humana y una simulación lingüística.
A ello se suman los intereses comerciales que acompañan esta tecnología. La información que proporcionamos puede utilizarse conforme a las políticas de cada plataforma, lo que afecta nuestra privacidad, y buena parte de los materiales empleados para entrenar estos modelos proviene de creaciones humanas cuyos derechos y compensaciones siguen siendo motivo de controversia.
Esa controversia y la incertidumbre sobre la rentabilidad de los modelos de negocio de la inteligencia artificial podrían convertirse en obstáculos importantes para su desarrollo. Incluso cabe preguntarse si estamos más cerca de los límites de esta tecnología de lo que sugieren sus promotores. En ese escenario, esperemos que su evolución no dependa solo de intereses comerciales, sino también del respeto a la privacidad, a la propiedad intelectual y a las ideas de quienes, con su conocimiento y creatividad, hicieron posibles estas herramientas.
Finalmente, resulta paradójico que una tecnología presentada como inteligencia artificial dependa tanto del conocimiento, el trabajo y la supervisión de personas. Su inteligencia sigue siendo objeto de debate y su aparente autonomía tiene límites. Sus beneficios son evidentes y no está mal utilizarla, pero tampoco debemos aceptar sin cuestionamientos la propaganda comercial que exagera sus capacidades. Conviene aprender a usarla sin confundir simulación con realidad, y no permitir que termine utilizándonos a nosotros.