No es MagIA: la IA, el fin del mundo y otras cosas para hablar en el ascensor

Por Jon Mikel Zabala
Hace unos días escuché esta conversación entre Humberto Bustince y Noelia García-Rueda, científico y profesora de Enfermería de la Universidad Pública de Navarra, respectivamente. El título prometía una charla ligerita para acompañar el relaxing cup of café con leche de todas las mañanas: ¿Hacia dónde nos lleva la inteligencia artificial? ¿Está en juego el futuro de la humanidad? Casi nada.
Durante una hora, García-Rueda plantea muchas de las preguntas que nos rondan últimamente: ¿la IA entiende lo que dice?, ¿podría llegar a ser consciente?, ¿puede saltarse las reglas?, ¿nos quitará el trabajo?, ¿terminará tomando decisiones por nosotrxs? Bustince las aborda desde una perspectiva científica y matizada, sin caer ni en el entusiasmo que hace que se la presente como solución para todo, ni en el catastrofismo que la convierte en la madre de todos los males de la humanidad.
Para Bustince, hay una idea que conviene dejar clara desde el principio: la IA es una ciencia, no ciencia ficción. Su objetivo es desarrollar máquinas capaces de hacer cosas que, si las hiciera una persona, consideraríamos inteligentes. La idea de construir artefactos que trabajen por nosotros viene de muy lejos, desde Aristóteles hasta Alan Turing, pasando por Charles Babbage (así, en dos patás).
Sin embargo, el kilómetro cero de la IA como campo científico suele situarse en el verano de 1956, durante la conocida como la conferencia de Dartmouth de 1956 (Dartmouth Summer Research Project on Artificial Intelligence). John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon propusieron reunir durante varias semanas a un pequeño grupo de investigadores alrededor de una hipótesis bastante modesta (ironía modo on a tope): que cualquier aspecto del aprendizaje o de la inteligencia podía describirse con suficiente precisión como para que una máquina llegase a simularlo. Querían investigar cómo conseguir que las máquinas utilizasen el lenguaje, formasen conceptos, resolvieran problemas reservados hasta entonces a los humanos, aprendieran y mejorasen su propio funcionamiento. Allí se agruparon bajo la expresión “inteligencia artificial” cuestiones que hasta entonces avanzaban por caminos separados, como las redes neuronales, el razonamiento lógico, el aprendizaje automático o el uso del lenguaje. 1956.
Después llegaron años de grandes expectativas, inviernos tecnológicos y promesas que acababan guardadas en el mismo cajón en el que conservamos las garantías de los electrodomésticos, hasta que descubrimos (10 años más tarde) que ya han caducado. Mucho más recientemente, varias piezas que llevaban tiempo desarrollándose empezaron a encajar: enormes cantidades de datos, mayor capacidad de computación, redes neuronales capaces de reconocer imágenes y, en 2017, los famosos “transformers” (no confundirlos con la peli de 2007 del mismo título).
Un transformer es una arquitectura diseñada para encontrar relaciones entre los distintos elementos de una secuencia. Su mecanismo de “atención” permite identificar qué palabras (o qué fragmentos de una imagen, un sonido o un código) son relevantes entre sí, aunque estén alejados, y procesar muchas de esas relaciones al mismo tiempo. Este avance hizo posible entrenar modelos mucho más grandes con enormes cantidades de información, conservar mejor el contexto y generar contenidos más coherentes. Por eso los transformers se convirtieron en la base técnica de los grandes modelos de lenguaje y de buena parte de la actual IA generativa. Gracias a ese salto, las máquinas empezaron a manejar mucho mejor el contexto del lenguaje. Ya no se trataba únicamente de saber que la palabra “banco” existe, sino de distinguir si estamos hablando de dinero o de sentarnos en un parque.
A finales de 2022 llegó el momento en el que todo lo anterior salió del laboratorio, se coló en nuestras casas y millones de personas empezamos a conversar con “una máquina” (ironía modo on 2) igual que el concursante de Gran Hermano habla con el Súper. Solo que el Súper nunca duerme, ha leído más que tú y, de vez en cuando, se inventa la respuesta con una seguridad digna de tertuliano televisivo.
Una de las preguntas que plantea García-Rueda es si la IA verdaderamente nos comprende o si simplemente es muy buena pareciéndolo. Bustince explica que la IA actual trabaja buscando, en cuestión de segundos, patrones y correlaciones entre cantidades gigantescas de datos imposibles de abarcar para una persona. Pero esa capacidad no significa que piense o sienta como nosotrxs. Una máquina puede aprender que, cuando utilizamos determinadas palabras, probablemente estamos tristes. Puede incluso contestarnos “entiendo cómo te sientes”, pero una cosa es reconocer un patrón emocional y otra muy distinta sentir tristeza, tener conciencia de su propia existencia, o distinguir moralmente entre lo que está bien y lo que está mal.
Eso sí, Bustince reconoce que antes de 2022 él tampoco esperaba que llegásemos tan rápido a mantener conversaciones tan convincentes con una máquina, así que todo es/será posible.
Como recuerda Bustince, la IA aprende de los datos con los que la entrenamos. Y aquí aparece una de las reglas más importantes de todo este mundillo: si entrenas mal un sistema, aprenderá mal. Los datos pueden estar incompletos, contener errores o reproducir nuestros prejuicios. También está el “pequeño” detalle de que la mayoría de las IAs han sido educadas para no responder “no lo sé”. Cuando no tienen datos suficientes, pueden completar los huecos con una respuesta plausible … pero falsa, o cuanto menos, muy imprecisa.
Aquí aparece la que, personalmente, me parece la advertencia más importante que hace Bustince: la dictadura del dato. Quien controle los datos, los centros de procesamiento, la energía y los algoritmos tendrá una capacidad casi infinita para influir en lo que hacemos, compramos, pensamos y decidimos. La nube no es un lugar paradisíaco situado sobre nuestras cabezas, sino una sala gigantesca llena de ordenadores pertenecientes a una empresa o a un Estado. Cada interacción deja información sobre nosotrxs, por lo que la misma IA que puede acompañar a una persona que se siente sola también sabe que esa persona está sola. Y quien conoce con ese nivel de detalle nuestras necesidades, miedos y vulnerabilidades no solo puede predecir lo que haremos, sino que también puede diseñar los estímulos (p.e., una recomendación, un anuncio, una noticia o incluso una conversación) que aumenten la probabilidad de que hagamos lo que le interesa a ella. El peligro más probable, por lo tanto, no es una guerra entre humanos y robots, sino una concentración de poder tan grande que unas pocas organizaciones/países sean capaces de construir para cada persona una versión diferente de la misma realidad: una realidad personalizada no necesariamente para informarnos mejor, sino para influir de manera más eficaz en nuestro comportamiento.
Y después está el VERDADERO PROBLEMA de la caja negra (lo pongo en mayúsculas por las implicaciones que tiene). Un sistema puede recomendar una intervención médica o tomar una decisión con un alto nivel de acierto, pero ser incapaz de explicar de forma comprensible por qué ha llegado a esa conclusión. Pongamos algunos ejemplos.
Imaginemos un sistema entrenado con millones de mamografías y sus correspondientes historiales clínicos. Ningún profesional puede recordar tantos casos, pero una IA sí puede analizarlos, compararlos y detectar patrones que una persona difícilmente podría identificar con el mismo nivel de precisión. La IA puede ayudarnos a detectar enfermedades, mejorar pronósticos, identificar casos excepcionales y orientar decisiones clínicas. Otro gran ejemplo es el plegamiento y diseño de proteínas. La capacidad de analizar combinaciones inabarcables para el cerebro humano está acelerando investigaciones relacionadas con enfermedades y con problemas medioambientales, como la degradación de determinados residuos.
La clave radica en que, a pesar de que la caja negra no pueda explicar el porqué de dichas decisiones, las predicciones de la IA pueden ser más precisas que las de la mayoría de los humanos. Pero un porcentaje elevado de aciertos no concede al algoritmo autoridad automática. Cuando una decisión afecta a la salud o a los derechos de una persona, necesitamos conocer no solo cuántas veces acierta, sino también dónde falla, con qué grupos de población, bajo qué condiciones y con qué grado de incertidumbre. Por eso, la precisión es imprescindible, pero no suficiente. Necesitamos datos de calidad y representativos, sistemas auditables, mecanismos que comuniquen su incertidumbre y profesionales capaces de revisar, cuestionar y, cuando sea necesario, contradecir el resultado.
Renunciar por completo a estas herramientas implicaría perder oportunidades enormes en salud, ciencia, educación, productividad y calidad de vida, pero utilizarlas sin reglas nos deja demasiado expuestos. Por ello, Bustince defiende la necesidad de construir una gobernanza democrática e internacional, y compara este desafío con el que supuso la energía nuclear: una tecnología con un potencial extraordinario que requiere acuerdos, controles y responsabilidades globales. Regular no significa frenar toda innovación, significa decidir qué innovación queremos, bajo qué condiciones, para beneficio de quién y con qué límites. La gobernanza internacional actual parece lejos de avanzar en esa dirección. Pero esa distancia no debería llevarnos a rebajar la ambición, sino a aumentarla. Si la tecnología es global, deberíamos aspirar también a unos mínimos globales de seguridad, transparencia, protección de derechos y rendición de cuentas. Casi nada.
Puedes seguirme en Bluesky: jonmizabala.bsky.social




Comentarios recientes