Cómo funcionan las redes neuronales: neuronas, IA

Una neurona hecha de aritmética

En tu cerebro, una neurona recoge señales de otras y se dispara si el total es lo bastante fuerte. El cerebro humano tiene unos 86.000 millones. Una neurona artificial es una caricatura libre de eso, no una copia. Toma números de entrada, multiplica cada uno por un peso que dice su importancia, los suma junto con un sesgo y pasa la suma por una función de activación que la aplasta en un intervalo como el de 0 a 1. La idea se remonta a McCulloch y Pitts en 1943 y al perceptrón de Frank Rosenblatt en 1958.

Una neurona, con números

Da a una neurona las entradas 0,5 y 0,8, los pesos 0,9 y 0,3 y un sesgo de −0,2. La suma es 0,5 × 0,9 + 0,8 × 0,3 − 0,2 = 0,45 + 0,24 − 0,2 = 0,49. La activación sigmoide, 1 / (1 + e elevada a −x), convierte 0,49 en aproximadamente 0,62. Un peso positivo empuja a la neurona a activarse, un peso negativo la frena. Eso es todo: multiplicaciones y sumas. Todo lo que sabe una red está guardado en sus pesos. En la imagen, las líneas gruesas son pesos fuertes y las finas, pesos débiles.

Capas

Una sola neurona solo puede trazar una recta entre dos grupos. Apila neuronas en capas y la red podrá trazar curvas. La capa de entrada contiene los datos, las capas ocultas los combinan y la capa de salida da la respuesta. Para una imagen de 28 × 28 de un dígito puedes usar 784 entradas, una capa oculta de 128 neuronas y 10 salidas. El número de pesos y sesgos es 784 × 128 + 128 + 128 × 10 + 10 = 101.770 mandos. La señal fluye hacia delante, capa a capa. Los mayores modelos actuales tienen miles de millones o billones de mandos.

Aprender es ajustar

Al principio los pesos son aleatorios y las respuestas no tienen sentido. Muestra a la red un ejemplo con respuesta conocida y mide el error, un único número llamado pérdida. Luego pregunta a cada peso: si crecieras un poco, ¿subiría o bajaría la pérdida? El gradiente indica hacia dónde es cuesta arriba, así que das un paso cuesta abajo: peso nuevo = peso − η × gradiente, donde η es una tasa de aprendizaje pequeña. Con w = 0,80, gradiente +0,5 y η = 0,1, el peso nuevo es 0,80 − 0,05 = 0,75. Repite con miles de ejemplos. Esto es el descenso del gradiente.

La culpa, pasada hacia atrás

Una red real tiene miles o millones de pesos. ¿Cómo hallar todos los gradientes? La retropropagación aplica la regla de la cadena del cálculo hacia atrás, de la salida a la entrada, repartiendo la culpa capa por capa. Seppo Linnainmaa y Paul Werbos describieron la idea en 1970 y 1974, y el artículo de 1986 en Nature de David Rumelhart, Geoffrey Hinton y Ronald Williams la hizo famosa. En 2024 Hinton y John Hopfield compartieron el Premio Nobel de Física por los fundamentos del aprendizaje automático con redes neuronales artificiales. Pulsa entrenar en el laboratorio y observa cómo se mueve la línea divisoria.

Leer un dígito

MNIST es una colección de 70.000 dígitos manuscritos, cada uno de 28 × 28 píxeles grises. 60.000 sirven para entrenar y 10.000 se reservan para comprobar. El brillo de cada píxel, de 0 a 1, entra en una neurona de entrada. La capa de salida tiene diez neuronas, una por dígito, y gana la más fuerte, por ejemplo 0,93 para el dígito 7 y valores minúsculos para el resto. Las redes pequeñas aciertan cerca del 98 por ciento de los dígitos de prueba nunca vistos, y las redes convolucionales, que buscan bordes y formas, superan el 99 por ciento. Reconocen patrones; no entienden los dígitos como tú.

Predecir la palabra siguiente

Un gran modelo de lenguaje, el motor de la mayoría de los chatbots, trabaja con tokens, que son trozos de palabras. Dados los tokens hasta ahora, la red da una probabilidad para cada posible token siguiente. Se elige uno, se añade al texto y el proceso se repite. El modelo se entrena con una enorme cantidad de texto y tiene miles de millones de pesos. La arquitectura que se usa hoy, el transformer, se presentó en el artículo de 2017 Attention Is All You Need. Un modelo no busca una respuesta: la genera, palabra tras palabra.

Fluido no es lo mismo que verdadero

Como un modelo de lenguaje predice qué texto es probable, puede escribir una frase fluida y segura que es falsa: el título de un libro inventado, una fecha errónea, una suma equivocada. Eso se llama alucinación. El modelo no tiene forma propia de comprobar hechos, salvo que esté conectado a herramientas o fuentes. Trata su respuesta como un borrador útil, no como un oráculo, y comprueba lo importante en fuentes fiables como las que figuran al final de este capítulo. Para terminar, entrena tu propia red diminuta en el laboratorio y mira lo poco que hace falta para aprender.

Redes neuronales e IA