El problema estaba entre la entrada y la salida
Imagina una red neuronal que se equivoca al responder. Es fácil saber que el resultado no coincide con el esperado. Lo difícil es determinar qué conexiones internas contribuyeron al error y cómo deberían cambiar. Una red con varias capas no puede resolver ese problema atendiendo solo a una salida equivocada: necesita un procedimiento para repartir la corrección a lo largo de sus conexiones.
En 1986, David Rumelhart, Geoffrey Hinton y Ronald Williams publicaron en Nature un trabajo sobre aprendizaje mediante propagación hacia atrás de los errores. Describieron cómo ajustar conexiones para reducir la distancia entre la salida obtenida y la deseada. Su artículo destacó que las unidades ocultas podían adquirir representaciones útiles de rasgos de la tarea.
La palabra «inventaron» oculta más de lo que explica
La retropropagación no apareció de la nada en 1986. Existían ideas y técnicas relacionadas antes; la importancia del artículo está en su formulación influyente y en la demostración de su utilidad dentro de modelos neuronales multicapa. Es una de esas historias donde lo relevante no es encontrar un «primer inventor» único, sino entender cómo un método alcanzó visibilidad y eficacia en un contexto concreto.
Tampoco transformó de inmediato toda la industria. El hardware disponible, la escasez relativa de grandes conjuntos de datos y otras dificultades seguían limitando los experimentos. El salto hacia redes profundas útiles a gran escala tardaría décadas y necesitaría otras innovaciones. Por eso entre el perceptrón de 1958 y los resultados de 2012 hay mucha más historia que un único algoritmo.
Aprender es corregir, pero corregir no basta
El concepto es sencillo de contar sin simplificarlo demasiado: la red produce una respuesta; se mide un error; se calcula cómo cambiar los parámetros; se repite. Lo que puede aprender depende también de la arquitectura, los ejemplos utilizados, los objetivos de entrenamiento y la evaluación posterior. Un algoritmo de optimización no garantiza que el sistema tenga buen juicio o que sus resultados sean fiables en todos los contextos.
Para Fathom, la sorpresa de 1986 no es una máquina que «despertó». Es un método matemático que ayudó a que capas intermedias aprendieran representaciones útiles. Las revoluciones técnicas no siempre hacen ruido: algunas empiezan cuando un equipo encuentra una mejor manera de distribuir la responsabilidad por un error.