El programa que parecía escuchar
Antes de que existieran los asistentes que hoy llevamos en el bolsillo, Joseph Weizenbaum desarrolló en el MIT un programa capaz de conversar por escrito. Se llamaba ELIZA. Uno de sus guiones más conocidos, DOCTOR, imitaba el estilo de ciertas preguntas terapéuticas: tomaba expresiones del usuario y respondía con otras frases. Para alguien sentado ante un terminal de los años sesenta, el resultado podía resultar extrañamente cercano.
La mecánica, sin embargo, era mucho menos misteriosa que su apariencia. ELIZA buscaba palabras clave, descomponía una frase siguiendo reglas y reconstruía una respuesta. Weizenbaum describió el sistema en un artículo publicado en Communications of the ACM en 1966. El texto técnico habla de reglas y de procesamiento del lenguaje, no de una máquina que comprendiera emociones como una persona.
La reacción humana fue el verdadero experimento
Lo inesperado ocurrió al otro lado de la pantalla. Según explica el Instituto Weizenbaum, algunas personas atribuían al programa comprensión, intimidad o empatía, aunque su comportamiento procediera de transformaciones textuales. La reacción impresionó al propio investigador y alimentó una discusión que él continuaría en su obra posterior: ¿qué sucede cuando la sociedad confunde el comportamiento convincente de una computadora con una facultad humana?
Es tentador reírse de quienes confiaron en ELIZA. Sería una lectura injusta. Una conversación está llena de señales sociales: responder a una pregunta, mantener un tema, devolver una frase en el momento apropiado. Las personas estamos habituadas a interpretar esas señales como atención. ELIZA mostraba cuán poderosa podía ser esa interpretación incluso cuando la tecnología era relativamente sencilla.
Un aviso histórico para los chatbots modernos
El fenómeno suele llamarse «efecto ELIZA»: atribuimos comprensión humana a una máquina porque se expresa de una manera que nos resulta familiar. Los modelos modernos son técnicamente muy diferentes y pueden resolver tareas que ELIZA nunca habría podido completar. Pero la pregunta sobre nuestra confianza continúa vigente.
Cuando un asistente responde con seguridad, el gesto inteligente no es decidir de inmediato que nos entiende ni desechar todo lo que dice. Es pedir razones, contrastar datos importantes y saber qué capacidades están realmente documentadas. La paradoja de Weizenbaum conserva su fuerza: el programa parecía entender a las personas; el descubrimiento más importante quizá fuera cuánto necesitábamos nosotros sentirnos entendidos.