La ilusión de ser escuchado
ELIZA no leía la mente de nadie. Joseph Weizenbaum diseñó en los años sesenta un sistema que examinaba palabras y aplicaba reglas de transformación para producir respuestas. El guion DOCTOR era especialmente adecuado para parecer atento: una pregunta abierta podía invitar al usuario a seguir hablando sin que el programa tuviera que comprender realmente su experiencia.
La historia más desconcertante no está en el código, sino en las reacciones humanas. El Instituto Weizenbaum recuerda que algunas personas atribuyeron empatía y comprensión a aquel programa. No hay que inventar una entrevista privada para que el relato sea fascinante: el contraste entre reglas sencillas y confianza emocional ya es suficientemente potente.
La prueba que deberíamos hacer hoy
Los modelos conversacionales actuales utilizan técnicas mucho más elaboradas. Aun así, una respuesta natural no garantiza exactitud ni demuestra experiencias internas. El llamado efecto ELIZA explica una predisposición humana, no una incapacidad de todos los sistemas de IA.
La recomendación práctica es distinguir dos preguntas: «¿Me ha respondido de una forma convincente?» y «¿Puedo verificar que la respuesta es correcta y apropiada para mi situación?». Hace sesenta años, un pequeño programa mostró por qué esa diferencia importa.