La machine qui écoutait trop bien

En 1966, un programme d'à peine quelques pages de code imitait un psychothérapeute. Son créateur a pris peur en découvrant que les gens lui racontaient toute leur vie.

Il s'appelait ELIZA et c'est Joseph Weizenbaum qui l'a écrit au MIT. Son astuce tenait presque du jeu de société : il repérait des mots-clés et te renvoyait tes propres phrases transformées en questions. Si tu écrivais « je suis triste à cause de ma mère », il répondait quelque chose comme « parle-moi davantage de ta mère ». Il ne comprenait absolument rien.

Et pourtant cela a trop bien marché. Weizenbaum a raconté que sa propre secrétaire, qui savait parfaitement comment le programme était fait, lui a demandé un jour de quitter le bureau pour pouvoir parler à ELIZA seule à seule. Cela l'a transformé : il est devenu l'un des premiers grands critiques de l'intelligence artificielle. Aujourd'hui, on appelle « effet ELIZA » notre tendance à prêter de la compréhension à des machines qui ne font qu'imiter. Soixante ans plus tard, il convient de s'en souvenir.

Source : MIT