3. Suffit-il à une machine de parler pour penser ?

Le test de Turing

LE TEST DE TURING (article de Philosophie Magazine)
« À la question épineuse : “Les machines peuvent-elles penser ?”, Turing a proposé une réponse habile et indirecte, en fixant les règles de ce qu’il appelle le “jeu de l’imitation”. En résumé, une personne [C] communique à l’aveugle par messages écrits interposés avec deux partenaires [A et B], dont l’un est un humain [B] et l’autre un ordinateur [C] qui essaie de se faire passer pour un humain. Le test est considéré réussi si le juge n’arrive pas à déterminer qui est l’humain et qui est la machine. En 1950, Turing a prédit : “dans cinquante ans”, il sera possible de programmer un ordinateur “de telle façon qu’un interrogateur moyen n’aura pas plus de 70 % de chances de procéder à la bonne identification après cinq minutes de conversation”. (…) Lors du Turing Test 2014, le programme informatique Eugene a réussi à faire croire à dix juges sur trente qu’il était un adolescent ukrainien durant cinq minutes, mais la tâche lui a été simplifiée par le fait qu’il disait avoir 13 ans et ne pas posséder l’anglais comme langue maternelle. Ceci n’élude pourtant pas la question centrale : si un chatbot peut discuter avec vous en se faisant passer pour un humain, cela signifie-t-il que le programme pense ? Le philosophe John R. Searle ne le croit pas, lui qui a opposé au test de Turing le célèbre exemple de la “chambre chinoise” (1980). Supposons qu’un homme soit enfermé dans une pièce et qu’on lui transmette des messages en caractères chinois. Cet homme ne lit pas cette langue, mais il dispose d’un manuel, qui lui permet de trouver, pour chaque question posée, une petite plaquette sur laquelle une réponse appropriée est calligraphiée. Le questionneur, à l’extérieur de la chambre, aura l’illusion de converser avec quelqu’un qui connaît le chinois. Or, il n’en est rien. L’ordinateur ne comprend pas ce qu’il dit. Il exécute des règles syntaxiques, mais sans contenu sémantique – les mots n’ont pas de sens pour lui.
1. Expliquez en quoi consiste le test de Turing. 2. Que prédit Turing ? Cette prédiction a-t-elle été réalisée ? 3. Le fonctionnalisme, ou computationnalisme (-> voir dans l'abécédaire), est une théorie qui conçoit l'esprit comme un système de traitement de l'information et compare la pensée à un calcul (en anglais : “computation”). Expliquez en quoi la thèse de Turing repose sur cette hypothèse fonctionnaliste. 4. Expliquez l’exemple de la chambre chinoise de John Searle et en quoi elle remet en cause le test de Turing. 5. Sur quelle définition de la pensée se repose Searle, et en quoi s’oppose-t-elle à celle de Turing ?

LE TEST DE TURING (article de Philosophie Magazine)

« À la question épineuse : “Les machines peuvent-elles penser ?”, Turing a proposé une réponse habile et indirecte, en fixant les règles de ce qu’il appelle le “jeu de l’imitation”. En résumé, une personne [C] communique à l’aveugle par messages écrits interposés avec deux partenaires [A et B], dont l’un est un humain [B] et l’autre un ordinateur [C] qui essaie de se faire passer pour un humain. Le test est considéré réussi si le juge n’arrive pas à déterminer qui est l’humain et qui est la machine. En 1950, Turing a prédit : “dans cinquante ans”, il sera possible de programmer un ordinateur “de telle façon qu’un interrogateur moyen n’aura pas plus de 70 % de chances de procéder à la bonne identification après cinq minutes de conversation”. (…)
Lors du Turing Test 2014, le programme informatique Eugene a réussi à faire croire à dix juges sur trente qu’il était un adolescent ukrainien durant cinq minutes, mais la tâche lui a été simplifiée par le fait qu’il disait avoir 13 ans et ne pas posséder l’anglais comme langue maternelle. Ceci n’élude pourtant pas la question centrale : si un chatbot peut discuter avec vous en se faisant passer pour un humain, cela signifie-t-il que le programme pense ? Le philosophe John R. Searle ne le croit pas, lui qui a opposé au test de Turing le célèbre exemple de la “chambre chinoise” (1980). Supposons qu’un homme soit enfermé dans une pièce et qu’on lui transmette des messages en caractères chinois. Cet homme ne lit pas cette langue, mais il dispose d’un manuel, qui lui permet de trouver, pour chaque question posée, une petite plaquette sur laquelle une réponse appropriée est calligraphiée. Le questionneur, à l’extérieur de la chambre, aura l’illusion de converser avec quelqu’un qui connaît le chinois. Or, il n’en est rien. L’ordinateur ne comprend pas ce qu’il dit. Il exécute des règles syntaxiques, mais sans contenu sémantique – les mots n’ont pas de sens pour lui.

1. Expliquez en quoi consiste le test de Turing.
2. Que prédit Turing ? Cette prédiction a-t-elle été réalisée ?
3. Le fonctionnalisme, ou computationnalisme (-> voir dans l'abécédaire), est une théorie qui conçoit l'esprit comme un système de traitement de l'information et compare la pensée à un calcul (en anglais : “computation”). Expliquez en quoi la thèse de Turing repose sur cette hypothèse fonctionnaliste.
4. Expliquez l’exemple de la chambre chinoise de John Searle et en quoi elle remet en cause le test de Turing.
5. Sur quelle définition de la pensée se repose Searle, et en quoi s’oppose-t-elle à celle de Turing ?

ALAN TURING, Les ordinateurs et l’intelligence (1950)
« L’argument de la conscience. Cet argument est très bien exprimé par le Professeur Jefferson dans son discours d’obtention de la médaille Lister, dont je cite : “Pas avant qu’une machine n’ait écrit un sonnet ou composé une symphonie à cause d’émotions et pensées ressenties, et pas par le hasard de concordance de symboles, nous ne pourrons être d’accord sur le fait qu’une machine égale un cerveau humain, c’est-à-dire que non seulement cette machine écrit mais qu’en plus, elle sait ce qu’elle a écrit. Aucun mécanisme ne pourrait ressentir de plaisir lorsqu’il réussit (et pas seulement des signaux artificiels, des stratagèmes faciles), ne pourrait être réconforté par des flatteries, ou rendu misérable par ses erreurs, charmé par le sexe, en colère ou déprimé parce qu’il n’arrive pas obtenir ce qu’il veut.” »
Dans cet article où il imagine son jeu de l’imitation, Alan Turing expose une objection qu’on pourrait lui faire : les machines ne penseront jamais, parce qu’elles ne peuvent pas être conscientes. 1. Qu’est-ce que la conscience, selon Jefferson ? 2. En quoi cet argument de la conscience remet-il en question la thèse de Turing selon laquelle un ordinateur pourrait un jour penser ? 3. Que pourrait répondre Turing à cette objection ?

ALAN TURING, Les ordinateurs et l’intelligence (1950)

« L’argument de la conscience. Cet argument est très bien exprimé par le Professeur Jefferson dans son discours d’obtention de la médaille Lister, dont je cite : “Pas avant qu’une machine n’ait écrit un sonnet ou composé une symphonie à cause d’émotions et pensées ressenties, et pas par le hasard de concordance de symboles, nous ne pourrons être d’accord sur le fait qu’une machine égale un cerveau humain, c’est-à-dire que non seulement cette machine écrit mais qu’en plus, elle sait ce qu’elle a écrit. Aucun mécanisme ne pourrait ressentir de plaisir lorsqu’il réussit (et pas seulement des signaux artificiels, des stratagèmes faciles), ne pourrait être réconforté par des flatteries, ou rendu misérable par ses erreurs, charmé par le sexe, en colère ou déprimé parce qu’il n’arrive pas obtenir ce qu’il veut.” »

Dans cet article où il imagine son jeu de l’imitation, Alan Turing expose une objection qu’on pourrait lui faire : les machines ne penseront jamais, parce qu’elles ne peuvent pas être conscientes.
1. Qu’est-ce que la conscience, selon Jefferson ?
2. En quoi cet argument de la conscience remet-il en question la thèse de Turing selon laquelle un ordinateur pourrait un jour penser ?
3. Que pourrait répondre Turing à cette objection ?

Exercice

Expliquez les deux citations suivantes :
- « La pensée est le dialogue intérieur et silencieux de l'âme avec elle-même. » (Platon, Ve s. av. J.C.)
- « Penser, c'est dire non ; c’est à elle-même que la pensée dit non, elle se sépare d’elle-même, elle combat contre elle-même. Réfléchir, c'est nier ce que l'on croit. » (Alain, 20e s.) [Voir les répères conceptuels Croire – Savoir].
À partir de ces citations et de tout ce qui a été vu précédemment, répondez à la question de notre leçon : « Une intelligence artificielle pense-t-elle vraiment ? »

Le test de Turing​

Complément vidéo​

Le test de Turing

Complément vidéo