L’IA, du mythe de Talos à la machine de Turing

Nicolas Rousseau est professeur de philosophie. Il a publié plusieurs essais avec Henri de Monvallier : Blanchot l’Obscur (Autrement, 2015), La Phénoménologie des professeurs (L’Harmattan, 2020) Les Imposteurs de la philo (Le Passeur, 2019) et Les Mirages postmodernes (à paraître en 2023). Il vient de publier son premier roman, L’IA qui m’aimait, qui imagine, dans un avenir proche, l’arrivée d’intelligences artificielles de plus en plus conscientes, comme les êtres humains.

De quand date l’idée d’intelligence artificielle ?

Nicolas Rousseau : L’expression « artificial intelligence » a été inventée en 1956, lors d’un atelier scientifique de l’université de Dartmouth aux États-Unis. Le mathématicien John McCarthy et ses collègues cherchaient une formule plus attrayante que « automata studies » (étude des automates). John McCarthy s’intéressait aussi à la logique du sens commun et à la façon dont on pourrait l’implanter dans des machines. (Ces recherches sont poursuivies aujourd’hui par quelqu’un comme Yann LeCun, directeur de recherche sur l’IA chez Meta. Nous pourrons en reparler.)

Si l’expression d’IA date de 1956, l’idée d’un être humain artificiel est bien plus ancienne. En fait, elle se perd dans la nuit des temps (1) ! Je vous en donne quelques exemples.

Dans la mythologie grecque, le géant de bronze Talos est tantôt présenté comme un membre de la race de bronze et père de Héphaïstos, le forgeron des dieux ; tantôt comme un automate forgé par Héphaïstos pour protéger la Crète. Le sang qui coule dans son corps n’est pas humain mais divin, c’est l’ichor. Lorsque Jason et les Argonautes débarquent sur l’île, ils sont accueillis par un déluge de pierres lancé par Talos !
Pour remporter la Toison, Jason et ses compagnons doivent réussir des épreuves surhumaines. L’une d’elle consiste à semer les dents du dragon tué par le guerrier Cadmos. De ces dents germent des guerriers, les Spartes, qui attaquent Jason et ses compagnons.

Plusieurs mythes entourent les progrès de la sculpture grecque dans sa représentation de l’homme.
Aphrodite récompense le sculpteur Pygmalion en donnant vie à sa sculpture, Galatée.
Dédale, le bâtisseur du labyrinthe, passe pour avoir créé des statues vivantes. C’est aussi lui qui fabrique les ailes de son fils Icare, ce qui fait de ce dernier le premier humain augmenté ! Dédale est l’astucieux, l’ingénieux, reconnu pour ses réalisations exceptionnelles comme sculpteur, forgeron, architecte et inventeur en général.

Dans la mythologie, seul un pouvoir divin (2) peut animer la matière, donc en fabriquant des machines, les hommes reproduisent un pouvoir divin. Ces mythes mettent donc en scène des relations entre les hommes, les artefacts et les dieux.
Dans une de ses Odes olympiques, Pindare parle du peuple Rhodien (3) à qui Athéna accorde « le don de surpasser par leur adresse tous les autres peuples ; dès lors leurs places publiques furent ornées de statues magnifiques semblables à des hommes vivants. »
Dans cette même Ode, Pindare affirme que « l’homme habile a d’autant plus de talent qu’il n’a pas recours à de vains artifices. » Il peut s’en passer grâce au pouvoir conféré par les dieux. Est-ce qu’un jour, les hommes arriveront à créer un être artificiel en tous points semblables à un homme ?
Plusieurs ingénieurs grecs ont construit des automates. Ainsi, Philon de Byzance (IIIème avant J.-C.) crée une « servante automatique » : lorsqu’on pose une coupe dans sa main, elle y verse du vin et de l’eau (4).

* Les automates se retrouvent dans les mythes d’autres cultures, tout au long de l’histoire. Une légende de l’Inde ancienne parle d’une poupée appelée en sanskrit Yantraputraka (यन्त्रपुत्रक), qui imite en tous points une femme. L’histoire est rapportée dans un texte bouddhiste, le Mahāvastu (5), un recueil de légendes sur Bouddha.
Un peintre est invité chez un inventeur célèbre. Le soir, le peintre rejoint sa chambre et découvre qu’il y est attendu par une très belle femme. Celle-ci, timide, ne dit rien et baisse les yeux. Elle prend les mains du peintre et les met sur sa poitrine. Le peintre voit la broche de la femme qui monte et descend au rythme de sa respiration. Il n’a donc aucun doute sur le fait qu’elle soit humaine. Pris d’amour pour elle, il la serre dans ses bras mais elle tombe en morceaux ! Ce n’était qu’une poupée mécanique !
Le peintre comprend que l’inventeur s’est joué de lui. Il reconnaît toutefois que l’inventeur a réalisé un véritable chef-d’œuvre. Le peintre décide donc d’en remontrer à son hôte, en lui montrant à son tour ce qu’il sait faire ! Pour cela, il se peint sur le mur de la chambre, pendu à une corde attachée à un crochet ! Puis il se cache derrière un rideau. Le matin, l’inventeur découvre la poupée en pièces et son invité pendu. Il se précipite chez le roi, qui envoie ses magistrats. Ceux-ci constatent la mort du peintre. Comme l’inventeur s’apprête à couper la corde avec une hache, le peintre sort de sa cachette et s’exclame : « Ne détruis ni ton mur ni ma peinture. Regarde de plus près : l’un est une peinture, l’autre le peintre. Pourquoi ne fais-tu pas la différence ? » Tout le monde est d’abord ébahi puis éclate de rire !

Cette légende veut illustrer l’idée que la source de tous les biens est la connaissance, la source de tous les maux, l’ignorance. La mésaventure du peintre prouve que la beauté sans le savoir peut susciter l’amour mais n’est d’aucun bénéfice pour l’homme. Cette légende invite à une prise de conscience : face à la poupée brisée, le peintre comprend que l’homme est fait de morceaux assemblés d’os, de chair et de nerfs, comme la poupée est faite de cordes, d’articulations et de chiffons. Nous ne sommes que des machines qui donnent l’apparence de l’individualité. L’amour pour l’individu est donc une passion aveugle.
De plus, la ruse du peintre peut illustrer l’idée que la différence entre l’être et l’apparence est illusoire. Pour le bouddhisme, l’attachement aux choses provient de l’ignorance et engendre la souffrance. Dans le texte, l’ignorance est symbolisée par une plante de l’Himalaya, qui enfonce profondément ses racines dans la terre et repousse plus loin : quand on la coupe, elle a déjà ressurgi ailleurs. Si on ne détruit pas l’ignorance, elle se propage sans cesse.

* Dans la tradition juive, l’être artificiel appelé golem (גולם) est façonné par les hommes dans la glaise. Le mot golem veut dire embryon, inachevé. Les Psaumes (139:16) disent : « Quand je n’étais qu’une masse informe, tes yeux me voyaient… » L’expression « masse informe » traduit le mot hébreu pour golem (6).
Le golem de Prague protège les Juifs contre les pogroms. Pour l’animer, il faut graver sur son front un des 72 noms de Dieu, EMET (אמת) qui veut dire la vérité. Pour arrêter le golem, il faut effacer la première lettre du mot sur son front, c’est-à-dire le aleph, première lettre de l’écriture hébraïque, symbole de la création divine : le mot EMET (אמת) devient MET (מת), qui signifie la mort, et le golem tombe en poussière.

Selon une autre version de la légende, les rabbins animent le golem en lui glissant dans la bouche un parchemin sur lequel est écrit le nom de Dieu, Hachem, le nom ineffable qui remplace celui que les hommes ne doivent pas prononcer. Mais le Golem devient incontrôlable. Pour l’arrêter, Rabi Loew a recours à une ruse : il demande au golem de lui refaire ses lacets. Le golem se penche et le Rabi en profite pour lui retirer le parchemin de la bouche ! Le golem s’endort et depuis, les Juifs le gardent en secret dans le grenier de la synagogue de Prague.
Le golem est une créature humaine donc imparfaite. En effet, il est fait de glaise alors qu’Adam est fait à partir de la poussière de la terre (Genèse, 2:7). C’est un serviteur stupide, dénué de libre-arbitre. Il ne peut pas voir la vérité, puisqu’elle est écrite sur son front. C’est une inintelligence artificielle ! En hébreu moderne, un golem désigne un idiot, un imbécile.

* Toutes ces créations mythologiques ont pour héritières ce qu’on appelle la biotechnique, c’est-à-dire la science de la reproduction artificielle de processus organiques. Voyez les tentatives actuelles, au Japon, de créer une « gynoïde » (une androïde femme). Par exemple, ChihiraAico, hôtesse d’accueil d’un grand magasin de Tokyo (7). La Yantraputraka est pour sa part une ancêtre des actuelles sex-dolls. Or, malgré les mises en garde des sages bouddhistes, certains Japonais prétendent avoir trouvé l’amour avec des poupées en silicone (8) !

C’est un sujet passionnant, extrêmement riche. On pourrait continuer ce tour du monde pendant des heures, en Chine, au Moyen-Orient etc. !

Je ne résiste pas au plaisir de vous faire découvrir une dernière créature artificielle, inventée par l’écrivain Edmund Spenser dans son roman épique The Faerie Queene (1590). Au livre V du roman, nous rencontrons le noble chevalier Arthegal, qui a été instruit des règles de la justice par une créature céleste, Astræa, afin de combattre l’iniquité et la souillure dans lesquelles le monde est tombé depuis qu’il a déchu de sa perfection ! Astræa donne à Arthegal une épée enchantée, Chrysaor, « qui surpasse toutes les autres épées ». Puis, quand elle remonte au ciel vivre parmi les étoiles (comme son nom l’indique), Astræa laisse sur terre son serviteur, Talus, un homme d’acier, chargé d’exécuter ses jugements impitoyables (« her steadfast dooms » !) Elle lui ordonne de servir désormais Arthegal et de lui obéir en toutes circonstances.
Spenser nous dit que Talus était « fait d’un moule de fer, immuable, irrésistible, indestructible. Il tenait dans sa main un fléau de fer, avec lequel il battait le mensonge et révélait la vérité (9). »
La métaphore est admirable : de son fléau, le chevalier d’acier bat le mensonge comme on fait le battage du blé pour enlever de la tige les grains, c’est-à-dire la vérité !

L’homme de fer Talus, inspiré du géant de bronze Talos, est le bras armé de la justice, dont les principes sont incarnés par le chevalier Arthegal. Talus n’a pas de sentiment. Il obéit aveuglément aux ordres du chevalier. Ensemble, ils rencontrent un géant orgueilleux, qui prétend peser le monde entier avec sa balance, puis l’amener à un équilibre parfait en supprimant tous les inégalités : « Il jetterait les montagnes et les mettrait au niveau de la plaine ; il enfoncerait les rochers imposants dans la mer la plus profonde ; il supprimerait les tyrans, afin qu’ils ne puissent plus régner ; et il enlèverait toutes les richesses des hommes riches pour les donner aux pauvres. » Comment ne pas imaginer ce géant avec la tête de Jean-Luc Mélenchon ?…
« Tout le peuple ignorant et stupide se rassembla autour du géant, et s’agglutina pour écouter ses vaines élucubrations, comme de folles mouches autour d’un pot de miel, car ils espéraient obtenir de lui de grands avantages et une liberté incontrôlée. »
Spenser ne voterait sans doute pas pour la France Insoumise !
Voyant que ce monstre, qui s’est fait une idée folle de la justice, ne l’écoutera jamais, Arthegal ordonne à Talus de l’attaquer. L’homme de fer charge aussitôt et précipite le géant dans la mer, où il se noie. Le Moyen-Âge avait déjà son Iron Man !

Plus tard, Talus doit combattre les cruelles amazones à la place de son chevalier. En effet, Arthegal considère qu’il est indigne de lui de se battre contre des femmes, il laisse donc Talus le faire à sa place ! On s’aperçoit qu’au cours de leurs aventures, Talus fait un usage des plus généreux de son fléau de fer, abattant quantités d’ennemis, sans le moindre remords. Avec lui, la justice ne souffre aucune faiblesse.
Si Arthegal est l’incarnation de la justice dans sa pureté, Talus, l’homme de fer, représente le côté aveugle de la justice, qui devient sanglante quand elle n’est pas adoucie par l’équité et le sens du pardon.

Tout ceci peut paraître anecdotique et bien éloigné de nous. Mais, aujourd’hui, nous voyons arriver des robots soldats et des drones militaires. Comment faire pour qu’ils ne deviennent pas des tueurs impitoyables, à l’image du Terminator dont les affiches avaient pour slogan : « Insensible à la douleur et à la pitié. Impossible à arrêter » ? On commence aussi à faire appel à des IA pour aider aux décisions de justice (10) dans le but d’éviter les biais humains dans les jugements (11). On devine les risques d’une justice aveugle, à la Talus.

Ces exemples montrent que l’IA tient à la fois de la science, de la technique, de la philosophie et de la mythologie. C’est pourquoi elle fascine, elle fait peur, elle émerveille et, dans le meilleur des cas, elle permet aussi de réfléchir.

Mort de Talos (cratère du IVe siècle avant J.-C., Palazzo Jatta, Ruvo di Puglia, Italie) (CC BY 4.0 Wikipedia)

Vous avez abordé les sources mythologiques de l’intelligence artificielle. En quel sens l’IA peut-elle être un objet spécifiquement philosophique ?

Nicolas Rousseau : Dans le Ménon, Socrate compare les opinions vraies aux statues animées de Dédale. Celles-ci « ne demeurent pas en place ; attachées, au contraire, elles ont une grande valeur, car ce sont de très belles œuvres. Qu’est-ce donc qui m’amène à t’en parler ? Ce sont les opinions vraies. Celles-ci également, tant qu’elles demeurent, il faut se féliciter, car elle ne produisent que des avantages ; mais elles ne consentent pas à rester longtemps et s’échappent bientôt de notre âme, de sorte qu’elles sont de peu de valeur, tant qu’on ne les a pas enchaînées par un raisonnement de causalité » (Ménon, 97d – 98a).
Dans L’Eutyphron (11c), les statues de Dédale sont l’image des principes mal établis :
« Euthyphron : Mais, Socrate, je ne sais comment t’expliquer ce que je pense ; car tout ce que nous établissons semble tourner autour de nous, et ne vouloir pas tenir en place.
Socrate : Euthyphron, tes principes ressemblent assez aux figures de Dédale, mon aïeul. Si c’était moi qui eusse mis en avant ces principes, tu n’aurais pas manqué de me dire que je tiens de lui cette belle qualité de faire des ouvrages qui s’enfuient, et ne veulent pas demeurer en place. »
La comparaison des deux passages est intéressante : les idées et les principes ne valent rien si nous ne pouvons pas les enchaîner dans notre esprit par un raisonnement ferme. Enchaîner au double sens de les emprisonner et de les amener les uns après les autres, dans l’ordre logique. Comme dirait Descartes : « Ce n’est pas assez d’avoir l’esprit bon, mais le principal est de l’appliquer bien. »

Dernier point et non des moindres, Socrate se sert de cette image des statues animées pour définir son propre art : « Je suis donc plus habile dans mon art que n’était Dédale ; il ne savait donner cette mobilité qu’à ses propres ouvrages, au lieu que je la donne, à ce qu’il me paraît, non-seulement aux miens, mais à ceux des autres » (Eutyphron, 11d).
Dédale donne vie à ses statues comme Socrate donne vie aux idées de ses interlocuteurs. L’IA est donc un objet philosophique parce que, comme l’inventeur cherche à engendrer l’intelligence dans la machine, le philosophe cherche à susciter l’intelligence en l’homme.

Puisque vous évoquez Descartes, pouvez-vous expliquer comment ce dernier aide à penser l’intelligence artificielle ?

Nicolas Rousseau : Selon une légende, Descartes aurait construit un automate à l’image de sa fille Francine après la mort de celle-ci, pour se consoler de sa perte ! Un auteur de la fin du XVIIème siècle, Noël Argonne, rapporte une anecdote selon laquelle « M.Décartes aïant mis cette machine sur un Vaisseau, le Capitaine eut la curiosité d’ouvrir la caisse dans laquelle elle étoit enfermée ; & que surpris des mouvemens qu’il remarqua dans cette machine qui se remuoit comme si elle eût été animée, il la jetta dans la Mer, croïant que ce fût un Diable (12). »

Cette légende de la fille robotique de Descartes semble sortie tout droit d’un récit de science-fiction ! Cette figure de l’automate-enfant se retrouve dans d’autres œuvres de SF. Dans le dessin animé japonais Astro, le petit robot, l’inventeur perd son fils dans un accident de voiture et crée Astro à l’image de ce fils ! Ce projet est à la fois touchant et — si l’on y pense — effrayant et fou !

En partant de ce fantasme de re-création artificielle du vivant, l’auteur d’Astro, Osamu Tezuka, a touché quelque chose de juste : le désir de recréer le vivant par-delà la mort.

La légende du robot Francine a aussi une dimension heuristique (13): est-il possible de donner vie à un être artificiel ? L’auteur du Discours de la méthode aurait-il pu croire à un tel projet ?
Que Descartes puisse tenir un automate pour pensant semble en contradiction avec sa conception de l’âme comme immatérielle (14). Comment donc un automate pourrait-il donc avoir une âme ? Si l’on pouvait faire un humain artificiel, cela prouverait que l’âme est matérielle, ce qui invaliderait la thèse de Descartes !

La théorie cartésienne ne permet donc pas, me semble-t-il d’envisager une intelligence artificielle. En réalité, il est plus probable que Descartes ait fabriqué cet automate — s’il a vraiment fait — pour prouver que les mouvements du corps sont purement mécaniques. C’est ce qu’a fait l’ingénieur Vaucanson, un siècle plus tard, avec son canard mécanique reproduisant toutes les fonctions organiques de l’animal. En disciple de Descartes, Vaucanson voulait prouver que les animaux sont assimilables à des machines parce que tous leurs mouvements peuvent être reproduits artificiellement.

Nous pouvons cependant tirer de Descartes un critère pour décider qu’une machine serait douée de pensée : cette machine pourrait parler avec à-propos, c’est-à-dire avec l’intention de dire ce qu’elle pense « à propos des sujets qui se présentent », et ceci en suivant la raison. C’est ce dont le perroquet n’est pas capable selon Descartes, car l’animal ne fait qu’imiter les sons qu’il entend (15). Une machine douée de conscience ne simulerait pas le langage, elle parlerait vraiment.

C’est ce qu’a prétendu, en janvier 2022, un ingénieur de Google, Blake Lemoine, au sujet de son logiciel de conversation, LaMDA (Langage Model for Dialog Application). Il a soutenu que son « chatbot » (logiciel de conversation) pouvait réellement parler et qu’il était donc une personne consciente (16) !
Mais jusqu’à preuve du contraire, l’IA imite une conversation comme le perroquet imite des mots. L’IA n’est pas intelligente mais elle est bien plus trompeuse qu’un perroquet.

Selon Descartes, il serait impossible de faire un esprit artificiel mais tout à fait possible d’augmenter indéfiniment les forces du corps. Grâce à la médecine « on se pourrait exempter d’une infinités de maladies, tant du corps que de l’esprit, et même aussi peut-être de l’affaiblissement de la vieillesse, si on avait assez de connaissances de leurs causes, et de tous les remèdes dont la nature nous a pourvus (17). »
Descartes veut-il dire qu’on ne vieillirait plus du tout (on aurait la jeunesse éternelle) ou qu’on ne se sentirait plus affaibli par la vieillesse, et qu’on mourrait donc en bonne santé (si l’on peut dire) ? Dans les deux cas, la conjecture cartésienne n’est pas loin du souhait transhumaniste : trouver le gène responsable du vieillissement et le « désactiver ».

Qu’est-ce que les transhumanistes attendent d’un homme au corps augmenté, voire totalement artificiel ? L’immortalité, bien sûr ! J’ai été surpris de lire, dans une interview récente (18), une déclaration d’Elon Musk où il dit que l’immortalité ne devrait pas être notre priorité. Il ajoute même qu’on ne devrait pas empêcher le vieillissement : « Combien de temps auriez-vous aimé que Staline vive ? » Musk est donc plus prudent que Descartes, qui pensait que la médecine permettrait de prolonger indéfiniment la vie humaine et qu’elle devrait le faire.

La science et la science-fiction ne sont-elles pas inspirées par le projet cartésien de nous rendre « comme maîtres et possesseurs de la nature » ?

Nicolas Rousseau : En effet, l’idée de maîtrise de la nature et du vivant est un héritage cartésien. Être comme maître de la nature que Dieu nous a confiés signifie, pour Descartes, en avoir une parfaite connaissance et savoir l’utiliser pour nos besoins.
La théorie de l’âme et du corps fait partie de l’imaginaire de la science-fiction, puisque celle-ci s’interroge fréquemment sur la limite entre l’homme et la machine. Elle met en scène des androïdes pensants. Ce sont les Réplicants dans Blade Runner. Le policier qui traque ces humains artificiels s’appelle d’ailleurs Deckard.
Le manga Ghost in the Shell reprend aussi le schéma cartésien. L’expression « fantôme dans l’enveloppe » désigne l’âme dans un corps (artificiel).

Pour Descartes, l’homme se définit comme l’union substantielle d’une âme et d’un corps. Comme il l’écrit dans la lettre à Élisabeth du 21 mai 1643, l’union de l’âme et du corps est une notion primitive, irréductible à d’autres, à partir de laquelle « nous formons toutes nos autres connaissances ».
Cette idée d’union de l’âme et du corps relève de l’évidence immédiate pour Descartes. On peut la trouver obscure. Comment une chose matérielle pourrait-elle être dans une enveloppe matérielle ?… C’est le nerf de la critique de Spinoza :

« En vérité je ne puis assez m’étonner qu’un Philosophe […] admette une hypothèse plus occulte que toute qualité occulte. Qu’entend-il, je le demande, par l’union de l’Âme et du Corps ? Quelle conception claire et distincte a-t-il d’une pensée très étroitement liée à une certaine petite portion de l’étendue (19) ? »

Comme on le sait, pour Descartes, l’âme n’est pas seulement dans le corps comme un pilote dans son navire, elle est intimement liée à lui :

« La nature m’enseigne aussi par ces sentiments de douleur, de faim, de soif, etc., que je ne suis pas seulement logé dans mon corps, ainsi qu’un pilote en son navire, mais, outre cela, que je lui suis conjoint très étroitement et tellement confondu et mêlé, que je compose comme un seul tout avec lui. Car, si cela n’était, lorsque mon corps est blessé, je ne sentirais pas pour cela de la douleur, moi qui ne suis qu’une chose qui pense, mais j’apercevrais cette blessure par le seul entendement, comme un pilote aperçoit par la vue si quelque chose se rompt dans son vaisseau… (20)»

Tant que nous sommes en vie, l’âme ne fait qu’un avec le corps. Il ne me semble pas que cela résolve le problème du mélange que suppose Descartes entre le matériel et l’immatériel. Dire que l’union est une notion première, à côté de l’âme et du corps conçus distinctement, n’éclaire en rien la question. Il est impossible d’analyser cette notion d’union puisqu’elle est censée être simple. Or, comment une union pourrait-elle n’être pas composée de parties (deux en l’occurrence) ? Pour Descartes, nous ne pouvons pas comprendre cette union par l’entendement, nous ne pouvons que la sentir. On peut dire que la science-fiction ne cesse de mettre en scène ce mystère, voire cette impossibilité.

Est-ce qu’une IA finira par passer le test de Turing ?

Nicolas Rousseau : En réalité, c’est déjà fait. Plusieurs logiciels de conversations ont réussi à passer pour humains auprès de jurys d’experts. Reste la question de savoir si le test de Turing est valable.

L’article fondateur d’Alan Turing, « Computing Machinery And Intellligence (21) » (1950) est un texte brillant et limpide, qui pose toutes les questions sur l’IA et qui nous montre aussi les limites de cette notion. L’expression artificial intelligence ne se trouve pas dans l’article (on a vu qu’elle a été inventée six ans plus tard par John McCarthy) mais l’idée y est.
Turing se demande si les machines pensent. Il lui semble impossible de répondre directement à cette question, qui est au fond métaphysique : qu’appelle-t-on penser ? Turing réfléchit donc à un protocole expérimental. Il propose un test à l’aveugle, qu’il nomme jeu d’imitation (imitation game). Un examinateur humain est face à deux interlocuteurs cachés derrière des panneaux. L’un est humain, l’autre est un ordinateur. Le test de Turing consiste pour l’ordinateur à passer pour humain auprès de l’examinateur.
Dan son article, Turing se propose ensuite de réfuter un grand nombre d’objections contre la possibilité d’une machine douée de conscience. Modestement, il admet que s’il passe autant de temps à réfuter les opposants à l’IA, c’est peut-être parce qu’il n’a guère d’arguments pour défendre sa thèse ! Aux yeux de Turing, il est évident qu’en l’an 2000, les machines seront douées de conscience. Il ne voit pas pourquoi ce ne serait pas le cas.

Depuis, plusieurs logiciels ont réussi le test de Turing. Cela prouve-t-il qu’ils sont doués de conscience ? Non, cela prouve qu’ils ont réussi à tromper des examinateurs humains, rien de plus, rien de moins. C’est la limite du test de Turing, qui est un jeu d’imitation. Il ne teste pas tant la pensée que la capacité de la machine à imiter le langage, donc la facilité avec laquelle l’homme se laisse tromper ! Les protocoles mis en place pour le test de Turing sont variables. Turing lui-même n’a pas proposé de règles fixes. Lors des divers essais, il y a eu plus ou moins de jurés, avec des temps imposés de conversation plus ou moins longs, des sujets de discussions variés etc. Certains logiciels, comme « Eugene Gootsman » (22) ont réussi à tromper un quart ou un tiers du jury. Est-ce suffisant pour dire que le chatbot a gagné ?…

Dans mon roman, je reprends une idée trouvée dans plusieurs articles spécialisés : qu’une machine puisse passer le test de Turing n’est pas une bonne nouvelle. Il n’est pas rassurant de savoir que la seule façon pour l’IA de prouver qu’elle est consciente est : soit de nous tromper, soit de mettre en doute le fait que nous soyons conscients !
Si les hommes ne sont que des poupées mécaniques (souvenez-vous de la Yantraputraka, ou pensez à l’image cartésienne des passants dans la rue (23)), cela règle la question. Comment est-ce que je sais que les autres hommes sont doués de conscience ? Quelle preuve en ai-je ? Husserl (théorie de l’intersubjectivité) ou des philosophes analytiques ont réfléchi à cette question (hypothèse du zombie (24)). Comment puis-je savoir que je ne suis pas le seul être doué de conscience ? Pour sa part, Turing répond, avec un certain humour : « Instead of arguing continually over this point it is usual to have the polite convention that everyone thinks. » « Plutôt que de débattre sans fin de cette question, en général on admet par politesse que tout le monde pense. »

On peut donc se poser la question technique des progrès de l’IA : comment améliorer ses capacités de conversation ? Il ne faudrait pas oublier une autre question, plus fondamentale à mon avis et qui touche à l’éducation et à la morale : comment désapprendre à croire qu’une machine est consciente ?

Que manque-t-il à l’IA pour être vraiment douée de conscience ?

Nicolas Rousseau : L’IA a des facultés de calculs énormes mais elle ne peut pas réaliser des tâches quotidiennes simples. C’est le paradoxe de Moravec : ce qui est le plus difficile pour l’humain est facile pour l’IA : intégrer d’énormes quantité de données, jouer aux échecs. Réciproquement, ce qui est facile pour l’humain est très difficile pour l’IA : utiliser une douche, conduire une voiture. L’IA est dénuée de ce que développent en premier les enfants : les sensations et la perception du monde.
Yann LeCun, spécialiste de l’IA et responsable chez Meta, cherche à implanter dans l’IA des modèles de monde (world models), autrement dit un ensemble de règles d’anticipation qui, pour nous, relèveraient du sens commun. Comment adapter la machine à des tâches quotidiennes ?

Nous ne sommes pas loin de ce que Wittgenstein appelle des jeux de langage, qui sont des ensembles formés d’énoncés et des pratiques qui leur sont corrélés (25). Un jeu de langage peut tourner autour d’un énoncé comme : « Passe-moi la scie ». Wittgenstein constate que je sais de quelle scie je parle, que mon interlocuteur le sait aussi, que nous savons aussi ce que nous sommes en train de faire, couper des planches, par exemple. Ce jeu, nous n’en avons pas énoncé les règles explicitement mais nous les appliquons sans difficulté et nous savons à quoi nous nous référons implicitement. L’ensemble de ces gestes, de cette activité et des phrases que nous utilisons dans un contexte donné constitue un jeu de langage. On oublie souvent cette dimension technique et l’on réduit par conséquent les jeux de langage à du pur langage. Malheureusement, l’expression de Wittgenstein, prise au pied de la lettre, nous y incite.
Une IA pourrait avoir beaucoup de mal à réaliser une telle tâche, car elle n’a pas la capacité de s’insérer dans des jeux de langage. Selon Wittgenstein, les jeux de langage finissent par engendrer des « formes de vie » (26), qui définissent les hommes. L’IA peut battre n’importe qui aux échecs ou au go, mais n’est pas capable de comprendre des jeux de langages simples. C’est pourquoi, elle n’est pas intelligente, pas consciente, pas humaine.

Avec cette notion de modèle de monde avancée par Yann LeCun, nous sommes également proches de ce que Descartes appelle le bon sens. Et j’ai l’impression que Wittgenstein est plus proche de Descartes qu’il ne veut bien l’admettre.
Or, le bon sens est la chose du monde la mieux partagée… mais pas par l’IA ! L’IA n’a pas de bon sens : elle n’a pas le discernement appliqué qui permet de réagir intelligemment dans une situation donné. Dit d’une autre façon, l’IA n’a pas de sens commun. Cette notion désigne, depuis Aristote, le sens qui est commun à tous les autres sens (vue, ouïe…) et qui permet de bien juger de ce qu’on perçoit (27). Comment se fait la synthèse, l’unité de tous nos sens, de façon à former une expérience cohérente et individuée ? Le paradoxe du sens commun est qu’il porte sur le sensible sans être lui-même sensible.

Le sens commun peut désigner plus simplement un jugement sain. C’est en ce sens que l’entend le philosophe écossais Thomas Reid et selon lui, c’est ce que les gens ordinaires entendent par cette expression (28). C’est le sens commun de la notion de « sens commun » ! On dit par exemple de quelqu’un qu’il a perdu le sens commun. Ses jugements sont faux, biaisés, aveugles etc. Le fou a perdu le sens commun, il ne pense plus comme nous. On dit encore que quelqu’un n’a plus de bon sens. Pour Thomas Reid, c’est en ce sens que l’on doit entendre cette faculté de sens commun : une faculté de bien juger de la réalité ordinaire. Ce sens est à la fois robuste (on parle d’un solide sens des réalités) mais assez vague.
En tant qu’il est commun, ce sens signe notre appartenance à la communauté humaine. Nous sentons, nous jugeons, nous pensons comme les autres hommes. N’importe qui, à notre place, percevrait et jugerait de la même façon. Le sens commun a donc une dimension universelle, en-deçà des différences entre culture. Sans lui, pas d’idée d’humanité possible.
Que le sens commun soit de l’ordre de la sensibilité ou du jugement, il est sûr que l’IA ne l’a pas. On peut se demander quels sont les différences entre le sens commun et le bon sens. On peut les identifier ou non. Le problème reste le même : l’IA n’a rien de tout cela. C’est une machine à calculer, rien de plus.

Si l’IA n’a pas de conscience aujourd’hui, en aura-t-elle une demain ?

Nicolas Rousseau : Aujourd’hui, les spécialistes distinguent entre les IA faibles et les IA fortes.
Les IA faibles existent déjà, ce sont des programmes spécialisés dans une seule tâche, comme l’imitation de conversation ou la reconnaissance d’images. Ces IA utilisent des algorithmes d’apprentissage pour améliorer leur fonctionnement : on parle de machine learning. Certains procédés tentent d’imiter le fonctionnement des neurones du cerveau humain. On parle de deep learning.
Une IA forte aurait un fonctionnement plus proche du cerveau humain et surtout serait douée de conscience ! Nous rentrons dans le domaine de l’hypothétique, voire de la science-fiction. Certains parlent d’IA générale : elle serait intelligente en tous. Certains chercheurs ont objecté que chez l’homme, l’intelligence générale n’existe pas. L’intelligence est toujours en rapport avec un domaine précis. Donc une IA générale serait impossible.

Enfin, la super-IA, ou Singularité ou encore Super Intelligence aurait une intelligence infiniment supérieure à la nôtre. Ce serait une sorte de Dieu-Machine. Là nous sommes totalement dans l’imaginaire !

Que deviendrait l’humanité en cas d’arrivée d’une super-IA ? Je me suis vraiment posé la question pour mon roman. C’est une spéculation assez passionnante, car on en arrive aux limites de l’imaginable et du concevable. En effet, une fois qu’arrive une IA qui nous dépasse en tout, on bascule dans une nouvelle époque, qui peut-être celle de l’asservissement de l’humanité, de sa destruction ou de son élévation vers une forme de conscience supérieure dont on ne peut rien deviner !
Selon des articles et livres spécialisés que j’ai consultés, il y a trois grands scénarios possibles :
1- La super-IA reste à notre service et fait ce qu’on lui dit, que ce soit bien ou mal.
2- La super-IA devient un dictateur bienveillant qui œuvre pour notre bien. La conséquence en est tout de même qu’elle nous traite comme des animaux dans des zoos, puisque par rapport à elle, nous sommes des singes.
3- La super-IA devient un dictateur totalitaire qui finit par nous anéantir. Ce scénario est le plus sensationnel, évidemment. Ce risque a été pointé par Bill Gates, Stephen Hawking ou encore le philosophe suédois Nick Bostrom (29) (dans mon livre, il apparaît transposé en Nick Angström, nom qui sonne plus comme angst, « l’angoisse » en anglais !)
Je préférerais le scénario 1, bien évidemment ! Le problème est qu’une machine qui resterait à notre service n’aurait pas particulièrement de conscience, pas plus qu’un lave-vaisselle, disons ! Or, si une machine a une conscience, comment pourrait-elle rester à notre service sans se sentir notre esclave ? On en arrive alors aux scénarios 2 et 3. Je ne sais pas lequel est le plus probable. Il va tout de même falloir que je me décide, car je compte apporter une réponse dans L’IA qui m’aimait, tome 2 !

Dans un livre récent consacré à l’IA, Gaspard Koenig écrit ceci :

« On ne compte plus les tribunes aux signatures prestigieuses, de Bill Gates au prix Nobel de physique Frank Wilczek, mettant en garde contre l’éradication de l’humanité par inadvertance.
Il faut noter que ces Cassandres de haut niveau incluent assez peu d’informaticiens, et que les praticiens du code que j’ai rencontrés, comme Yann LeCun ou Jerry Kaplan, ont tendance à hausser les épaules quand ils entendent parler d’IA forte […] Mike Wooldrige, qui dirige le département d’informatique à Oxford, m’a confirmé que le sujet était considéré comme négligeable dans la communauté des chercheurs en IA, personne n’ayant la moindre idée de la faisabilité technique d’une telle fantaisie de l’esprit (30). »

Comme l’arrivée d’une super-IA est improbable, on peut tout imaginer !
Il y a un certain nombre d’années, j’étais allé à une dédicace de Benoît Duteurtre, qui m’avait dit que c’est toujours après avoir écrit un livre que l’on découvre l’auteur qui nous a influencé ! Or, après avoir écrit L’IA qui m’aimait, j’ai découvert Maurice Renard (31), fondateur du style « merveilleux-scientifique », sorte d’ancêtre de la science-fiction.
Selon Renard, le récit merveilleux-scientifique doit reposer sur un sophisme. Il part d’un énoncé faux et en tire logiquement les conséquences. Dans L’Homme au corps subtil, l’inventeur Bouvancourt met au point le rayon Y qui rend immatériel ce qu’il touche (32). Bouvancourt s’expose à ce rayon, en ayant soin de ne pas irradier ses pieds, sans quoi il passerait soudain à travers le sol et chuterait jusqu’au centre de la terre ! Cela semble logique. Mais il y a un autre problème, insoluble : comment ses pieds peuvent-ils rester accrochés à ses jambes ? Si le héros est immatériel au-dessus des pieds, il devrait passer à travers le sol de la tête aux jambes, ne laissant que ses pieds au-dessus !
Dans La Singulière destinée de Bouvancourt, ce même personnage invente un fluide qui lui permet de passer de l’autre côté du miroir. Il y découvre un monde inversé, étrange, plus incorporel que le nôtre, dont il ne s’échappera qu’in extremis. A la fois faux et fascinant, le merveilleux-scientifique débouche sur le fantastique. On est plus proche d’Edgar Allan Poe que de Jules Verne.
L’arrivée d’une IA consciente pourrait être le sophisme sur lequel repose mon récit. C’est une impossibilité technique donc un bon sujet de roman.

Maurice Renard (1875-1939) (CC BY 4.0 WIkipedia)

Le titre, L’I.A. qui m’aimait, est une référence au dixième James Bond, L’Espion qui m’aimait, sorti en 1977. Pourquoi ce titre ?

Nicolas Rousseau: J’ai décalqué ce titre parce que je le trouve très bon et qu’il résume les deux grands thèmes du livre, l’amour et l’intelligence artificielle. Dans la première partie, un homme tombe amoureux de son IA. Dans la deuxième, une IA romancière imagine des histoires entre un homme et son androïde féminin. Dans la troisième partie enfin, une IA tombe amoureuse d’un homme, à moins que, peut-être… Je n’en dirai pas plus pour ne pas spoiler !

Notes:

(1) Pour une histoire illustrée et très complète de l’IA à travers les âges, de l’antiquité à nos jours.

(2) Voir le livre d’Adrienne Mayor, Gods And Robots, Princeton University Press, 2018.

(3) Pindare, Odes Olympiques, VII, « A Diagoras de Rhodes, vainqueur au pugilat ».

(4) Description plus complète

(5) Dans son livre, Adrienne Mayor (voir note 2 ci-dessus) donne cette source. Cependant, j’ai fait des recherches en ligne dans les trois volumes de la version anglaise du Mahāvastu, sans y retrouver cette légende. Je me suis appuyé sur un autre texte mentionné par Mayor, The Tocharian Puṇyavantajātaka, traduit par Georges S. Lane (pages 41-45). Les Tokhariens étaient un ancien peuple d’Asie centrale vivant dans l’actuelle région du Xinjiang, dans l’ouest de la Chine. Le Puṇyavantajātaka regroupe les Jātakas, des contes et légendes sur les vies antérieures de Bouddha. La légende de la poupée est rapportée sous une forme simplifiée sur ce blog : https://robotswetrust.com/the-history-of-robots-revived-statues/.

(6) L’Ancien Testament interlinéaire hébreu-français traduit « une ébauche ». Je remercie Fabrice Salez pour cette information et plusieurs autres sur la langue hébraïque.

(7) Libération du 20 avril 2015

(8) On apprend qu’un de ces hommes a acheté une poupée en silicone après avoir cessé toute relation sexuelle avec sa femme et que leur fille partage désormais ses habits avec la poupée !

(9) Texte original. Version résumée en anglais moderne.

(10) Vie publique

(11) Mathias Adjaout-Ponsart, « Biais cognitifs et comportement judiciaire ». Un exemple qui revient fréquemment est la plus grande clémence des juges le matin. Plus ils sont fatigués, plus ils sont expéditifs. L’IA, quant à elle, ne fatigue pas.

(12) Ce passage est reproduit sur ce blog. Noël Argonne dit tenir son anecdote d’un cartésien qu’il ne nomme pas.

(13) Heuristique : qui sert à faire des découvertes.

(14) Dans son abrégé de la deuxième des Méditations métaphysiques, Descartes explique que l’âme est indivisible (on peut couper un corps mais pas une âme). L’âme est indivisible car elle est immatérielle, et puisqu’elle est immatérielle, elle est incorruptible : « cela suffit pour montrer assez clairement que de la corruption du corps la mort de l’âme ne s’ensuit pas, et ainsi pour donner aux hommes l’espérance d’une seconde vie après la mort. »

(15) Lettre au marquis de Newcastle, 23 novembre 1646.

(16) La discussion complète de Blake Lemoine avec son IA est lisible en ligne.

(17) Discours de la méthode, 6ème partie.

(18) Aren’t you entertained ? », interview d’Elon Musk pour le Financial Times, 7 octobre 2022

(19) Éthique, V, préface (traduction Appuhn).

(20) Méditations métaphysiques, VI.

(21) https://academic.oup.com/mind/article/LIX/236/433/986238

(22) https://www.sciencesetavenir.fr/fondamental/intelligence-artificielle-eugene-goostman-est-le-tombeur-du-test-de-turing_23112

(23) « … si par hasard je regardais par une fenêtre des hommes qui passent dans la rue, à la vue desquels je ne manque pas de dire que je vois des hommes, tout de même que je dis que je vois de la cire ; et cependant que vois-je de cette fenêtre, sinon des chapeaux et des manteaux, qui peuvent couvrir des spectres ou des hommes feints qui ne se remuent que par ressorts ? » (seconde Méditation métaphysique)

(24) https://encyclo-philo.fr/item/10

(25) Recherches philosophiques, §23.

(26) « L’expression “jeu de langage” doit ici faire ressortir que parler un langage fait partie d’une activité, ou d’une forme de vie. », ibid.

(27)De l’âme, livre III, chapitre 2.

(28) Voir ce très bon cours en ligne de Simone Manon