Nous avons cessé de penser comme des personnes

Ce n'est pas l'intelligence artificielle qui a appris à penser comme nous, c'est nous qui avons cessé de penser comme des personnes. Pour quiconque n'a pas été enfermé dans un abri anti-bombes au cours des six derniers mois, une série de nouveaux algorithmes génératifs, entraînés sur d'énormes quantités de données provenant de l'homme, a développé la capacité de produire du texte, du son et des images. Tous ceux qui les ont testés (faites-le, c'est gratuit et amusant) ont été surpris et émerveillés : l'impression est que ces algorithmes sont capables de saisir la structure des pensées des êtres humains et de les décoder en de nouvelles combinaisons. ChatGPT, peut-être le plus célèbre, est capable d'écrire des poèmes, de répondre à des questions sur n'importe quel sujet, de rédiger des textes et des rapports. On dirait que ChatGPT est comme nous. DALLE-E est une autre IA formée pour créer des images créatives.

Des fleuves de mots ont été écrits sur leur potentiel et leurs risques - des questions de droits d'auteur aux effets sur le système éducatif. Il ne fait aucun doute qu'ils ont des capacités jusqu'alors inimaginables et que leur impact sera profond et irréversible, mais la question est autre : sommes-nous sûrs que la pensée est simplement la manipulation de symboles et la production de contenus ?

C'est un fait que, entre les textes produits par ChatGPT et ceux écrits par des êtres humains, il n'y a pas de différences évidentes, et cette similitude recèle une menace. De nombreux universitaires de divers horizons redoutent le jour où ces intelligences artificielles seront capables de produire des contenus similaires à ceux qu'ils ont appris à produire, au prix de tant d'années d'efforts. N'y a-t-il donc aucun espoir ? Sommes-nous devenus obsolètes ? Sommes-nous sur le point d'être dépassés par l'intelligence artificielle dans ce que nous pensions être notre capacité la plus essentielle ? C'est-à-dire, penser ?
La réponse se trouve dans la question. Le fait même de poser cette question implique que la pensée a été ravalée au rang de calcul, d'opération, de recombinaison. Mais est-ce vraiment le cas ? En réalité, il existe deux façons de comprendre la pensée : comme une manipulation de symboles ou comme une manifestation de la réalité. La première voie a été déclinée de nombreuses manières apparemment modernes - de la machine de Turing aux jeux de langage de Wittgenstein, du tournant linguistique à l'intelligence artificielle d'aujourd'hui. Cela va de pair avec l'idée que le foyer de la pensée est le langage et que ce dernier n'est, après tout, qu'une recombinaison continue de symboles. Tout est information, a écrit le physicien John Archibald Wheeler. L'information n'est rien d'autre qu'une série de symboles et la pensée est leur recombinaison. Tout cela est très convaincant (c'est presque une version opérationnelle de l'idéalisme de Kant), mais cela laisse de côté quelque chose de fondamental : la réalité.

La réalité est un terme inconfortable, presque ennuyeux, pour certains. De Kant aux neurosciences, nous entendons sans cesse dire que nous ne pouvons pas connaître le monde, mais seulement nos représentations (qui ne sont jamais entièrement fiables). Et c'est ainsi que la pensée, étape par étape, est vidée de son sens. Les mots sont de plus en plus des symboles dans un univers de symboles et de moins en moins la manifestation de quelque chose de réel.

D'abord les réseaux sociaux, puis le métavers nous entraînent dans un monde numérique de plus en plus détaché de la réalité, où taper des mots qui produisent d'autres mots, dans un labyrinthe de symboles et de likes autoréférentiels semble être le seul but. Dans ce monde de représentations numériques pour elles-mêmes, ChatGPT est comme nous. En fait, il est meilleur que nous. Il n'y a pas de correspondance.

Au-delà de cet enthousiasme pour la pensée réduite au calcul de nouvelles combinaisons, il existe une autre grande intuition de la nature de la pensée selon laquelle nous ne sommes pas seulement des manipulateurs de symboles, mais des moments de l'existence. Chacun d'entre nous serait une chance pour que la réalité soit vraie.

Dans cette optique, la personne n'est pas seulement un calculateur, mais une unité d'existence. C'est une perspective impopulaire aujourd'hui, habitués que nous sommes au jargon informatique et technologique. La pensée n'est ni un flux de concepts ni une séquence d'opérations, mais elle est le point où la réalité se manifeste. La pensée acquiert un sens si elle est éclairée par la réalité ; quelque chose qui ne peut être réduit à un algorithme, mais qui n'en est pas moins vrai pour autant. Le sens de nos mots ne dépend pas de l'exactitude de leur grammaire, mais de la réalité qui se manifeste à travers eux dans le langage.

Ces deux attitudes correspondent à des manières d'être incompatibles et traversent l'art, la science et la philosophie. Le premier est interne au discours, le second perce le niveau dialogique pour atteindre (ou essayer d'atteindre) la réalité. Il n'est pas facile de percer le niveau dialogique et de le dépasser. Si le monde de l'information était une grande ville qui s'agrandissait progressivement, le monde extérieur deviendrait de plus en plus distant et inaccessible. Beaucoup de gens ne quittent jamais la ville, trouvant tout ce qu'ils veulent à l'intérieur et ne ressentant pas le besoin de sortir.

L'art meurt dès qu'il devient l'enfant d'une culture autoréférentielle de chiffres et de consensus.

Philosophes et scientifiques se sont retrouvés à partager ce qui ne semble être qu'une déformation professionnelle : trop de temps sur leurs codes, trop peu de temps en contact avec le monde. Leurs textes "sacrés" prennent la place du monde dans leur existence et leur vie reste prisonnière d'une bibliothèque labyrinthique où, tôt ou tard, des minotaures numériques naîtront pour les dévorer. Dans ce mythe, l'union du pouvoir et de la connaissance, représentée par le roi Minos et l'inventeur Dédale (une combinaison aujourd'hui synthétisée dans des figures telles que Steve Jobs, Elon Musk ou Mark Zuckerberg), crée un labyrinthe dans lequel on reste prisonnier et enfermé.

ChatGPT est le minotaure numérique : il est incapable de sortir du niveau numérique et doit être nourri de la chair et du sang de notre existence, non pas en remettant chaque année dix jeunes Thébains, mais en lui fournissant nos données par le biais d'Internet, des réseaux sociaux et des téléphones mobiles. Mais on peut encore espérer un Thésée qui, avec l'aide d'Ariane, va réussir et s'en sortir en suivant un fil qui incarne le lien avec la réalité extérieure.

Ce fil correspond à l'ouverture à la réalité qui est l'essence de la pensée humaine, en dehors du labyrinthe des mots, des symboles et des informations. Il est dommage que de nombreux philosophes ou neuroscientifiques courtisent une vision de l'homme réduite à une construction dépourvue de substance.
Mais si nous ne sommes qu'un mirage, le jeu est facile pour l'IA : des fantômes parmi les fantômes.

Comment s'est produite cette abjuration de notre nature ? Le langage met en mouvement concentrique trois sphères : la sphère de la grammaire, la sphère des concepts et la sphère ontologique. Dans le premier cas, ce qui compte, c'est la structure des symboles et la façon dont ils sont reliés entre eux. C'est le domaine où l'intelligence artificielle (ChatGPT précisément) est aujourd'hui seigneur et maître. Ensuite, il y a la sphère des concepts, qui est un terrain ambigu, pour certains réel et pour d'autres non ; une sorte de purgatoire qui attend d'être éliminé. Enfin, il y a la réalité, où tout ce qui a de la valeur trouve son origine ; ce que nous cherchons dans nos vies et que nous ne trouvons pas toujours.

L'IA d'aujourd'hui (celle de demain, qui sait) s'arrête à la grammaire du langage. Mais la valeur se trouve dans la réalité en tant que réalité. L'IA ne fait rien d'autre que de construire des nuages de bits dépourvus de sang, de couleur, de goût.

La question que nous devrions nous poser n'est pas de savoir si le Chat GPT pense comme nous, mais plutôt de savoir ce que cela signifie de penser. Croyons-nous vraiment que nous ne sommes que des illusions numériques ? Avons-nous vraiment perdu le fil d'Ariane qui relie nos paroles au monde réel ? ChatGPT reconnaît, mais ne voit pas ; écoute, mais n'entend pas ; manipule des symboles ; mais ne pense pas.

Pour penser, il faut être réel.

---

Que pensez-vous, l'IA arrivera-t-elle un jour à une pensée autonome ? Quand ce sera le cas, pourrons-nous le considérer comme réel ?

Photo source: https://www.pexels.com/fr-fr/photo/photo-d-une-femme-assise-a-cote-d-une-statue-3778550/