Le philosophe Gaspard Koenig nous rappelle notre droit à l’errance

Errance de l’esprit, errance du cœur… L’IA nous permettra-t-elle encore le droit à l’errance ? Guest speaker de Connect 2024, le philosophe Gaspard Koenig s’est ouvert sur ce sujet. Passionnant et à méditer.

« L’IA nous prépare des droits sans démocratie, un art sans artiste, une science sans causalité, une économie sans marché, une justice sans coupable, des amours sans séduction… à moins que nous ne reprenions le contrôle en forgeant pour nous-mêmes un droit à l’errance. »

Une manière de s’aérer l’esprit mais aussi de s’ouvrir au doute. Il est facile d’être systémique quand on est enfermé dans sa chambre ! Il y a une beauté de l’errance, qui rejoint d’ailleurs la conclusion théorique d’un livre majeur du philosophe : « La fin de l’individu » ( Editions L’Observatoire / Le Point ). Prendre des risques, sortir des chemins battus et de sa zone de confort, n’est-ce pas l’essence même du libéralisme?

Le ton est donné. « En déployant des techniques d’optimisation, de prédiction et de manipulation à grande échelle, l’IA remet en cause le fondement même des Lumières : l’idée d’un individu autonome et responsable », est venu défendre Gaspard Koenig à La Sucrerie de Wavre le 14 novembre dernier.

Pourra-t-on encore penser hors des sentiers battus ?

« De droite et de gauche », mais aussi « romantique », ce penseur libéral, normalien agrégé de philosophie de 40 ans, quelque temps la plume de Christine Lagarde, avant de rejoindre la BERD, la banque européenne pour la reconstruction et le développement à Londres, est aussi romancier. « Humus », son dernier opus, a été couronné du Prix Interallié 2023. « Aqua » devrait bientôt suivre. La sainte nature est aussi son crédo -le plus important, dit-il, par l’urgence climatique.

Pourra-t-on encore longtemps être un promeneur solitaire ? « Au sens propre : baguenauder de manière anonyme, sans définir à l’avance sa destination ni partager son trajet. Au figuré : penser en dehors des sentiers battus, tels que nous sommes faits, avec nos affects et nos passions, douter, tâtonner, s’égarer parfois… »

Le promeneur solitaire, c’est aussi l’autre nom de l’individu autonome et responsable. Il va disparaître si nous ne prenons pas très vite conscience de ce qui est en train de se jouer. Dans « La Fin de l’individu », il évoque clairement « la route de la servitude » de l’ère des algorithmes.

Les IA renvoient au confucianisme chinois

Technophile ? Non. D’ailleurs, notre philosophe s’éloigne du discours ambiant. Pour lui, l’IA ne menace pas l’existence d’Homo sapiens. D’ailleurs, les robots ne voleront pas nos emplois. En revanche, l’IA menace nos libertés. « Un GPS n’indique pas un chemin en pensant au bien-être de son utilisateur. Il poursuit davantage un objectif d’utilité publique : veiller à ne pas alimenter les embouteillages lorsqu’il indique le chemin à prendre….  Les sites de dating ne font pas autre chose ! Ils servent la communauté ! »

Ce modèle correspond parfaitement au confucianisme chinois parce qu’il favorise l’utilité collective plutôt que l’individu, analyse Gaspard Kœnig. Et de reprocher aux algorithmes « de pousser à se comporter dans la norme ». Or, poursuit-il, « un individu déviant est la condition du progrès. » Il faut qu’il y ait des gens qui fassent des erreurs pour avancer. « Il faut opposer le progrès à l’optimalisation qui conduit à l’immobilité et à la mort. »

Droit à l’errance, que n’abandonne-t-on pas à Google et Facebook ?

Sur son blog, en 2021, on pouvait lire que « le passe sanitaire est un premier glissement vers le modèle asiatique » qui séduit les gouvernants européens. À la tradition confucéenne de négation de l’individu ou à la recherche d’une maximisation du bien-être collectif, Gaspard Koenig préfère un libéralisme classique attaché à la protection de l’individu.

Et qui dit protection de l’individu dit aussi protection de ses data. Alors oui aux algorithmes… mais en conservant la propriété privée de nos données personnelles et en déterminant à quel système nous voulons les confier pour que celui-ci soit développé selon nos propres critères. Soit le principe même de la liberté. Or, on en est loin. Que n’abandonne-t-on pas à Google et Facebook ? « Qu’elles soient protégées ou non, la capacité de chacun d’inspirer les algorithmes de demain pèse peu de choses face à l’hyperpuissance de ces démiurges de la pensée dominante. »

Arrêtons de parler d’IA !

Tout n’est pas si noir. Gaspard Koenig ne croit pas que la croissance technologique donnera inévitablement naissance à une intelligence informatique supérieure à l’intelligence humaine. « C’est un mythe, tant littéraire que scientifique. Pour qu’une pensée et, a fortiori, une intelligence se développent, il leur faut un substrat organique ! » Et si la conscience est un épiphénomène de l’évolution, elle n’est jamais indépendante des mécanismes biochimiques qui ordonnent la vie de nos neurones, ni des interactions continues entre nos différents systèmes et l’ensemble de nos organes.

Et, d’abord, arrêtons de parler d’IA ! Il n’y a pas d’esprit détaché d’un corps, ni donc de super-intelligence sans superorganisme. C’est dans les faits une manifestation de l’anthropomorphisme que de prêter à l’IA le pouvoir de développer une compréhension, une conscience et des intentions !

Ce qu’on appelle communément IA n’est finalement rien d’autre que la capacité des systèmes informatiques à apprendre par eux-mêmes, sans suivre de règles prédéterminées, à partir de l’accumulation et du traitement d’une multitude de données : c’est donc fondamentalement une technique, et non point l’exercice d’une pensée et moins encore la manifestation d’une conscience.

Le véritable danger est le « nudge » universel

« Le danger n’est donc pas que l’IA en vienne un jour à remplacer l’intelligence humaine, mais plutôt que la puissance et l’efficience de ses opérations algorithmiques nous épargne progressivement la nécessité de faire usage de notre libre arbitre. Pourquoi, en effet, s’en remettre au jugement humain et à ses nombreux biais cognitifs quand les machines, en traitant pour nous une infinité de données, peuvent guider l’automobiliste dans ses itinéraires, le financier dans ses placements, le consommateur dans ses achats, le médecin dans ses diagnostics ou le juge dans ses verdicts ? » Autrement dit, pourquoi ne pas se fier passivement aux orientations qui nous sont ainsi fournies en matière de santé, de vie pratique, voire de vie amoureuse, quand les algorithmes, à force d’accumulation de données, nous connaissent souvent mieux que nous ne nous connaissons nous-mêmes ? 

Finalement, le véritable danger est le « nudge » universel, où l’individu semble disposer de multiples options possibles, mais se trouve en réalité subrepticement « poussé du coude » vers celle qui semble optimale parce qu’elle prend certes en compte son bien-être, d’une part, mais également une utilité collective indépendante de sa volonté, d’autre part. Pour Gaspard Koenig, c’est là, clairement, la fin du libéralisme.

Retrouvons notre droit à l’errance. Le risque serait de passer du « Big Brother is watching you » au « Strong IA is nudging you » !

Propos recueillis par Alain de Fooz