J’ai lu "L’humain au risque de l’intelligence artificielle"
de Pierre Rabhi et Juliette Duquesne
Profitant de sa notoriété et de son ascendant dans les réseaux de l’agroécologie, Pierre Rabhi lance un cri d’alerte sur les risques inhérents à l’expansion du numérique et l’essor de l’intelligence artificielle. C’est Juliette Duquesne qui mène l’enquête nous invitant à rester vigilants devant les limites de la technologie. Elle s’appuie pour cela sur un grand nombre de témoignages (scientifiques, chercheurs, sociologues, philosophes) qui viennent étayer la réserve des auteurs sur l’emballement généralisé de l’évolution sociétale de ces dernières décennies. Le questionnement porte sur la place de l’homme et le conditionnement des rapports humains dans ce contexte.
Ce livre accessible est construit en 9 parties qui balayent successivement quelques grands sujets sensibles dont la finance, la publicité, la pollution, la politique, etc. Le choix pédagogique des auteurs est de présenter en quelques lignes le « curriculum vitae » de chaque personne interrogée ce qui permet au lecteur de situer depuis quelles bases elles parlent. Cette lecture a le mérite de clarifier un certain nombre de notions et de démystifier l’intelligence artificielle. Cependant le parti pris subjectif des textes amène insidieusement le lecteur dans la méfiance ce qui risque d’entraîner un positionnement binaire : pour ou contre. Pourtant les auteurs se défendent d’une position excessive et consacrent un dernier chapitre à la recherche de solutions vers la sobriété du numérique pour en limiter l’envahissement.
Dans l’avant-propos, Pierre Rabhi remet en cause la notion d’intelligence et déplore la confusion entre aptitude et intelligence. Pour lui, les progrès techniques relèvent d’une aptitude et non pas de l’intelligence humaine. Prenant l’exemple des faits d’armes, il en dénonce les méfaits : « L’aptitude nous a permis de créer la bombe atomique. L’intelligence serait de réussir à mettre fin à toute dualité » (p.13). À propos de l’intelligence artificielle, il déclare : « On peut légitiment se demander si le cerveau humain a inventé un auxiliaire bénéfique ou un monstre dont le pouvoir serait d’une telle puissance qu’il nous ferait perdre notre libre arbitre et déterminerait l’avenir sans que nous puissions avoir la maîtrise de notre destin » (p.16). Le ton est donné et l’enquête menée par Juliette pousse à démontrer cette hypothèse monstrueuse bien qu’elle s’efforce de garder une certaine objectivité.
Parmi les arguments présentés, je vais tenter de choisir ceux qui nous interrogent le plus en tant que gestalt-thérapeutes. Un premier point serait l’illusion de transcender les limites en entretenant la croyance de la toute-puissance et du déni de la mort, allant jusqu’au transhumanisme. À l’inverse, dans nos cabinets, nous apprivoisons la vulnérabilité de nos patients et l’angoisse relative à notre finitude.
Un autre point serait la surveillance engendrée par l’interconnexion des données et la reconnaissance faciale. Nous sommes tous repérés et fichés. Cette numérisation peut alimenter à juste titre la paranoïa ambiante. Nous avons éprouvé cette tendance dans les mesures de précaution ordonnées face à la contamination du coronavirus, notamment avec l’obligation de la vaccination. Nos patients étaient privés de la liberté de choix et vivaient davantage dans la peur d’enfreindre les règles que de celle d’être contaminés.
Cette surveillance pourrait aussi entraver notre éthique et notre déontologie, nous privant du respect de l’individualité et de la confidentialité. Les critères de normalisation risqueraient de prendre le pas sur l’accompagnement pas à pas des trajectoires souvent imprévisibles de notre patientèle. Ce danger menace les thérapeutes eux-mêmes, dont le statut est précaire. Nous ne sommes pas à l’abri des soupçons et délations.
Une dernière préoccupation serait la substitution des humains par des robots. Certaines expériences sont déjà possibles grâce à des machines qui remplacent le thérapeute grâce au perfectionnement des algorithmes. La standardisation des réponses guette le thérapeute : « L’enjeu ne serait pas que les machines deviennent humaines, mais que les humains adoptent des comportements similaires aux machines » (p. 154). La tendance serait de supprimer « tous les jours un peu plus de la singularité et de l’unicité de chacun. Les usages actuels de l’I.A. nous standardisent et nous conforment » (p. 155).
En conclusion, les auteurs ouvrent des pistes de prudence dans l’utilisation de l’Intelligence Artificielle. En effet il s’avère impossible de faire sans cette révolution numérique aujourd’hui, alors comment « faire avec » en limitant la déshumanisation. La référence à Yvan Illich est toujours d’actualité (1): « L’outil est convivial dans la mesure où chacun peut l’utiliser, sans difficulté, aussi souvent ou aussi rarement qu’il le désire, à des fins qu’il détermine lui-même. {---} Entre l’homme et le monde, il est conducteur de sens, traducteur d’intentionnalité. » (cité p.214). Pierre Rabhi insiste à son tour (2): « C’est l’outrance des technologies qui est dangereuse, lorsque l’outil prend le pouvoir {---} Nous créons un esclavage déguisé afin de réaliser toujours plus de profit, de spéculer, de vendre et d’acheter » (p. 228). À méditer…
Chantal Masquelier-Savatier
Pierre Rabhi et Juliette Duquesne, L’humain au risque de l’intelligence artificielle , Carnets d’Alerte aux Presses du Châtelet, 2021
Notes
- Ivan Illich, La convivialité, Seuil 1973, p. 45 – Un commentaire de cet ouvrage est proposé dans ce même N°6 de la Revue A-Dire.
- Pierre Rabhi nous laisse ses pensées en héritage testamentaire puisqu’il est décédé le 4 décembre 2021.
À Dire n° 6 - Automne 2023 - Sommaire
Au-delà des techniques, l’humainÉdito : Armelle FresnaisArticles :1 - Intelligence...
Intelligence artificielle : quelle emprise ?
Je me suis lancée récemment sur une réflexion sur l’intelligence artificielle à partir des...
Édito
Chers lecteurs, chères lectrices,C’est avec plaisir que nous vous présentons ce sixième numéro...
Hors-jeu
Soixante-six ans et déjà hors-jeu ?La rage me pousse à mon clavier ! Une erreur de frappe et...
Il ne m’a pas calculée.
Ma chère Capucine,Cette expression, « Il ne m’a pas calculée », je l’ai entendue la toute...
De la présence à la distance, thérapie versus téléthérapie
Zoom-thérapie, avril 2020J’accueille une nouvelle personne en téléthérapie, conséquence du...