L’intelligence artificielle : entre promesses et périls

Montréal est devenue une des plaques tournantes de la recherche et du développement en intelligence artificielle (IA). Selon Yoshua Bengio, directeur de l’Institut des algorithmes d’apprentissage de Montréal (MILA), nous sommes « à l’aube d’une nouvelle révolution industrielle ». Les deux paliers de gouvernement ont ouvert les vannes avec des subventions importantes pour l’avancée des connaissances dans ce domaine. De grandes multinationales (Google, Microsoft, Facebook et Amazon) offrent des millions aux instituts travaillant au développement de l’intelligence artificielle. La promesse d’une meilleure vie où les machines aideraient les humains semble provoquer un intérêt généralisé. Comment poser un autre regard sur ce « progrès » annoncé ?

La critique de Miguel Benasayag

Benasayag, un philosophe et clinicien franco-argentin, propose dans un ouvrage percutant[2] une thèse critique quant aux nouvelles connaissances sur le fonctionnement du cerveau et leurs différentes applications. « Le développement apparemment illimité des nouvelles puissances technologiques s’accompagne en effet paradoxalement d’un sentiment d’impuissance de plus en plus profond chez nos contemporains qui se sentent comme des feuilles dans la tempête, incapables de maîtriser le cours des événements, tant sociaux que personnels. » Cette rupture, Benasayag la qualifie de révolution anthropologique. En touchant au cerveau, on touche à la pierre fondamentale de l’édifice de la modernité. Mais, se demande-t-il, que va devenir cet édifice ? « C’est dans un monde de désenchantement où la croyance en l’avenir et les promesses historicistes et téléologiques d’un monde parfait à venir sont tombées que la technologie occupe anthropologiquement une place que nous nous sommes trop rarement attardés à penser. » Si l’entreprise de modélisation des mécanismes du cerveau libère une puissance et une connaissance immenses, elle nous plonge dans une grande perplexité. « Avec les avancées des technologies d’imagerie cérébrale ou de la connaissance de la chimie du système nerveux central, nous sommes confrontés à la tâche immense de penser la nouveauté que suppose ce sujet de la connaissance (le cerveau) qui décide d’entreprendre l’étude de lui-même ».

Technophiles et technophobes

Alors que les technophiles jubilent des promesses de puissances illimitées, les technophobes y voient plutôt une catastrophe à venir. Le philosophe nous convie à ne pas « faire de choix manichéen » puisque le monde nouveau est déjà là, mais plutôt à réfléchir aux différents possibles permettant de « développer un mode d’hybridation (homme-nature-technologie-culture) qui favorise la colonisation de la technologie dans l’intérêt de la vie et de la culture » et non l’inverse où nous sommes arrivés : l’humain au service de la technologie. L’exemple du téléphone portable parle de lui-même. L’humain est connecté en permanence et doit se soumettre aux nouveaux diktats imposés par cette technologie : accélération du temps, travail continu, connexion constante, informations illimitées, flou entre vie privée et vie publique, etc. Les différentes applications de nos téléphones – dits « intelligents » – ont modifié notre rapport au monde. « Tout ce que la technologie rend possible tend à se transformer en une obligation dans nos vies, puisque ces possibles sculptent le monde selon leurs caractéristiques propres. » La puissance technologique impose son rythme, sa logique et sa dynamique.

Un monde sans limites ?

Alors qu’on nous promet un monde sans limites, Benasayag y voit plutôt le triomphe d’un physicalisme réductionniste où les comportements de l’être humain sont analysés comme une série mécanique de mouvements surdéterminés par des lois physiques et chimiques. On assiste à une « déterritorialisation » et à une dislocation du sujet dans ses parties ; on transforme l’être humain en un être modulaire. Alors que le cerveau existe dans un organisme qui s’inscrit dans une histoire et des échanges, et qui ne pense ni ne s’adapte seul, puisque le corps pense aussi, l’IA tente de programmer une sorte de « cerveau sans corps » où l’on évacue le fait que le sens dépend de l’existence d’un organisme intégré et que les « limites de l’organisme sont la condition même de la possibilité de vivre dans un monde où existent le sens et la compréhension ». Contrairement à l’ordinateur, le cerveau participe d’une pensée où le corps s’inscrit dans une temporalité complexe avec des cycles et des rythmes. « Une machine sans limites thésaurise de l’information, tandis qu’un corps avec des limites produit un monde de sens. »

Qui va en profiter ?

Si elle ne prétend « cacher aucune idéologie », la technologie s’est transformée en une véritable fabrique de valeurs. Son enlacement aux intérêts néolibéraux de rendement, d’efficacité, de productivité, ainsi que son développement encouragé à coups de milliards de dollars par les grandes multinationales avides de capturer nos « temps de cerveaux » et nos temps de vie devraient nous alerter sur l’urgence de penser cette emprise. De notre rythme cardiaque à notre sommeil, de nos agendas à nos amis, de nos déplacements à nos photos, de nos questionnements existentiels à nos « maladies », tout doit être capturé par les machines. La complexité de la vie est réduite aux algorithmes et aux statistiques. Selon Benasayag, au nom de principes « d’efficacité » et « d’amélioration » de l’espèce humaine, le développement des nouvelles technologies a renoncé à réfléchir en profondeur aux enjeux humains, éthiques, sociaux et environnementaux créés par cette colonisation de nos vies.

Dans quel monde voulons-nous vivre ?

Veut-on vraiment vivre dans un monde de plus en plus envahi par les ordinateurs ? Qu’est-ce qu’on y gagne et qu’est-ce qu’on y perd ? Est-ce un réel progrès pour l’humanité ? Nous ignorons les changements que ces nouvelles technologies qui se développent à toute allure produisent dans nos vies, nos cerveaux, nos corps, nos écosystèmes. La rapidité avec laquelle croît la « révolution numérique » nous empêche de la métaboliser comme l’humanité a pu le faire avec l’apparition sur le temps long du langage et de l’écriture. Questionné sur les futures applications de l’IA, Yoshua Bengio donne l’exemple des maisons intelligentes qui connaîtront nos désirs avant même que nous ayons le temps d’y penser. Elle saura qu’on veut un café à 7 h le matin, elle nous lira nos nouveaux courriels, elle devinera qu’on aime écouter un air de musique classique au retour du travail, elle tamisera nos lumières en soirée, etc. Nous n’aurons plus besoin de penser à toutes ces petites choses de la vie et enfin nous pourrons déployer notre efficacité pour ce qui « compte » réellement. Le meilleur des mondes quoi ! Si l’on peut se questionner sur la désirabilité d’un tel projet et sur ce à quoi servirait ce fameux temps « gagné », il est légitime de se demander qui aura les moyens de « profiter » de ces innovations alors que plus du tiers de l’humanité ne comble pas ses besoins minimaux en nourriture.

Aider la vie

Miguel Benasayag nous raconte la « petite » histoire de son patient de 90 ans. Celui-ci s’inquiète de sa perte d’autonomie puisqu’il lui faut plus de trente minutes le matin pour se préparer un café. Il se lève de son fauteuil, contourne les meubles pour se rendre à l’armoire où se trouvent les filtres, grimpe sur la pointe des pieds pour atteindre la boîte, en pose un dans sa cafetière, y verse de l’eau, moud les grains, prend une cuillère, mesure la bonne quantité de café moulu pour que son breuvage ne soit ni trop fort ni trop faible. Il dit un mot à sa compagne, se verse un café et écoute les oiseaux chanter et pense à ce qu’il va faire de sa journée. Benasayag lui dit alors : « Mais mon cher Monsieur, ne désespérez pas puisque cette demi-heure que vous prenez à préparer votre café le matin, c’est ce qui vous maintient en vie. Tout va bien ». À travers ce récit, le penseur nous invite à « aider la vie, pour éviter que par ignorance une supposée augmentation quantitative ne finisse par écraser les dimensions qualitatives propres à la vie, celles du sens et de la complexité. La tentation d’une puissance illimitée, la promesse d’une dérégulation totale s’opposent à l’essence même de la vie, qui n’est autre que la fragilité ».

 

Marie-Claude Goulet[1]

 

Notes

  1. Médecin et enseignante à la Faculté de médecine de l’Université de Montréal.
  2. Miguel Benasayag, Cerveau augmenté, homme diminué, Paris, La Découverte, 2016.

 

 


 

 

Vous appréciez cet article ? Soutenez-nous en vous abonnant au NCS ou en faisant un don.

Vous pouvez nous faire parvenir vos commentaires par courriel ou à notre adresse postale :

cap@cahiersdusocialisme.org

Collectif d’analyse politique
CP 35062 Fleury
Montréal
H2C 3K4