L’université populaire des NCS

L’intelligence artificielle : entre promesses et périls

Axe 2 – La révolution numérique et les enjeux pour les 99 %

Par Mis en ligne le 26 septembre 2019

Montréal est deve­nue une des plaques tour­nantes de la recherche et du déve­lop­pe­ment en intel­li­gence arti­fi­cielle (IA). Selon Yoshua Bengio, direc­teur de l’Institut des algo­rithmes d’apprentissage de Montréal (MILA), nous sommes « à l’aube d’une nou­velle révo­lu­tion indus­trielle ». Les deux paliers de gou­ver­ne­ment ont ouvert les vannes avec des sub­ven­tions impor­tantes pour l’avancée des connais­sances dans ce domaine. De grandes mul­ti­na­tio­nales (Google, Microsoft, Facebook et Amazon) offrent des mil­lions aux ins­ti­tuts tra­vaillant au déve­lop­pe­ment de l’intelligence arti­fi­cielle. La pro­messe d’une meilleure vie où les machines aide­raient les humains semble pro­vo­quer un inté­rêt géné­ra­lisé. Comment poser un autre regard sur ce « pro­grès » annoncé ?

La cri­tique de Miguel Benasayag

Benasayag, un phi­lo­sophe et cli­ni­cien franco-argen­tin, pro­pose dans un ouvrage per­cu­tant[2] une thèse cri­tique quant aux nou­velles connais­sances sur le fonc­tion­ne­ment du cer­veau et leurs dif­fé­rentes appli­ca­tions. « Le déve­lop­pe­ment appa­rem­ment illi­mité des nou­velles puis­sances tech­no­lo­giques s’accompagne en effet para­doxa­le­ment d’un sen­ti­ment d’impuissance de plus en plus pro­fond chez nos contem­po­rains qui se sentent comme des feuilles dans la tem­pête, inca­pables de maî­tri­ser le cours des évé­ne­ments, tant sociaux que per­son­nels. » Cette rup­ture, Benasayag la qua­li­fie de révo­lu­tion anthro­po­lo­gique. En tou­chant au cer­veau, on touche à la pierre fon­da­men­tale de l’édifice de la moder­nité. Mais, se demande-t-il, que va deve­nir cet édi­fice ? « C’est dans un monde de désen­chan­te­ment où la croyance en l’avenir et les pro­messes his­to­ri­cistes et téléo­lo­giques d’un monde par­fait à venir sont tom­bées que la tech­no­lo­gie occupe anthro­po­lo­gi­que­ment une place que nous nous sommes trop rare­ment attar­dés à penser. » Si l’entreprise de modé­li­sa­tion des méca­nismes du cer­veau libère une puis­sance et une connais­sance immenses, elle nous plonge dans une grande per­plexité. « Avec les avan­cées des tech­no­lo­gies d’imagerie céré­brale ou de la connais­sance de la chimie du sys­tème ner­veux cen­tral, nous sommes confron­tés à la tâche immense de penser la nou­veauté que sup­pose ce sujet de la connais­sance (le cer­veau) qui décide d’entreprendre l’étude de lui-même ».

Technophiles et tech­no­phobes

Alors que les tech­no­philes jubilent des pro­messes de puis­sances illi­mi­tées, les tech­no­phobes y voient plutôt une catas­trophe à venir. Le phi­lo­sophe nous convie à ne pas « faire de choix mani­chéen » puisque le monde nou­veau est déjà là, mais plutôt à réflé­chir aux dif­fé­rents pos­sibles per­met­tant de « déve­lop­per un mode d’hybridation (homme-nature-tech­no­lo­gie-culture) qui favo­rise la colo­ni­sa­tion de la tech­no­lo­gie dans l’intérêt de la vie et de la culture » et non l’inverse où nous sommes arri­vés : l’humain au ser­vice de la tech­no­lo­gie. L’exemple du télé­phone por­table parle de lui-même. L’humain est connecté en per­ma­nence et doit se sou­mettre aux nou­veaux dik­tats impo­sés par cette tech­no­lo­gie : accé­lé­ra­tion du temps, tra­vail continu, connexion constante, infor­ma­tions illi­mi­tées, flou entre vie privée et vie publique, etc. Les dif­fé­rentes appli­ca­tions de nos télé­phones – dits « intel­li­gents » – ont modi­fié notre rap­port au monde. « Tout ce que la tech­no­lo­gie rend pos­sible tend à se trans­for­mer en une obli­ga­tion dans nos vies, puisque ces pos­sibles sculptent le monde selon leurs carac­té­ris­tiques propres. » La puis­sance tech­no­lo­gique impose son rythme, sa logique et sa dyna­mique.

Un monde sans limites ?

Alors qu’on nous promet un monde sans limites, Benasayag y voit plutôt le triomphe d’un phy­si­ca­lisme réduc­tion­niste où les com­por­te­ments de l’être humain sont ana­ly­sés comme une série méca­nique de mou­ve­ments sur­dé­ter­mi­nés par des lois phy­siques et chi­miques. On assiste à une « déter­ri­to­ria­li­sa­tion » et à une dis­lo­ca­tion du sujet dans ses par­ties ; on trans­forme l’être humain en un être modu­laire. Alors que le cer­veau existe dans un orga­nisme qui s’inscrit dans une his­toire et des échanges, et qui ne pense ni ne s’adapte seul, puisque le corps pense aussi, l’IA tente de pro­gram­mer une sorte de « cer­veau sans corps » où l’on évacue le fait que le sens dépend de l’existence d’un orga­nisme inté­gré et que les « limites de l’organisme sont la condi­tion même de la pos­si­bi­lité de vivre dans un monde où existent le sens et la com­pré­hen­sion ». Contrairement à l’ordinateur, le cer­veau par­ti­cipe d’une pensée où le corps s’inscrit dans une tem­po­ra­lité com­plexe avec des cycles et des rythmes. « Une machine sans limites thé­sau­rise de l’information, tandis qu’un corps avec des limites pro­duit un monde de sens. »

Qui va en pro­fi­ter ?

Si elle ne pré­tend « cacher aucune idéo­lo­gie », la tech­no­lo­gie s’est trans­for­mée en une véri­table fabrique de valeurs. Son enla­ce­ment aux inté­rêts néo­li­bé­raux de ren­de­ment, d’efficacité, de pro­duc­ti­vité, ainsi que son déve­lop­pe­ment encou­ragé à coups de mil­liards de dol­lars par les grandes mul­ti­na­tio­nales avides de cap­tu­rer nos « temps de cer­veaux » et nos temps de vie devraient nous aler­ter sur l’urgence de penser cette emprise. De notre rythme car­diaque à notre som­meil, de nos agen­das à nos amis, de nos dépla­ce­ments à nos photos, de nos ques­tion­ne­ments exis­ten­tiels à nos « mala­dies », tout doit être cap­turé par les machines. La com­plexité de la vie est réduite aux algo­rithmes et aux sta­tis­tiques. Selon Benasayag, au nom de prin­cipes « d’efficacité » et « d’amélioration » de l’espèce humaine, le déve­lop­pe­ment des nou­velles tech­no­lo­gies a renoncé à réflé­chir en pro­fon­deur aux enjeux humains, éthiques, sociaux et envi­ron­ne­men­taux créés par cette colo­ni­sa­tion de nos vies.

Dans quel monde vou­lons-nous vivre ?

Veut-on vrai­ment vivre dans un monde de plus en plus envahi par les ordi­na­teurs ? Qu’est-ce qu’on y gagne et qu’est-ce qu’on y perd ? Est-ce un réel pro­grès pour l’humanité ? Nous igno­rons les chan­ge­ments que ces nou­velles tech­no­lo­gies qui se déve­loppent à toute allure pro­duisent dans nos vies, nos cer­veaux, nos corps, nos éco­sys­tèmes. La rapi­dité avec laquelle croît la « révo­lu­tion numé­rique » nous empêche de la méta­bo­li­ser comme l’humanité a pu le faire avec l’apparition sur le temps long du lan­gage et de l’écriture. Questionné sur les futures appli­ca­tions de l’IA, Yoshua Bengio donne l’exemple des mai­sons intel­li­gentes qui connaî­tront nos désirs avant même que nous ayons le temps d’y penser. Elle saura qu’on veut un café à 7 h le matin, elle nous lira nos nou­veaux cour­riels, elle devi­nera qu’on aime écou­ter un air de musique clas­sique au retour du tra­vail, elle tami­sera nos lumières en soirée, etc. Nous n’aurons plus besoin de penser à toutes ces petites choses de la vie et enfin nous pour­rons déployer notre effi­ca­cité pour ce qui « compte » réel­le­ment. Le meilleur des mondes quoi ! Si l’on peut se ques­tion­ner sur la dési­ra­bi­lité d’un tel projet et sur ce à quoi ser­vi­rait ce fameux temps « gagné », il est légi­time de se deman­der qui aura les moyens de « pro­fi­ter » de ces inno­va­tions alors que plus du tiers de l’humanité ne comble pas ses besoins mini­maux en nour­ri­ture.

Aider la vie

Miguel Benasayag nous raconte la « petite » his­toire de son patient de 90 ans. Celui-ci s’inquiète de sa perte d’autonomie puisqu’il lui faut plus de trente minutes le matin pour se pré­pa­rer un café. Il se lève de son fau­teuil, contourne les meubles pour se rendre à l’armoire où se trouvent les filtres, grimpe sur la pointe des pieds pour atteindre la boîte, en pose un dans sa cafe­tière, y verse de l’eau, moud les grains, prend une cuillère, mesure la bonne quan­tité de café moulu pour que son breu­vage ne soit ni trop fort ni trop faible. Il dit un mot à sa com­pagne, se verse un café et écoute les oiseaux chan­ter et pense à ce qu’il va faire de sa jour­née. Benasayag lui dit alors : « Mais mon cher Monsieur, ne déses­pé­rez pas puisque cette demi-heure que vous prenez à pré­pa­rer votre café le matin, c’est ce qui vous main­tient en vie. Tout va bien ». À tra­vers ce récit, le pen­seur nous invite à « aider la vie, pour éviter que par igno­rance une sup­po­sée aug­men­ta­tion quan­ti­ta­tive ne finisse par écra­ser les dimen­sions qua­li­ta­tives propres à la vie, celles du sens et de la com­plexité. La ten­ta­tion d’une puis­sance illi­mi­tée, la pro­messe d’une déré­gu­la­tion totale s’opposent à l’essence même de la vie, qui n’est autre que la fra­gi­lité ».

Marie-Claude Goulet[1]

Notes

  1. Médecin et ensei­gnante à la Faculté de méde­cine de l’Université de Montréal.
  2. Miguel Benasayag, Cerveau aug­menté, homme dimi­nué, Paris, La Découverte, 2016.


Vous appréciez cet article ? Soutenez-nous en vous abonnant au NCS ou en faisant un don.

Vous pouvez nous faire parvenir vos commentaires par courriel ou à notre adresse postale :

cap@​cahiersdusocialisme.​org

Collectif d’analyse poli­tique
CP 35062 Fleury
Montréal
H2C 3K4

Les commentaires sont fermés.