L’université populaire des NCS

Intelligence artificielle : faut-il craindre le pire ? Avec Yoshua Bengio

Axe 2 – La révolution numérique et les enjeux pour les 99 %

Par Mis en ligne le 28 septembre 2019

Quelles formes pren­dra le capi­ta­lisme numé­rique, quels impacts sur le monde du tra­vail et sur le syn­di­ca­lisme ? Selon Yoshua Bengio, spé­cia­liste de calibre inter­na­tio­nal, les avan­cées récentes en la matière com­mencent à peine à s’introduire dans notre quo­ti­dien : voi­tures qui se conduisent toutes seules, puis­sants logi­ciels de recon­nais­sance vocale capables de sou­te­nir des conver­sa­tions rudi­men­taires et… même, un cham­pion mon­dial de go battu par un ordi­na­teur ! Comme les choses vont vite, on estime qu’entre 30 et 50 % des emplois seront tou­chés, d’ici 10 ans, par l’intelligence arti­fi­cielle (IA). Cela dit, la recherche actuelle bute sur un écueil impor­tant. L’intelligence s’exerce, quel que soit le domaine, sur un sub­strat préa­la­ble­ment enre­gis­tré, soit sur une col­lec­tion impor­tante d’informations et sur une banque de liens per­met­tant de les asso­cier entre elles au profit d’une tâche par­ti­cu­lière. Or, jusqu’ici, nous n’avons réussi à trans­mettre ce sub­strat aux ordi­na­teurs que de manière « expli­cite », c’est-à-dire en « entrant des don­nées » dans l’ordinateur. La capa­cité d’extraire du réel, de manière intui­tive, de nou­velles connais­sances ne fait pas encore partie des poten­tia­li­tés de la machine. En obser­vant le réel, un enfant com­prend intui­ti­ve­ment le concept de la gra­vité, ou le prin­cipe de l’action-réaction : les ordi­na­teurs en sont pour l’instant inca­pables et n’apprennent pas encore par eux-mêmes.

Les enjeux

Difficile de ne pas ima­gi­ner que des avan­cées majeures seront faites sous peu dans ce domaine, ce qui sou­lève la ques­tion des enjeux liés aux appli­ca­tions qui vont décou­ler de cette nou­velle géné­ra­tion d’ordinateurs. Le pro­fes­seur Bengio estime qu’une vision anthro­po­mor­phique du déve­lop­pe­ment des machines pen­santes (un monde dont les ordi­na­teurs auraient pris le contrôle, fic­tion reprise dans de nom­breux de films) n’est pas vrai­ment fondée : il y a tou­jours un être humain der­rière un logi­ciel… Les mau­vaises langues diront que c’est bien ça le pro­blème ! De telles peurs ne devraient pas nous dis­traire du véri­table danger, soit un mau­vais usage des nou­velles pos­si­bi­li­tés de l’IA. Si les retom­bées posi­tives peuvent être impor­tantes en termes de déve­lop­pe­ment social, en édu­ca­tion et dans la santé notam­ment, on peut ima­gi­ner des domaines où, à l’inverse, l’utilisation de l’IA pour­rait poser d’énormes pro­blèmes éthiques. On pense notam­ment à une sur­veillance « mur à mur » de la vie des gens, et à l’utilisation qui peut être faite des don­nées recueillies, dans le domaine des assu­rances par exemple, voire même dans le domaine poli­tique. Bengio évoque à cet égard la pos­si­bi­lité de déve­lop­per, sur la base d’une somme phé­no­mé­nale de ren­sei­gne­ments sur les com­por­te­ments élec­to­raux, de véri­tables publi­ci­tés mani­pu­la­trices, ce qui consti­tue­rait un détour­ne­ment direct de la démo­cra­tie. Les inves­tis­se­ments dans le domaine de l’IA étant sur­tout de nature privée, on peut parier que les appli­ca­tions risquent de se déve­lop­per sans que les tenants et abou­tis­sants ne fassent, au préa­lable, l’objet de consen­sus sociaux. En atten­dant, les cher­cheurs et cher­cheuses ont peu de pou­voir sur l’utilisation des tech­no­lo­gies qui résultent de leur tra­vail. Bengio plaide pour des liens plus étroits entre déci­deurs poli­tiques et sciences sociales, de telle sorte que la réflexion sur les enjeux puisse tenir compte des para­mètres sociaux. Pour l’heure, dans un monde déjà « for­maté à l’inégalité », tout indique que le déve­lop­pe­ment de l’IA va enri­chir ceux qui sont déjà riches, que ce soit les pays ou les indi­vi­dus !

Synthèse de Jean Trudelle[1]

Notes

  1. Yoshua Bengio est pro­fes­seur titu­laire au dépar­te­ment d’informatique et de recherche opé­ra­tion­nelle de l’Université de Montréal et direc­teur du MILA, l’Institut des algo­rithmes d’apprentissage de Montréal. Jean Trudelle est pro­fes­seur de phy­sique au cégep Ahuntsic.


Vous appréciez cet article ? Soutenez-nous en vous abonnant au NCS ou en faisant un don.

Vous pouvez nous faire parvenir vos commentaires par courriel ou à notre adresse postale :

cap@​cahiersdusocialisme.​org

Collectif d’analyse poli­tique
CP 35062 Fleury
Montréal
H2C 3K4

Les commentaires sont fermés.