Intelligence artificielle: faut-il craindre le pire ? Avec Yoshua Bengio

Quelles formes prendra le capitalisme numérique, quels impacts sur le monde du travail et sur le syndicalisme ? Selon Yoshua Bengio, spécialiste de calibre international, les avancées récentes en la matière commencent à peine à s’introduire dans notre quotidien : voitures qui se conduisent toutes seules, puissants logiciels de reconnaissance vocale capables de soutenir des conversations rudimentaires et… même, un champion mondial de go battu par un ordinateur ! Comme les choses vont vite, on estime qu’entre 30 et 50 % des emplois seront touchés, d’ici 10 ans, par l’intelligence artificielle (IA). Cela dit, la recherche actuelle bute sur un écueil important. L’intelligence s’exerce, quel que soit le domaine, sur un substrat préalablement enregistré, soit sur une collection importante d’informations et sur une banque de liens permettant de les associer entre elles au profit d’une tâche particulière. Or, jusqu’ici, nous n’avons réussi à transmettre ce substrat aux ordinateurs que de manière « explicite », c’est-à-dire en « entrant des données » dans l’ordinateur. La capacité d’extraire du réel, de manière intuitive, de nouvelles connaissances ne fait pas encore partie des potentialités de la machine. En observant le réel, un enfant comprend intuitivement le concept de la gravité, ou le principe de l’action-réaction : les ordinateurs en sont pour l’instant incapables et n’apprennent pas encore par eux-mêmes.

Les enjeux

Difficile de ne pas imaginer que des avancées majeures seront faites sous peu dans ce domaine, ce qui soulève la question des enjeux liés aux applications qui vont découler de cette nouvelle génération d’ordinateurs. Le professeur Bengio estime qu’une vision anthropomorphique du développement des machines pensantes (un monde dont les ordinateurs auraient pris le contrôle, fiction reprise dans de nombreux de films) n’est pas vraiment fondée : il y a toujours un être humain derrière un logiciel… Les mauvaises langues diront que c’est bien ça le problème ! De telles peurs ne devraient pas nous distraire du véritable danger, soit un mauvais usage des nouvelles possibilités de l’IA. Si les retombées positives peuvent être importantes en termes de développement social, en éducation et dans la santé notamment, on peut imaginer des domaines où, à l’inverse, l’utilisation de l’IA pourrait poser d’énormes problèmes éthiques. On pense notamment à une surveillance « mur à mur » de la vie des gens, et à l’utilisation qui peut être faite des données recueillies, dans le domaine des assurances par exemple, voire même dans le domaine politique. Bengio évoque à cet égard la possibilité de développer, sur la base d’une somme phénoménale de renseignements sur les comportements électoraux, de véritables publicités manipulatrices, ce qui constituerait un détournement direct de la démocratie. Les investissements dans le domaine de l’IA étant surtout de nature privée, on peut parier que les applications risquent de se développer sans que les tenants et aboutissants ne fassent, au préalable, l’objet de consensus sociaux. En attendant, les chercheurs et chercheuses ont peu de pouvoir sur l’utilisation des technologies qui résultent de leur travail. Bengio plaide pour des liens plus étroits entre décideurs politiques et sciences sociales, de telle sorte que la réflexion sur les enjeux puisse tenir compte des paramètres sociaux. Pour l’heure, dans un monde déjà « formaté à l’inégalité », tout indique que le développement de l’IA va enrichir ceux qui sont déjà riches, que ce soit les pays ou les individus !

 

Synthèse de Jean Trudelle[1]

 

Notes

  1. Yoshua Bengio est professeur titulaire au département d’informatique et de recherche opérationnelle de l’Université de Montréal et directeur du MILA, l’Institut des algorithmes d’apprentissage de Montréal. Jean Trudelle est professeur de physique au cégep Ahuntsic.

 


 

 

Vous appréciez cet article ? Soutenez-nous en vous abonnant au NCS ou en faisant un don.

Vous pouvez nous faire parvenir vos commentaires par courriel ou à notre adresse postale :

cap@cahiersdusocialisme.org

Collectif d’analyse politique
CP 35062 Fleury
Montréal
H2C 3K4