Merci d'encourager L'Agora
Faites un don via Paypal
Le site est en cours de modernisation. Nous vous invitons à utiliser la recherche pour repérer les contenus qui vous intéressent. Merci de votre patience et bonne lecture.

La déclaration de Montréal sur l’intelligence artificielle

Jacques Dufresne

Au lendemain du Forum IA responsable tenu à Montréal les 2 et 3 novembre 2017, on pouvait lire sur le site internet de l’Université de Montréal, le préambule d’une Déclaration appelée, semble-t-il, à être connue mondialement sous le nom de «Déclaration de Montréal», quand elle aurait pris sa forme définitive suite à un ambitieux programme de consultations sur des questions précisées dans la deuxième section du préambule.

L’éthique entre en scène dans le grand débat de l’heure, comme nous l’apprenait le philosophe Jocelyn Maclure dans Le Devoir du 2 novembre dernier. Monsieur Maclure, professeur à l’Université Laval, est président de la Commission de l’éthique en science et en technologie. Il faut réfléchir un peu avant de déclarer que l’entrée en scène officielle de l’éthique est une bonne nouvelle. J’ai participé activement aux premières heures du débat sur les nouvelles techniques de reproduction au cours de la décennie 1980 et j’ai suivi le fil des événements par la suite. Mes craintes initiales sur le véritable rôle des éthiciens se sont avérées justes. Tout le monde peut constater aujourd’hui qu’ils ont plus contribué à avaliser les innovations qu’à les freiner pour permettre un temps plus long de réflexion dont on découvrira un jour qu’il aurait été bien nécessaire. C’est ainsi par exemple que, sous leur haute autorité morale, l’eugénisme qui, au début de la décennie 1980 était encore rejeté par une majorité, ici au Québec du moins, est devenu une chose routinière. Dans les hautes sphères de la science et de la politique, on n’y avait jamais renoncé. C’est l’usage qu’en avaient fait les États totalitaires qu’on avait rejeté. Ce qui était un mal dans ce contexte est devenu un bien en contexte libéral. Mais cette légitimation par le choix individuel risque fort de servir bientôt à innocenter les États qui voudront revenir aux pratiques hitlériennes. Voici ce qu’écrit le transhumaniste le plus influent en France, Laurent Alexandre, dans un livre, La guerre des intelligences, dédié au ministre de l’Éducation de son pays. « Nous devons gérer une rupture brutale, imminente et inéluctable. Pour y faire face, notre seule arme est notre cerveau reptilien très modestement domestiqué par la civilisation. Le silicium et l’eugénisme deviendront notre viatique dans le monde d’une IA omniprésente. » Il se trouvera sûrement un éthicien pour approuver cette prédiction.

Les éthiciens, sauf exception, s’intègrent au sérail techno qui, sauf exception encore, les cooptent. Ils font eux aussi partie des experts. Une implication authentiquement démocratique des citoyens s’impose, sous la forme par exemple de sondages délibératifs.

Ce que l’équipe du site PMO (Pièces et main d’œuvre) a bien compris. Ces disciples de Lewis Mumford, Jacques Ellul et Bernard Charbonneau, dans un ouvrage paru en septembre 2017, Manifeste des chimpanzés du futur contre le transhumanisme, ont fait une excellente analyse du dialogue démocratique entre experts.

« À quoi bon discuter. L'expertise nous dépouille de notre pouvoir politique, en neutralisant les prises de décision pour les placer dans le champ de la compétence technique. Le transhumaniste Aubrey de Grey le dit après bien d'autres de sa techno-caste

‘’Afin de trouver une solution technique à un problème spécifique, il faut se référer à la personne qui détient la formation appropriée : un ingénieur.’’

On se souvient que les problèmes spécifiques auxquels de Grey cherche une ‘’solution technique’’ sont le vieillissement, la maladie et la mort. Trouvez-nous un ingénieur. […]

En bonne démocratie, nous, citoyens réputés compétents en la matière, devrions décider quel sens donner aux affaires de la cité. Ensuite seulement, confier aux experts la recherche du moyen technique utile, le cas échéant, pour atteindre l'objectif. Définir une fin avant les moyens, mais aussi juger les moyens d'un point de vue politique. Si les scientifiques du Giec191 sont utiles pour informer les gouvernements des risques de chaos climatique et de crise écologique (confirmant tardivement les alertes des esprits lucides), ils n'ont aucune légitimité pour dicter les mesures à prendre. »1 Les amis de PMO ont démonté le mécanisme des grandes consultations dans une vidéo vigoureuse, mais plus théâtrale que violente

Ce sont des experts de l’IA, Yoshua Bengio de l’université de Montréal, et Yoshai Bendkler, de l’Université Harvard, qui ont donné le ton au Forum de Montréal. Mauvais départ. L’UdeM compte plusieurs professeurs ayant une réputation internationale en tant que critiques de l’IA et du transhumanisme, Nicolas Le Dévédec, par exemple, et Cécile Lafontaine. On était en droit de s’attendre à ce que l’un des deux soit à l’avant-scène. Sur une question aussi importante, c’est le gouvernement du Québec qui aurait dû prendre l’initiative de la consultation et lui donner la forme d’un sondage délibératif.

L’IA et le transhumanisme, un couple solide

Les organisateurs se sont bien gardés d’associer le transhumanisme à l’Intelligence artificielle. On aurait pu s’en réjouir si dans les faits il était encore possible de ne pas tenir compte des liens étroits qui les unissent. Ils forment un couple solide. On imagine mal un transhumaniste qui ne serait pas aussi un inconditionnel de l’IA ; quant aux spécialistes de cette discipline qui ne partagent pas les espoirs fous des transhumanistes, ils doivent au moins être conscients du fait qu’ils apportent à leur moulin une eau essentielle. Il faut certes s’efforcer d’éviter l’amalgame, mais quand il existe dans la réalité c’est mentir que de ne pas le reconnaître. Comment pourrait-on imaginer une réflexion sérieuse sur l’IA sans tenir compte des mythes transhumanistes qui la propulsent, même sur le plan financier, par le biais des milliards de milliards de la Silicon Valley?

Voici comment, dans La guerre des intelligences, Laurent Alexandre fait reposer sur l’IA son école de demain.

« La nécessité d’augmenter nos capacités cognitives apparaîtra rapidement évidente et incontournable. La compétition d’un monde où l’IA existe sera comme le Tour de France cycliste des années quatre-vingt-dix : une course où celui qui n’est pas dopé n’a aucune chance de terminer à moins de dix minutes du vainqueur d’étape.

Notre cerveau est un outil remarquable, polyvalent et économe en énergie, mais au débit limité à quelques octets par seconde. En 2017, deux ordinateurs échangent déjà 1 000 milliards d’informations par seconde… On passera pudiquement sur le fait que l’IA ne dort pas, ne mange pas, ne vieillit pas, voyage à 300 000 kilomètres par seconde et peut se subdiviser en quelques millièmes de seconde… Notre ordinateur « fait de viande » est affligé sur ces points d’un handicap fondamental face aux cerveaux de silicium. La sélection darwinienne étant à l’arrêt puisque la mortalité infantile a heureusement quasiment disparu, seules des modifications génétiques embryonnaires pourraient améliorer la compétitivité de notre « hardware neuronal » face aux IA. Le potentiel d’amélioration est sans doute significatif mais pas illimité ; il existe des limitations physiques à l’augmentation de nos capacités intellectuelles que le silicium n’a pas. Si notre cerveau grossissait, cela allongerait la longueur des axones qui relient les neurones entre eux, ce qui serait néfaste pour leur efficacité et imposerait, par ailleurs, de généraliser la césarienne. » […] L’École sera transhumaniste ou ne sera pas. »2


Cet outil appelé intelligence

Voici le premier paragraphe du préambule de la déclaration de Montréal. « Qu’elle soit naturelle ou artificielle, l’intelligence n’a pas de valeur en soi. L’intelligence d’un individu ne nous dit rien de sa valeur morale; c’est aussi le cas pour toute autre entité intelligente. L’intelligence peut néanmoins avoir une valeur instrumentale: c’est un outil qui peut nous éloigner ou nous rapprocher d’un objectif que nous valorisons. Ainsi, l’intelligence artificielle (IA) peut créer de nouveaux risques et exacerber les inégalités économiques et sociales. Mais elle peut aussi contribuer au bien-être, à la liberté ou à la justice. »

On n’aura jamais vu autant de sophismes et d’affirmations gratuites en si peu de lignes. Tout commence par une identification de l’intelligence artificielle et de l’intelligence, naturelle, laquelle, nous apprend-on dans la même ligne, n’a pas plus de valeur en elle-même que sa caricature mécanique.

Le mot intelligence appliqué à une machine n’est pas une figure de style innocente mais un argument insidieux, et puissant, parce que répété par tout le monde, en faveur de la réduction de l’homme à son cerveau et de l’identification de ce cerveau à un logiciel. Cette faute de logique, Raymond Tallis, spécialiste anglais des neurosciences, l’appelle «transfert d’épithètes». L’épithète transférée est une figure de style qui consiste à attribuer une caractéristique du vivant à une chose inanimée. C’est ainsi que les pierres respirent, que les torrents sont en colère ou qu’une cellule de prison réservée aux condamnés deviendra par exemple la cellule condamnée.

L’intérêt des épithètes transférées est en partie stylistique, en partie grammatical, mais il reflète surtout notre tendance à animer tout ce qui nous entoure, ce que John Ruskin appelait «le sophisme pathétique», l’une des caractéristiques du romantisme à ses yeux.
Dans la plupart des cas, nous ne nous sommes pas trompés par cette tromperie. Nous gardons à l’esprit le fait que ce n’est pas la cellule qui est condamnée, mais le prisonnier. Il n’empêche que nous ouvrons ainsi la porte à des situations où le transfert d’épithète passe inaperçu, ce qui se produit fréquemment dans le cas des machines et constamment dans le cas des machines complexes comme l’ordinateur. La permissivité du langage conduit alors à la corruption des mots et à la confusion conceptuelle qui en résulte : l’outil devient l’acte (le marteau cloue) et bientôt l’acteur (c’est le marteau et non l’ouvrier qui cloue).

Un récent cahier spécial du Time, où il est surtout question des avancées de l’intelligence artificielle, y compris de l’ordinateur quantique, se termine par un article de David von Drehle sur David Gelernter, un informaticien de génie qui se distingue de la plupart de ses collègues par une culture rappelant celle de Goethe et un style coloré dans ses écrits, ses conversations comme dans sa vie quotidienne. La réduction du cerveau au logiciel lui apparaît « d’une superficialité infantile. » Contrairement à ceux qui tiennent pour acquis que l’esprit humain s’étale tout entier dans sa partie le plus élevée et la plus abstraite, Gelernter sait et sent qu’il est étagé, qu’il oscille constamment entre des activités qu’il contrôle et d’autres, comme dans les rêves, qui échappent à son contrôle. À ses yeux, une preuve mathématique n’est pas un plus grand signe d’intelligence que l’«Ode à un rossignol» de Keats, lequel termine son poème en se demandant où il se situe dans le large spectre de la conscience. «Était-ce une vision, un rêve éveillé? Envolée cette musique : - Est-ce que je suis éveillé ou endormi. »

Dans la revue Relations3, le psychanalyste Michel Benasayag défend la même conception : « Ce n'est pas le cerveau qui pense : c'est le corps pensant, vivant, situé affectivement dans un milieu, doté d'une longue histoire qui va même au-delà de sa biographie. Un cerveau est indissociable du corps qui est en constante interaction avec l'ensemble du vivant dont il est partie intégrante. C'est ainsi que les réseaux neuronaux du cerveau changent constamment de forme selon les expériences de la vie. Nous n 'avons pas un corps, nous sommes des corps, au sein du monde de la vie. On ne peut isoler le cerveau du corps, le corps du monde, le monde de la vie. En aucune façon la pensée ne peut être comparée à un simple flux logico-informatique qui circule dans un logiciel. L'ordinateur, même dans le cas de ce qu'on appelle l'apprentissage profond (« Deep Learning») qui lui permet d’incorporer de lui-même de nouvelles données, fonctionne de manière autoréférentielle, par feedback, sans échange ouvert avec le monde, pas même avec la table sur laquelle il est posé. L'idée de nous émanciper des corps est donc une idée folle, délirante, qui nous sort de la logique de la vie pour lui substituer la logique informatique, technique. En témoigne le fantasme transhumaniste de télécharger la pensée dans un ordinateur. »

Le bon sens aura raison de ce réductiionnisme si l'on en juge par l'article de Gilles McMIllan, L'intelligence artificielle, la voie vers l'eugénisme, paru dans Le Devoir du 14 novembre, en réplique à l'article de Jocelyn Maclure:

«Ce qu’on appelle l’intelligence artificielle a sans doute autant à voir avec l’intelligence que la pornographie avec l’érotisme. L’amour n’engage pas seulement les organes génitaux et la jouissance à tout prix, mais tout l’être humain, dont les relations humaines qu’il construit au gré de circonstances multiples et complexes, relations faites parfois de jouissances certes, mais aussi de douleurs, de déceptions, de frustrations, de conflits, de joie et de malheurs, de réflexivité à partir de ces infinies expériences : qui suis-je, qui sommes-nous, pourquoi ça ?[...]
L’intelligence produite en dehors de ce terreau humain en lien avec le monde et l’univers, connu et inconnu, n’est tout simplement pas de l’intelligence, car elle est privée de corps, d’émotions, de croyances, d’illusions, d’expériences ; elle est privée de ses forces comme de ses faiblesses.»

Il resterait beaucoup de choses à dire sur le premier paragraphe du préambule du Forum IA responsable tenu à Montréal, notamment sur la pseudo neutralité de l’intelligence. Qu’il nous suffise en conclusion de réclamer une consultation elle-même vraiment neutre et de rappeler que dans une telle situation il faut avoir le courage de choisir son camp, comme Louise Vandelac nous invite à le faire dans le dernier numéro de Relations.

Ou bien ou bien

«Peut-on croire, alors, que les crises croissantes et enchevêtrées du climat, de la biodiversité, de l'énergie, des ressources, de la santé et de la fertilité masculine, menaçant littéralement le corps de la planète, le corps humain, le corps social et celui de la pensée, vont freiner, paralyser et peut-être anéantir les prétentions de créer un homme de silicium?

Vont-elles, au contraire, multiplier les fantasmes de surhomme aux pouvoirs exponentiels et accaparer ainsi le peu de temps, d'énergie, d'argent et d'intelligence collective si indispensables à l'incontournable virage écologique et, du même coup, renvoyer la pensée, la solidarité et l'empathie, ciments de nos liens au monde, dans les limbes de l’histoire ? Histoire à suivre... pour que nous puissions donner suite et sens à l'Histoire. »

Notes

1. Manifeste des chimpanzés du futur, Éditions Service Compris, service.compris38@free.fr
2. Laurent Alexandre, Éditions JCLattès, Paris, 2017, p. 160
3. Automne 2017, numéro consacré à au transhumanisme.

À lire également du même auteur

Gustave Thibon : notre regard qui manque à la lumière, une synthèse pour un temps sans illusions
Cet article a d'abord paru dans Gustave Thibon, Dossier H, L'Âge d'Homme, Lausanne

Coopération et coopératives: les racines
Texte de la conférence de Jacques Dufresne dans le cadre du Forum coopératif et mutual

Bernard Charbonneau
«Agrégé d’histoire et de géographie, mais aussi grand ami et princi

Ivan Illich
Au cours de la décennie 1970, on pouvait présenter Ivan Illich comme le Socrate du v