Merci d'encourager L'Agora
Faites un don via Paypal
Le site est en cours de modernisation. Nous vous invitons à utiliser la recherche pour repérer les contenus qui vous intéressent. Merci de votre patience et bonne lecture.

La Déclaration de Montréal sur l’IA

Jacques Dufresne

Premier prinipe. « Le développement et l’utilisation des systèmes d’intelligence artificielle (SIA) doivent permettre d’accroître le bien-être de tous les êtres sensibles. »  Les animaux sont pris en compte,  L’ensemble est rassurant, y compris les précisions sur la méthode suivie. Tout y est. Sauf l'essentiel.

 Lu dans un cahier spécial du Devoir du samedi 8 décembre 2018 : « Montréal, plaque tournante de l’intelligence artificielle (IA) est aussi créatrice d’une Déclaration pour un développement responsable de l’IA. » Il s’agit d’un décalogue. Les bonnes intentions émergeant des discussions sont en effet ramenées à dix principes, dont voici le premier : « Le développement et l’utilisation des systèmes d’intelligence artificielle (SIA) doivent permettre d’accroître le bien-être de tous les êtres sensibles. » . On remarquera que les animaux sont pris en compte comme l’indique le choix de l’expression êtres sensibles plutôt que celle d’êtres humains. L’ensemble est rassurant, y compris les précisions sur la méthode suivie. Tout y est.

Sauf l’essentiel. Dès le premier titre du cahier du Devoir consacré à la Déclaration, une question se pose. Titre : « Pour que la machine reste l’alliée de l’homme » Alliée de l’homme, la machine l’a longtemps été. Personne n’a jamais songé à renoncer à l’usage du levier, de la roue, de la poulie, voire de la bicyclette, mais quand on affirme que la technique doit rester l’alliée de l’homme, on suppose qu’elle l’est encore même après Hiroshima et le réchauffement climatique. Est-ce le cas? De nombreux penseurs, dont Günther Anders, auteur de L’obsolescence de l’homme, ont trouvé d’excellents arguments pour démontrer que désormais c’est l’homme qui est l’allié de la machine, qu’elle a plus de contrôle sur lui que lui sur elle. Les questions de ce niveau de réflexion ne semblent pas intéresser les auteurs de la Déclaration, laquelle s’inscrit elle-même dans la logique du système technicien. Ce dernier, autonome par rapport aux humains, place les sociétés devant des faits accomplis et ne leur laisse le choix que de son encadrement. En vue de cet encadrement, un programme, remis à jour lors des premiers débats entourant la fécondation in vitro, suit ensuite son cours inflexible. Il faut rassurer les braves gens. L’éthique, servante de la technologie, comme la philosophie fut jadis servante de la théologie, entre alors en scène.

Selon des méthodes qui sont en elles-mêmes des fautes contre l’éthique, les promoteurs sont souvent juges et parties. Sur le site de la Déclaration, la main invisible du grand patron, Joshua Bengio est bien visible. Quant au cahier du Devoir, qui l’a financé, quelle était le degré d’autonomie des rédacteurs? Le procédé manque à ce point de transparence que la note explicative en devient inintelligible : « Ce cahier a été produit par l’équipe des publications spéciales du Devoir, grâce au soutien des annonceurs qui y figurent. Ces derniers n’ont cependant pas de droit de regard sur les textes. La rédaction du Devoir n’a pas pris part à la rédaction de ces contenus. » Que devons-nous comprendre? Que le Devoir n’est pas responsable de ce qu’il publie dans ses cahiers spéciaux? Oh là! Est-ce au Devoir que je suis abonné ou bien à une équipe des cahiers spéciaux dont j’ignore tout, et dont 99,9 % des lecteurs ignorent les responsabilités qui lui sont confiées. Vivement des subventions aux journaux, pour éviter que l’industrie ne les colonise par l’intermédiaire de ces universités qu’elle a déjà envahies.

La migration sensorielle

La logique du fait accompli et la liberté limitée des médias ont pour conséquence qu’on oublie de tenir compte du contexte général dans lequel s’inscrit une innovation comme celle de l’IA. Ce contexte, c’est le règne la quantité, la montée depuis trois siècles du formalisme : le chiffre, le numérique, les algorithmes, lesquels entraînent un glissement vers le virtuel (les écrans) qui à son tour entraîne une rupture du lien avec la nature par l’intermédiaire des sens.

Pour un végétal-animal-raisonnable comme l’être humain, dont toute l’évolution s’est accomplie en interaction directe avec la nature, cette question est à la fois d’une importance terrifiante et d’une simplicité désarmante. Elle se ramène en effet à ceci : vaut-il mieux pour un enfant jouer avec un vrai chien plutôt qu’avec un chien d’écran ou un chien robot?

Le sens des médias, le mot le dit, est de servir d’intermédiaire entre nous et le réel. Le but des entreprises œuvrant dans ce domaine ne devrait donc pas être de tenir les internautes captifs, mais de les inciter à quitter l’écran pour le réel. Or, tenir les humains captifs d’un écran, n’est-ce pas, sinon le but, du moins l’effet inévitable de l’intelligence artificielle et de l’enthousiasme qu’elle suscite? Ajoutons à cela qu’il y a de fortes chances qu’on devienne ce qu’on voit, et donc qu’à force de regarder des machines ou des produits de machine, on devienne soi-même machine. À son insu, ce qui rend la chose irrémédiable.

Voici une situation concrète évoquée à partir d’un article de fond La migration sensorielle , que l’on pourra lire au complet dans cette lettre. Les jeunes passent le tiers de leur temps devant un écran. « Les perceptions sensorielles, qui autrefois étaient tournées vers le monde réel, sont aujourd’hui rivées sur le monde virtuel, c’est pourquoi Philippe Perennès parle de migration sensorielle. […] de plus en plus d’enfants apprennent à se servir d’une tablette électronique avant même de savoir marcher? Qu’en est-il des autres sens? »

Voici le l’un des passages essentiels de l’article :

« Deux situations. Dans la première, nous sommes au bord de la mer, l’eau est à 26 C, nous regardons le lever du soleil. Là, nos sens sont grandement sollicités : par le sable sous nos pieds, par la chaleur de l’eau, par la brise fraîche du matin et la douce chaleur du soleil, par l’odeur de la mer, le bruit des vagues et des mouettes, par la vue du paysage qui se transforme sous nos yeux, etc.

Dans la seconde, nous marchons dans la rue d’une grande ville et au travers de la vitre d’un restaurant nous apparaît, sur un grand écran posté au mur, un feu de bois.

Si nous avions à comparer l’activité cérébrale issue de ces deux situations, souligne Perennès, nous pourrions voir que dans la première, les sens discutent ensemble, sollicitent de nombreuses aires du cerveau et font naître une véritable symphonie cérébrale. Concernant la seconde situation, que peut bien solliciter en nous ce feu de bois, quelle aire de notre cerveau peut bien être éveillée? Point de sensation de chaleur, point d’odeur, notre sens de la vue est insatisfait, nous n’entendons pas le crépitement du feu, nous ne percevons pas le danger potentiel, etc. Il n’y a pas de cohérence entre ce qui est perçu par les yeux sur l’écran et le vécu sensoriel global, qui continue d’être sollicité par l’environnement réel autour de nous. »

À la Déclaration sur l’IA, il manque un onzième principe sans lequel les dix autres perdent leur sens : le principe de réalité.

 

À lire également du même auteur

Coopération et coopératives: les racines
Texte de la conférence de Jacques Dufresne dans le cadre du Forum coopératif et mutual

Bernard Charbonneau
«Agrégé d’histoire et de géographie, mais aussi grand ami et princi

Ivan Illich
Au cours de la décennie 1970, on pouvait présenter Ivan Illich comme le Socrate du v

Teddy Goldsmith
Co-fondateur de l'association « Survival International » en 1968 consacrée &a

Barbara Ward
Barbara Mary Ward, née le 23 mai 1914 à Heworth (Yorkshire, Royaume-Uni) et morte le 3