Robot

En 1965, dans le cadre des Rencontres internationales de Genève, eut lieu un colloque mémorable intitulé Le robot, la bête et l'homme. Entre autres, Jacques Monod, Ernest Ansermet, Vercors, Roger Caillois, le R.P. Henri Niel figuraient parmi les conférenciers. La variété, la qualité et la pertinence des positions adoptées nous autorisent à considérer ce colloque comme l'événement intellectuel fondateur de l'ère du numérique.

On trouvera des extraits des conférences dans des documents associés au présent dossier.

En 1965, Jacques Monod ne doutait de rien. Son scientisme atteignait peut-être un sommet inégalé depuis. La science, et en l'occurrence la biologie moléculaire, allait tout expliquer: «Au sein de cette conception mécanistique moléculaire de l’être vivant, quelle est la place de l’homme ? A-t-il une place particulière ? Du point de vue de la biologie moléculaire, l’homme ne pose aucun problème particulier. Considéré objectivement par cette science, il est en principe totalement intelligible.»

Ni Descartes, ni La Mettrie, auteur de L'homme machine, ne pouvaient rêver d'un héritier intellectuel aussi fidèle. De nombreux savants contemporains ont la même conception de l'homme. À la Rencontre de Genève, c'est le chef d'orchestre Ernest Ansermet qui a répliqué de la façon la plus claire et la plus énergique à Jacques Monod. «Sartre nous dit que Dieu est mort ; or le seul Dieu qui peut mourir n’est pas celui qui est au ciel, mais celui qui s’annonce au cœur de l’homme et dont la voix se confond avec nos aspirations éthiques, nos aspirations au Vrai, au Beau et au Bien. Autrement dit, ce qui est mort en réalité, chez beaucoup d’hommes d’aujourd’hui, c’est cette voix intérieure de l’homme qui est celle de l’éthique.»

 C'est la vie intérieure qu'évoque ici Ansermet. Il faut en être habité pour la découvrir chez l'autre. Elle demeure la source de la principale opposition au réductionnisme de Jacques Monod. La position du Père Henri Niel est proche de celle d'Ansermet: «A la différence de l’animal qui trouve le repos dans une existence purement naturelle, l’homme ne peut vivre son existence d’être sensible et animé que dans un rapport conscient et libre à Dieu. En d’autres termes l’homme n’existe pas d’une existence purement naturelle, il existe aussi devant Dieu. La grande faute d’Adam est d’oublier qu’il a son centre en dehors de lui, de refuser ce rapport à Dieu, de vouloir s’accomplir comme animal divin. A la suite de ce drame le monde perd sa transparence première, Dieu se retire en quelque sorte de lui, et l’homme tombe sous la loi d’une nature qu’il a préférée à Dieu. [...]»

Et après être ainsi tombé sous la loi de la nature, l'homme tend à se conformer à ce que les sciences de la nature peuvent dire de lui, par là même, il donne raison à Jacques Monod.

 Roger Caillois adopte une position que l'on peut qualifier d'intermédiaire. C'est le jeu, commun à l'homme et à l'animal qui retient son attention plutôt que le déterminisme biologique de Monod ou le théocentrisme de Niel et d'Ansermet. Et dans la mesure même où il est sensible à la similitude de l'homme et de l'animal, il ne peut concevoir que l'être humain ait quelque raison de s'inquiéter de l'effet négatif que les machines pourraient avoir sur  lui. «Tout est dans l’homme. La machine n’est et ne sera jamais que de la ferraille, une matière manufacturée où passe un courant avec de misérables grésillements. Le miracle est que l’homme ait su imaginer et exécuter un engin qui lui mâchait la besogne et lui épargnait un travail mental pénible, lent et fastidieux. Je ne comprends pas cette espèce de terreur, de nature assurément mythologique, que notre temps semble ressentir à l’égard des machines et de leurs perfectionnements. Elles ne sont rien que du verre et du métal, que fait frémir une énergie domestiquée. Elles ne peuvent rendre que les services très précis que chaque fois l’homme leur demande dans un langage approprié : leur nature, qui est bien dans l’affaire ce qui lui a coûté le plus d’efforts et de génie. Le reste, la part de la machine... est machinale, justement. Je m’en persuade : le vrai problème est de se demander d’où vient en l’homme son effroi des machines, esclaves construites par lui sur ses calculs et pour son service ?»

 Stanislaw Ulam, mathématicien américain d'origine polonaise, dissipe la même terreur en précisant que l'homme, à supposer qu'il soit une machine, ne se connaîtra jamais assez bien lui-même pour fabriquer une machine qui puisse atteindre son niveau et le dépasser. «Pour en venir à une conclusion plus générale, peut-être, l’homme ne se connaîtra jamais complètement, il ne fera jamais une machine comme lui-même ou supérieure à lui-même. C’est peut-être la raison qui permet d’écarter la crainte d’être supplanté ou même supprimé par la machine. »

La crainte de Vercors est d'une autre nature. La salut de l'homme dit-il se trouve dans la Connaissance, c'est-à-dire dans l'intégration de toutes les connaissances acquises par l'humanité, tant sur le plan métaphysique que sur le plan pratique. Mais une telle Connaissance n'est-elle pas une utopie?  «Le danger réside actuellement dans les difficultés considérables que rencontrent les chercheurs dans leurs domaines respectifs, difficultés qui les enferment chacun dans leur île, au point qu’ils en perdent peu à peu un langage commun, qu’ils ne peuvent presque plus se comprendre d’une île à l’autre, serait-ce dans le seul archipel des hautes mathématiques. Si cela devait continuer, les sciences et notre vie pourraient bien ressembler un jour au travail millénaire et vain des fourmilières tournant à vide, au sein desquelles rien de nouveau ne peut plus apparaître depuis l’époque précambrienne.»

Il faudrait alors, conclut Vercors, se tourner vers l'art, dont il ne semble pas douter qu'il demeure possible sous ses formes les plus élevées, même quand l'imaginaire humain a été colonisé par la machine. «L’art est notre assurance contre une pareille menace. Tant qu’il restera des artistes, des peintres, des musiciens, des poètes passionnés par le besoin de créer, et des millions de gens pour s’émouvoir de leurs créations, ce sera le témoignage que l’espèce humaine n’abandonne pas la passion de connaître et de communier, qu’elle ne succombe pas au péril de s’abandonner à d’illusoires victoires techniques, à un confort endormeur sans espoir et sans but. Tant que de la beauté sera multipliée et que ses harmonies viendront rappeler à l’esprit humain l’existence de vérités profondes que les sciences sont chargées d’intégrer dans une vérité totale, les arts demeureront, pour une science qui s’assoupirait sur des lauriers trompeurs, une sorte de sonnette d’alarme. Qu’on nous permette de terminer cet exposé sur cet hommage rendu à l’activité humaine qui, dans l’hiver nocturne de l’ignorance où nous vivons encore, s’est montrée, depuis les premiers âges, l’annonciatrice que le printemps était possible.»

 

 

 

Sur le même sujet

Intelligence artificielle

Artificial Intelligence and Artificial Life. Un dossier de la revue britannique New ScientistG. Binnig, M. Baatz, J. Klenk et G. Schmidt, Will machines start to think like humans? Artificial versus natural Intelligence, Europhysics News, vol. 33, no 2, 2002L'intelligence artificielle fait peur. Entretien avec Jean-Michel Truong. Propos recueillis par Jean-François Duval. Construire,...

Essentiel

 

Enjeux

Pur délire que cette peur récurrente d'une extermination des hommes par les robots? Karim MIské, n'est pas de cet avis. Nous vous invitons à lire les autres articles de son blog.

« Dans mon disque dur, je stocke des idées pour des films documentaires qui ne se feront jamais. Il y a deux ans, j’avais créé un dossier intitulé "les robots vont tous nous tuer", suite à la lecture d’un article du Faster Times qui racontait, pour faire court, que l’armée américaine commençait à fabriquer des robots autonomes sur le champ de bataille, armés de tronçonneuses et capables de se nourrir de cadavres de combattants humains. Ce qui nous dessinait un avenir entre Matrix et Terminator. Voici quelques jours, cette idée des robots tueurs a refait surface via un article du Monde qui nous apprend que l’armée française aussi va s’y mettre. Avec un questionnement éthique à la clé : est-il possible de laisser des robots décider seuls de tirer sur le champ de bataille? Pour expliciter ce dilemme, la journaliste écrit ceci qui nous fait instantanément basculer dans le monde de demain :

« Seraient balayées les lois de l’écrivain Isaac Asimov exigeant qu’un robot ne puisse porter atteinte à un être humain et doive obéir aux ordres qu’il lui donne ». — Nathalie Guibert, journaliste



Première Loi
Un robot ne peut blesser un être humain ni, par son inaction, permettre qu'un humain soit blessé.

Deuxième Loi
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.

Troisième Loi

Un robot doit protéger sa propre existence aussi longtemps qu'une telle protection n'est pas en contradiction avec la Première et/ou la Deuxième Loi.



Certes, les trois lois de la robotique d’Isaac Asimov sont une des références les plus connues de la science-fiction, mais elles n’ont jamais été appliquées ailleurs que dans l’oeuvre du célèbre écrivain américain. Les voir ainsi évoquer dans les pages « Société » du quotidien français de référence m’a fait un effet étrange. Ça y était : nous vivions bel et bien dans le futur. Nous l’avions rejoint ce monde que décrivaient si précisément les auteurs de SF des années 50 à 70, ces documentaristes de leur avenir, donc de notre présent. Et bien sûr, elles seront enfreintes ces lois. Cela nous le savons au moins autant par notre expérience que grâce à la science-fiction : le questionnement éthique est le plus souvent rendu obsolète par l’avancée technologique. C’est techniquement possible, donc ce sera fait, quoi qu’en disent les officiers qui gèrent le dossier et ont adopté pour ces machines tueuses le joli euphémisme de « robots effecteurs ».

« En lisant cet article, je tentais de m’imaginer face à un robot-tueur, un soir au retour du boulot, après une petite halte au City Market du coin de la rue, avec dans mon sac en papier brun recyclable à trois centimes un paquet de farfalle, une bouteille d’huile d’olive et une autre de Chinon. L’irruption de l’horreur pure dans mon univers bien protégé. Cela avait quelque chose d’encore plus vertigineux que de s’imaginer face à un humain-tueur. L’idée que la parole n’y ferait rien. Mon destin était scellé. La machine ne pensait pas. Elle n’était là que pour effectuer une tâche. En l’occurrence : m’éliminer.

Une machine sans états d’âme, pulsion de mort en action. Une machine intégrant le meilleur des connaissances accumulées depuis des millénaires par la succession des civilisations. La réponse ultime, peut-être, à toutes les questions que se pose l’humanité depuis qu’elle a commencé à se demander pourquoi elle existait ».

Synthèse

 

Articles


Le robot travesti en humain

Jacques Dufresne
De nombreux  films de science fiction - c'est le cas notamment  de  Blade Runner et d' Avatar - enferment une morale qui, révélée à la fin du film, nous fait oublier que pour la mériter nous avons supporté deux ou trois heures d'images viole

La France contre les robots

Georges Bernanos

L'être vivant comme machine

Jacques Monod
En 1965, dans le cadre des Entretiens de Genève, eut lieu un colloque mémorable intitulé Le robot, la bête et l'homme. Entre autres, Jacques Monod, Ernest Ansermet, Vercors, Roger Caillois, le R.P. Henri Niel figuraient parmi les conférenciers.

La condition de l'oeuvre d'art

Ernest Ansermet
En 1965, dans le cadre des Entretiens de Genève, eut lieu un colloque mémorable intitulé Le robot, la bête et l'homme. Entre autres, Jacques Monod, Ernest Ansermet, Vercors, Roger Caillois, le R.P. Henri Niel figuraient parmi les conférenciers.

Un avenir cohérent

Vercors
En 1965, dans le cadre des Entretiens de Genève, eut lieu un colloque mémorable intitulé Le robot, la bête et l'homme. Entre autres, Jacques Monod, Ernest Ansermet, Vercors, Roger Caillois, le R.P. Henri Niel figuraient parmi les conférenciers.

Le créateur de symboles

Henri Niel
En 1965, dans le cadre des Entretiens de Genève, eut lieu un colloque mémorable intitulé Le robot, la bête et l'homme. Entre autres, Jacques Monod, Ernest Ansermet, Vercors, Roger Caillois, le R.P. Henri Niel figuraient parmi les conférenciers.

L'homme se fait en se faisant

Julian de Ajuriaguerra
En 1965, dans le cadre des Entretiens de Genève, eut lieu un colloque mémorable intitulé Le robot, la bête et l'homme. Entre autres, Jacques Monod, Ernest Ansermet, Vercors, Roger Caillois, le R.P. Henri Niel figuraient parmi les conférenciers.

L’univers de l’animal et celui de l’homme.

Roger Caillois
En 1965, dans le cadre des Entretiens de Genève, eut lieu un colloque mémorable intitulé Le robot, la bête et l'homme. Entre autres, Jacques Monod, Ernest Ansermet, Vercors, Roger Caillois, le R.P. Henri Niel figuraient parmi les conférenciers.

Dossiers connexes




Articles récents