Dire que l'homme a accumulé un extraordinaire pouvoir grâce à sa science et à ses techniques est une telle platitude que paradoxalement, bien que certains y croient encore, elle revient de moins en moins dans les débats sérieux. Ce paradoxe vient de ce qu'une platitude qui cesse d'être un lieu commun cesse d'être perçue comme une platitude. Certains cercles peuvent même, après ne pas l'avoir entendue pendant un moment, la prendre pour son contraire c'est-à-dire comme une profonde vérité. Il y a une parabole dans cela aussi : le pouvoir que l'homme a acquis par sa science et ses techniques a lui-même été converti en impuissance. Et ceci est fortement ressenti dans le monde du travail. Studs Terkel, dans une importante étude sur le travail quotidien en Amérique, écrit :

« Un mécontentement à peine caché est exprimé par une grande majorité... « Je suis une machine » dit le soudeur. « Je suis en cage » dit le caissier de banque, comme le réceptionniste d'hôtel. « Je suis une mule » dit l'ouvrier métallurgiste. « Un singe pourrait en faire autant » dit l'hôtesse d'accueil. « Je suis moins qu'un outil de ferme » dit l'ouvrier agricole. « Je suis un objet » dit le mannequin. Cols bleus et cols blancs répètent la même phrase : « Je suis un robot ».

Peut-être les gens du peuple pensent-ils que quoique étant eux-mêmes impuissants, il existe un pouvoir, à savoir celui exercé par leurs dirigeants. Pourtant, nous avons vu que le Secrétaire d'Etat estime que les événements « s'abattent » simplement sur nous et que le Chef des Etats- Majors avoue être devenu un esclave des ordinateurs. Nos dirigeants ne peuvent pas non plus trouver le pouvoir. Même les médecins qui représentaient auparavant le symbole du pouvoir d'une culture deviennent impuissants en étant ramenés de plus en plus à un rôle d'intermédiaires entre leurs patients et les laboratoires pharmaceutiques. Les patients à leur tour deviennent de plus en plus des objets passifs auxquels on fait des prescriptions et à qui l'on applique des traitements. Leurs propres ressources de guérison internes, leurs capacités de régénération autant psychologiques que physiques sont de plus en plus considérées comme inadéquates par une médecine qui peut à peine distinguer un patient humain d'un objet manufacturé. Le mouvement de bio-rétroaction qui se développe actuellement pourrait être l'avant-dernier acte du drame séparant l'homme de la nature; l'homme ne peut plus sentir directement son corps mais seulement à travers des cadrans, des clignotants et des ronronnements produits par des instruments branchés sur lui comme des tachimètres sur les voitures. Le dernier acte du drame sera bien entendu l'holocauste final effaçant toute vie. L'inévitable technologique peut ainsi être considéré comme un des éléments d'un syndrome de plus grande ampleur. La science avait promis à l'homme la puissance. Mais, comme cela arrive souvent lorsque les gens sont séduits par des promesses de puissance, le prix exigé à l'avance, comme le prix effectivement payé, sont la servitude et l'impuissance. Le pouvoir n'est rien si ce n'est pas celui de choisir. La raison instrumentale peut prendre des décisions mais il y a une différence considérable entre décider et choisir. Les gens dont parle Studs Terkel prennent des décisions tout au long de la journée. Pourtant, ils ne semblent pas faire des choix. Ils sont, comme ils l'avouent eux-mêmes, semblables au robot de Winograd. On demande à celui-ci « Pourquoi as-tu fait cela? » et il répond « Parce que tel était le branchement décisionnel de mon programme ». On lui demande « Pourquoi es-tu arrivé à ce branchement? » et il répond à nouveau de la même manière. Mais sa réponse finale sera « Puisque tu me l'as dit ». Peut-être chaque acte humain implique-t-il une série de calculs en des points qu'un ingénieur de systèmes appellerait des noeuds de décision. Cependant, la différence entre un acte mécanique et un acte authentiquement humain vient de ce que le dernier finit à un noeud dont le paramètre de décision n'est pas « Puisque tu me l'as dit » mais « Puisque je l'ai choisi ». A ce point, les calculs et les explications sont remplacés par la vérité. Là aussi se révèle l'indigence de l'hypothèse de Simon selon laquelle :

« Un homme, perçu comme un système de comportement, est relativement simple. La complexité apparente de son comportement dans le temps est surtout un reflet de la complexité de l'environnement dans lequel il se trouve ».

Pour que cette hypothèse soit vraie, i l faudrait admettre que les capacités de choix d'un homme sont aussi limitées que celles d'une fourmi, que l'homme n'a plus de volonté ou de but et peut-être surtout qu'il n'a pas plus de sens auto-transcendant de ses devoirs envers lui-même en tant que partie du continuum de la nature, que la fourmi. Là encore, la raison pour laquelle quiconque accepterait de croire que telle est la véritable condition de l'homme reste un mystère. Pourtant, de temps à autre, une petite lumière arrive à percer l'épais brouillard qui obscurcit les authentiques possibilités de l'être humain. Récemment, par exemple, un groupe d'éminents biologistes a exhorté ses collègues à arrêter certaines expériences au cours desquelles on crée de nouveaux types de cultures bactériennes biologiquement fonctionnelles. Ce groupe exprime « de profondes inquiétudes sur le fait que certaines de ces molécules d'A D N artificiellement recombinées pourraient s'avérer biologiquement dangereuses ». Ses inquiétudes viennent, écrit-il, « des malheureuses conséquences rendues possibles par une application sans discernement de ces techniques ». C'est sans doute un pas dans la bonne direction et on doit applaudir à une telle initiative. Mais on peut se demander pourquoi ces gens se sentent obligés de donner des raisons à leurs recommandations. L'obligation primordiale des hommes, y compris des hommes de science, de protéger la vie contre cette folie consistant à tout traiter en objet, n'est-elle pas une raison suffisante se passant d'explications? Pourquoi faut-il se justifier? Il semble que même les actions les plus nobles des gens de bonne volonté soient empoisonnées par l'atmosphère corrosive dégagée par les valeurs de notre temps.

Une explication facile et peut-être véridique est que la bonne volonté à supplanté la grandeur d'âme. Mais il y en a une autre, plus subtile. Notre époque s'enorgueillit d'avoir supprimé la censure, ce pourquoi les libéraux ont depuis toujours combattu. On peut aujourd'hui discuter librement des problèmes sexuels, les femmes commencent à trouver la place leur revenant dans la société et, d'une façon générale, certaines idées que l'on pouvait à peine murmurer il y a dix ou vingt ans circulent désormais sans restrictions. Le mérite de ces accomplissements est réclamé par le nouvel esprit du rationalisme, rationalisme qui, prétend-on, a enfin réussi à arracher des yeux des hommes les voiles imposés par la pensée mystique, la religion et par les puissantes illusions que sont la liberté et la dignité. La science nous a donné une grande victoire sur l'ignorance. Mais à y regarder de plus près, cette victoire peut être considérée comme un triomphe orwellien d'une ignorance encore plus grande : ce que nous avons gagné, c'est un nouveau conformisme qui nous permet de dire tout ce qui est exprimable par les langages fonctionnels de la raison instrumentale mais qui nous interdit les allusions à ce que Ionesco appelle la vérité vivante. De même que la télévision nous montre des scènes de violence déchaînée en « couleurs vivantes » mais non des scènes d'amour véritable — les premières, par un renversemet des valeurs tout à fait indécent étant dites « réalistes » alors que les dernières sont dites obscènes — on peut discuter des mécanismes de la vie et de leur manipulation « objective » mais on ne peut pas mentionner Dieu, la grâce ou la moralité. Peut-être les biologistes exhortant leurs collègues à entreprendre des actions justes, mais en invoquant de fausses raisons, sont-ils en fait motivés par leur profond respect pour la vie et par un authentique souci d'humanité; seulement ils n'osent pas le dire. De toute façon, de tels arguments ne seraient pas « efficaces », c'est-à-dire instrumentaux. S'il en est ainsi, alors ceux qui censurent leurs propres discours le font, pour employer une expression démodée, au péril de leur âme. Il y a encore une autre manière de justifier le renoncement d'un savant à un axe particulier de recherche — et nous pouvons tous en tirer des leçons personnelles. Elle dérive du principe que l'étendue des responsabilités d'un individu doit être corrélée à celle des effets de son activité. En d'autres temps, ce principe conduisait à une éthique relative au comportement des individus les uns envers les autres. Les commandements bibliques, par exemple, parlent surtout des devoirs de l'individu envers sa famille et ses proches. Dans les temps bibliques, peu de gens étaient capables d'agir sur les autres au-delà de leur espace vital. La science et la technologie ont profondément modifié cet état de fait. Les actions de l'homme moderne peuvent non seulement affecter la planète tout entière et son habitat mais aussi déterminer l'avenir de l'espèce. Il s'ensuit que l'homme moderne, en particulier le savant et l'ingénieur, a des responsabilités transcendant sa situation présente et se répercutant directement sur les générations futures. Ces responsabilités sont particulièrement lourdes puisque les générations futures ne peuvent pas défendre dès aujourd'hui leur cause. Nous sommes tous leurs tuteurs.3 La renonciation manifeste des biologistes, quelle que soit la manière dont ils la justifient, est un exemple que tous les savants devraient imiter. Cela signifie-t-il que les savants doivent fermer leur esprit à certains types d'hypothèses « immorales » ? Pas du tout. Une hypothèse scientifique est, d'un point de vue scientifique du moins, soit vraie soit fausse. Ceci s'applique, par exemple, aussi bien aux hypothèses de Simon selon lesquelles l'homme est « relativement simple » et peut être intégralement simulé par une machine qu'aux hypothèses de McCarthy énonçant que toute réalité peut être formalisée en termes d'un calcul logique. Ce serait une stupide erreur de logique que d'étiqueter ces hypothèses (ou d'autres) comme morales ou immorales ou comme responsables ou irresponsables. Cependant, quoiqu'une hypothèse scientifique n'ait pas par elle-même de dimensions morales ou éthiques, la décision d'un individu de l'adopter même expérimentalement et encore plus d'en exprimer publiquement sa foi, implique certainement des jugements de valeur et en conséquence de telles dimensions. Comme écrivait récemment l'économiste Marc J. Roberts, de Harvard :

« Supposons qu'on ait à choisir entre deux hypothèses. Quelle que soit celle qu'on choisisse, il reste toujours la possibilité que l'autre soit correcte. Manifestement, la probabilité relative de faire une erreur en choisissant l'une d'elles a de l'importance mais il en est de même des coûts des erreurs de choix, soit le coût de supposer que A est vrai alors que c'est B qui l'est et réciproquement. On peut très bien opter pour un faible coût plus probable que pour un gros coût moins probable. Encore que la grandeur du coût de l'erreur dans chaque cas ne peut être déterminée autrement que sur la base de nos propres valeurs. « Considérons un exemple extrême : l'opinion qu'il existe des différences génétiques dans le processus mental des différentes races. Supposons que la société admette cette opinion et qu'elle s'avère fausse. Je pense que cela ferait beaucoup de mal. Supposons d'autre part que la société adopte l'opinion qu'il n'y a pas de différences et que cela ne soit pas vrai. Je serais enclin à croire qu 'il en résulterait beaucoup moins de mal. Etant donné ces coûts, je souhaiterais avoir la preuve rendant vraiment très improbable l'hypothèse de la similitude entre les races avant de la rejeter. Mon choix scientifique dépend de mes valeurs, non pas parce que je suis dépourvu de sens critique ou que j'aimerais croire qu'il n'existe pas de telles différences, mais parce que dans l'incertitude on ne peut faire des choix conséquents qu'en examinant le coût des types d'erreurs alternatives. Par contraste, un prétendu « savant neutre » choisirait vraisemblablement d'opérer sur l'hypothèse que de telles différences existent à partir du moment où la preuve rend cette hypothèse légèrement plus probable que l'hypothèse opposée. « Ces questions ne sont pas courantes dans les travaux scientifiques car elles sont généralement soumises par les méthodes statistiques traditionnelles à l'épreuve de critères de test ou de la technique particulière utilisée pour l'estimation de certaines grandeurs. Le choix est alors fait sur des bases conventionnelles ou traditionnelles, le plus souvent sans discussion ou justification, ni même sans prendre conscience qu 'on vient de faire un choix de valeurs ».4


Robert a voulu montrer que les hypothèses scientifiques ne sont pas « indépendantes des valeurs » en citant les valeurs entrant dans le choix du savant de tolérer ou non le coût potentiel de l'erreur. Comme j'essaierai de le démontrer, les valeurs interviennent dans les choix des savants aussi par d'autres voies (que j'estime encore plus importantes). Pour l'instant, je voudrais dire seulement qu'il convient de dire « bravo » aux biologistes dont on vient de citer l'exemple et « honte à vous » aux scientifiques qui ont écrit récemment qu'« une symbiose machine-animal ayant un système visuel et un cerveau animal pour augmenter les fonctions mécaniques » sera techniquement « faisable » dans les quinze années à venir.5