12. Ce génial imbécile



Est il possible de reproduire à l'aide d'une machine des comportements humains réputés intelligents ? En d'autres termes, I'intelligence artificielle est elle un rêve, un progrès possible ou un danger qui nous menace ? Dans ce domaine qui encourage toutes les élucubrations fumeuses ou inspirées, il y a trois méthodes de recherches: le pragmatisme, qui domine dans les pays anglo saxons; le dogmatisme, qui fait des ravages en France; et l'espionnage, qui évite aux pays soviétiques de refaire des recherches déjà existantes.


Il y a un moyen infaillible de savoir si une machine est intelligente ou pas. C'est le test de Turing, un mathématicien anglais dont la biographie vient de paraître en France et qui a codifié un certain nombre de fondements de la science informatique. On installe dans deux pièces séparées une machine et un homme. L homme ne sait pas qui se trouve dans la pièce voisine. Ils communiquent à l'aide d'un clavier, sans se voir. Si l'homme pose des questions à la machine et s'il ne parvient pas, au vu de ses réponses, à deviner qu'il s'agit d'une machine, c'est qu'elle est intelligente. C'est la meilleure définition de l'intelligence artificielle: l'impossibilité de la distinguer d'une intelligence humaine.


Or, ce qui caractérise l'esprit humain, c'est une etrange combinaison de la rigueur et du manque de rigueur qui permet la déformation elastique des concepts. Tous les procédés rhétoriques, par exemple, sont des déformations de concepts, sur le modèle de la métonymie, qui consiste à utiliser un mot pour dire autre chose. L'intelligence est le fonctionnement miraculeux d un énorme réseau de chemins mal balisés détournés, déformés, interrompus, remplis d'ornières et d'obstacles. Nous n'en sommes pas encore aux balbutiements quant à la compréhension de ses mecanismes. Comment codifier, par exemple, les jeux de mots, l'humour, les figures de rhétorique de façon qu'un ordinateur puisse les intégrer ? Comment traduire en langage binaire ce que nous appelons l'intuition et qui consiste à raisonner sur un problème sans en connaître toutes les données ?


Construire une intelligence artificielle, cela supposerait que nous connaissions assez bien tous ces mécanismes pour les réduire à un système binaire, qui est la base de l'informatique, et cela de façon suffisamment élaborée pour que ce système binaire restitue ensuite la complexité des phénomènes. I1 est vrai que le fonctionnement du système nerveux, lui aussi, est à base binaire, puisqu'il est constitué de neurones qui s'ouvrent et se ferment alternativement. Mais cette binarité ne suffit pas à le décrire entièrement. En fait, le problème de l'intelligence artificielle serait celui d'une mutation qualitative. Nous ne savons même pas si cette mutation se fait dans le cerveau humain à partir d'une quantité donnée de neurones ou en fonction d'autres paramètres. Nous ne savons pas quand et comment l'accumulation de la quantité crée un déclic qualitatif. Nous n'avons aucun moyen de le conceptualiser. Nous nous contentons, pour le moment, de la vivre tous les Jours.


Le passage de la troisième à la quatrième génération d'ordinateurs ne posait pas cette question de la mutation qualitative. Nous vivons aujourd'hui avec des ordinateurs de la quatrième génération, ce qui signifie simplement que l'on est passé des circuits intégrés aux circuits intégrés à large échelle, grâce à la condensation des circuits. Mais le passage à une hypothétique cinquième génération serait un changement qualitatif. Nous pouvons l'imaginer, mais rien ne permet de penser qu'il soit probable, ni même qu'il soit possible. Dans l'immédiat, les recherches se font sur la construction de systèmes i experts, les moteurs à inférence: on leur donne un savoir de base et des règles pour en combiner les elements. Mais en aucun cas, dans l'état actuel des recherches, un ordinateur n'est capable d inventer une idée neuve, de faire un jeu de mots, de construire un raisonnement qui déborde ce qu il a en mémoire.


Dans cinq ou dix ans, les ordinateurs seront probablement capables de reconnaître l'écriture d un stylet. On aura franchi un pas en avant dans la compréhension du mystère de la reconnaissance des formes. Personne ne sait, aujourd hui, quelle est l'opération intellectuelle, I'algorithme qui permet de reconnaître un visage, une voix, une ecriture. Il existe des formes complexes que l'homme sait décrire assez complètement sans pouvoir les reconnaître à coup sûr. C'est lé cas d un assemblage sophistiqué de polygones il est possible de les décrire de façon cartésienne sans rien omettre. Mais si l'on introduit dé legeres differences entre deux assemblages de ce type, I' il humain ne pourra pas repérer ces differences de façon certaine. De la même façon, on sait aujourd'hui décrire une empreinte digitale alors que l'ceil est incapable d'en distinguer les details.


A l'inverse, il existe des formes que chacun sait reconnaître immédiatement avec certitude, mais qu i1 est impossible de décrire de façon exhaustive: I'auditeur reconnaît à coup sûr une sonate de Mozart, une fugue de Bach ou une ballade de Chopin. Il ne pourra jamais décrire entièrement ce qui détermine cette spécificité. Cette reconnaissance, qui est évidente pour nous, échappe entièrement à l'ordinateur: il est incapable de reconnaître Chopin, Mozart, ou le visage de ma crémière. Nous voilà une fois de plus confro tés au mystère de la qualité.
L'ordinateur est un imbécile littéral très rapide qui parcourt une quantité d'options très rapidement et nous permet d'étendre le champ de notre intelligence: mais il n'a pas le coup d' il englobant qui permet de reconnâître une forme. C'est que, dans l'état actuel des connaissances, nous ne savons pas comment decomposer ce processus de reconnaissance d'une forme en un enchaînement complexe de conditions élémentaires.


A fortiori, nous ne savons pas non plus ce que c'est que le sens. Imaginons un ordinateur sensible à la voix humaine. Je lui dis: Il est vingt heures . Cet ordinateur apprendra éventuellement à transformer ce flot sonore en une chaîne de caractères. Il inscrira, sur son écran: il espace est espace vingt espace heures. Peut on dire pour autant que cette châîne de caractères aura, pour l'ordinateur, du sens ? Rien n'est moins sûr. On aura obtenu, à partir de signes sonores, des signes alphabétiques, ce qui est déjà un exploit. La psycho acoustique a fait quelques progrès et on sait déjà construire des ordinateurs qui reconnaissent avec 99% de succès un locuteur, toujours le même, avec un vocabulaire de quelques centaines de mots. Mais rien ne permet d'affirmer que l'ordinateur comprenne ce qu'il fait, ni même qu'il soit conscient de communiquer avec nous, d'être en présence de quelqu'un. Allez dire à un ordinateur: Vous savez, il était épatant, le gars que j'ai vu l'autre soir à Apostrophes... Ce qui fait la saveur du langage, c'est justement son approximation.
Personne n'a envie de parler correctement à un ordinateur, c'est à dire en utilisant toujours les mêmes mots pour dire la même chose. Si le code prévu pour demander à la machine de jeter un document est jetez , vous ne pourrez pas lui dire jette ce papier ou n'oubliez pas de vider ce machin dans la : poubelle ou i'en ai marre de ce truc là . ~~: Pour ce genre d instructions simples, l'usage du geste et de l'image --la souris du Macintosh par exemple--sont infiniment préférables à la parole.


Il n'est même pas évident que la fabrication récente d'ordinateurs dotés d'une voix synthétique soit perçue comme un réel progrès par les utilisateurs. Les possesseurs de voitures parlantes , après l'amusement des premiers jours, ressentent souvent un malaise: ils ont tendance à débrancher le mécanisme qui leur permet de parler. La production d'appareils ménagers sonores a été divisée par trois dans les derniers mois: il est beaucoup plus simple d'appuyer sur un bouton portant le chiffre 40 que d'articuler distinctement ternpérature égale quarante degrés. Faire tout passer par le langage, c'est oublier qu'on s'exprime aussi avec le corps et les mains.
Actuellement, ces techniques de la parole ont des applications très limitées: elles sont utiles par exemple pour le tri des bagages dans les aéroports ou la sécurité. Un employé regarde les valises passer sur un tapis roulant, il lit les étiquettes, ce que l'ordinateur ne sait pas faire, et informe l'ordinateur de leur destination: Bombay ! San Francisco ! Nice ! Cela n'a rien de glorieux: on se retrouve paradoxalement dans une situation où on charge des employés humains de suppléer aux déficiences des ordinateurs, et donc à ressusciter des jobs aliénants comme celui des poinçonneurs de métro...


Pour qu'il y ait du sens, il faut qu'il y ait quelqu'un d'autre. Comme pour le désir... Le désir, le sens, la beauté, la musique de Chopin, le visage d'une femme, sont indescriptibles. Comment passe t on du signifiant au sens et enfin au discours et à l'art ? Ces questions touchent à des domaines qui restent exclus de l'univers de lXinformatique: ils ne sont pas de même nature. Le problème de l'intelligence artificielle est étroitement lié à cette énigme: le passage de la quantité à la qualité. Discerner le sens, reconnaître une forme, ce sont des opérations incroyablement complexes dont le cerveau humain, cette mécanique qui s'est développée pendant quelques milliards d'années, est capable spontanément. Il me semblerait bien présomptueux d'imaginer que nous arriverions en cinq, dix ou cinquante ans à reproduire un objet aussi complexe que celui là, et à doter nos ordinateurs d'antennes sensibles comme le sont nos yeux ou nos mains.


Comment passe t on du discontinu au continu ? Si on prend un grand polygone qui fait sur lui même un tour complet de 360 ! et qu'on en rétrécit progressivement les facettes, il devient de moins en moins abrupt, de plus en plus lisse, ses angles s'élargissent: il finit par devenir un cercle. Le fameux paradoxe de Zénon d'Elée est un jeu de l'esprit sur le passage du continu au discontinu: si Achille ne rattrape jamais la tortue, c'est parce qu'elle est toujours en avance sur lui de façon infinitésimale. Mais en fait, nous savons très bien que, dans la vie, dans le continuum de la vie, Achille rattrapera la tortue. Il est donc parfois plus réaliste, plus vrai, de raisonner dans le flou que dans le scandé. Raisonner par petites fractions infiniment décroissantes peut conduire à des absurdités. Entre les deux ordres logiques, il y a un changement de nature.
Pour quelqu'un qui a appris à penser en continu, c'est à dire nous tous, il est très difficile d'être obligé de reprendre en compte, à travers la physique quantique par exemple, la nature désagréablement discontinue du monde. Mais même dans ces domaines, l'invocation du continu reste parfois nécessaire pour penser le démarrage de certains phénomènes d'oscillation. Dans le monde des ordinateurs, le passage de l'un à l'autre se fait quotidiennement, parce qu'il s'agit pour chaque programme, pour chaque nouveau standard, d'aménager une traduction entre ces deux catégories de la pensée.


Les ordinateurs vont nous aider à régler leur compte à tous les débats fumeux sur le contenu et la forme. Ce qu'ils nous apprennent sur l intelligence, c'est qu'il ne s'agit pas de choisir entre fromage ou dessert, mais bien de prendre les deux ensemble. Le mystère de l'intelligence provient justement de l'impossibilité de distinguer entre le contenu et la forme, entre la structure et la matière. Réfléchir sur l intelligence, c'est réfléchir sur ce paradoxe topologique qui veut qu'un concept soit un chemin entre deux lieux--deux concepts--et que ce chemin devienne lui même un nouveau lieu qui aura des liens avec les précédents.


Au lycée, j'avais un condisciple qui connaissait par coeur les scores des équipes de football de premiere division des cinq dernières années. Il y a des gens qui collectionnent les cravates coupées ou les plastrons Belle Epoque. Cela ne va pas loin, ce sont des accumulations compulsives qui ne se distinguent pas du travail que pourrait faire un ordinateur. Mais, pour autant, l'accumulation du savoir est nécessaire à qui souhaite voir émerger des formes, comprendre: pour voir se dessiner le mouvement de l'histoire de ce siècle, il faut en connaître les événements.
De même, en mathématiques, on ne comprend pas les raisonnements si on ne possède pas une bonne collection de théorèmes. Un être infiniment intelligent et dépourvu de mémoire serait réduit à repartir chaque fois avec quelques axiomes de base pour résoudre des problèmes elémentaires: chaque fois qu'il aurait à déboucher un évier, il serait obligé de réinventer des séries de théorèmes emboîtés les uns dans les autres pour retrouver la physique de la clé qui permet de devisser le tuyau...


Pour les êtres humains, le savoir, comme l'économie, est indissociable de l'affectivité. C'est ce qui les distingue radicalement des ordinateurs. Les psychanalystes ont bien montré l'intrication de la libido et du savoir. Toutes les méthodes mnémotechniques sont fondées sur des exercices qui touchent, de près ou de loin, à l'utilisation de l'affectivité comme levier pour la mémoire. Pour mémoriser une liste de noms, rien de plus efficace que d'associer à chacun des noms une étape du chemin que vous prenez tous les jours pour aller à l'école... La méconnaissance de cette dimension affective de la connaissance est à l'origine de beaucoup de malentendus et de drames.


Dans son dernier livre, Jacques Séguéla raconte l'histoire tragique d'un écolier japonais. On avait demandé aux enfants de dire ce que devient la neige quand elle fond. L'écolier avait répondu: elle devient le printemps. Réponse géniale s'il en est... Mais l'enfant a été renvoyé de l'école, sa réponse n'était pas conforme à ce qu'on attendait de lui. Pourtant, ce qu'il avait fait, c'était précisément ce dont l'intelligence artificielle, dans les rêves les plus fous des ingénieurs, rendrait capable un ordinateur: inventer une réponse poétique. Le drame, c'est que les détenteurs du savoir ont tendance à considérer que le savoir qu'ils possèdent est l'unique et le meilleur, le seul qui permette de réussir dans la vie. C'est avec des aberrations de cet ordre que le savoir devient un privilège au lieu d'être un plaisir. C'est ce qui le stérilise.


On vit encore en France, surtout dans les milieux dirigeants, avec l'idée que le passage par certaines écoles est l'unique voie de la réussite. Faites Polytechnique, les Mines, Centrale ou l'ENA. Après, vous serez tranquille, vous en saurez assez, vous mettrez en uvre vos connaissances. On n 'en sait jamais assez.
Ce préjugé est le résultat de la rigidification des structures dans une société qui s'est construite depuis très longtemps sur le refus de tout ce qui pourrait la remettre en cause. I1 va à l'encontre de l'évolution économique qui est en train de changer des choses fondamentales comme le rôle même de la production des objets. En un siècle, 1 agriculture qui occupait 80% de la population active, est devenue une activité minoritaire. Actuellement, 1,5% de la population des EtatsUnis suffit à nourrir les Américains et une partie des Soviétiques. Or, une transformation identique est en passe de réduire la part de la fabrication des objets physiques dans l'activité économique. Dans les années qui viennent, nous assisterons à des phénomènes analogues avec l'automatisation des usines: il suffira de quelques ouvriers spécialisés pour produire des dizaines de milliers de walkmans, d'automobiles, de Macintosh. . .


Mais ce qu'il ne sera jamais possible d'automatiser de façon satisfaisante, ce sont les services: l'information, la communication, tous les domaines où l'affectivité a une part essentielle. Les astronautes américains l'ont bien vu quand ils se sont aperçus qu'il suffisait de nourrir leurs petits singes à la main pour qu'ils cessent de faire la grève de la faim.
Le corporatisme généralisé est un avatar de cette rigidité de la société française qui non seulement se refuse à prendre en compte ces évolutions fondamentales, mais se crispe devant elles, comme s'il était souhaitable ou même possible de les stopper. Comme l'a bien montré François de Closets, chaque corps de métier, des podologues aux médecins et des épiciers aux notaires et aux pharmaciens réclame un statut, des protections, des barrières contre le reste du monde. Chacun défend sa petite portion de territoire, avec l'idée rétrograde que le savoir donne des droits --alors qu'on pourrait très bien soutenir l'idée contraire: le savoir crée des devoirs.
De ce point de vue, l'ordinateur personnel, parce qu'il est distribué, à l'inverse des gros ordinateurs industriels, hors des circuits institutionnels, est un élément perturbateur dans le grand ordre corporatiste. Il développe la puissance personnelle, il ouvre un accès direct vers différents modes de savoir, il relativise le pouvoir des intermédiaires, professeurs, spécialistes, propriétaires, prêtres intercesseurs. Certaines sociétés comme IBM ont tenté, en donnant une coloration initiatique à la manipulation des ordinateurs, de préserver cette fonction intermédiaire des institutions, de garder ce pouvoir qui a été si longtemps l'autre versant du savoir: C'est trop compliqué pour vous, adressez vous à nos services, nous serons heureux de vous aider... Mais les clients sentent bien que ces discours élitistes vont à contre courant. Chez Apple, nous les écoutons avec un malin plaisir
ils font le lit de notre succès.


J'ai souvent regretté de n'avoir pas été jusqu'au bout du doctorat ès sciences que j'avais entrepris. Je suis, comme on dit aux Etats Unis, un college drop out. En France, on est mal vu quand on n'a pas une collection de diplômes Pendant des années, j'ai porté comme un stig mate mon identité de matheux égaré dans le commerce. J'ai mis un certain temps à réaliser : la chance que j'avais eue d'être obligé de gagner ma vie et de choisir la carrière qui m'intéressait Je regrettais par exemple de n'avoir pas réussi à comprendre certaines notions de géométrie un peu abstraites. Je me disais que sans un bon professeur, Je n'y arriverais jamais, que je n'étais pas assez doué. Ce genre de regret est très stimulant, cela conduit à accomplir beaucoup de choses.


Je me souviens de mon exultation quand je me SUlS aperçu que je continuais à apprendre. Je rencontre souvent des gens qui n'ont pas fait d etudes et qui se débrouillent très bien. Quand on est passé par l'université, on a l'impression d en avoir fini. On a appris un certain nombre de choses, ça y est, on les possède, on peut refermer le livre. Mes amis de taupe ont fait Polytechnique, beaucoup d'entre eux sont devenus ingenieurs dans l'armement. C'est le chemin le plus court pour aller d'un point à un autre Mais ma boulimie de savoir ne s'est jamais eteinte, au contraire. Quand je suis entré chez Hewlett Packard France, j'ai retroussé mes manches, je croyais qu'il était indispensable de faire des mathématiques appliquées: je me suis donc mis a travailler l'analyse numérique. Ensuite, je me SUlS aperçu que ce n'était pas la bonne porte, mais J avais en chemin acquis une nouvelle passion, qui ne m'a plus quitté.


J ai ensuite renoncé à accorder aux sciences dures une prééminence sur les sciences molles . En chemin, grâce entre autres à la lecture du livre de Douglas Hofstadter, Godel, Escher et Bach, j'avais réalisé que les sciences dures ne sont pas aussi résistantes qu'on le croit. Que dit en effet le fameux théorème de Godel ? C'est un théorème d'incomplétude qui pose le mystère de la pensée. Selon le théorème de Godel, un système logique, quel qu'il soit, ne peut être cohérent--dépourvu de contradictions-- que s'il contient une proposition au moins dont on ne peut pas démontrer qu'elle appartient ou qu'elle n'appartient pas à ce système. Dans un système cohérent, il y a toujours au moins une proposition incertaine. Ainsi, quand un système est cohérent, il est forcément incomplet. A l'inverse, quand un système est complet, il est forcément incohérent, il ne reste plus qu'à en trouver la faille. Pour un esprit cartésien, nourri de mathématiques, le théorème de Godel fait l'effet d'un tremblement de terre. Il pose les limites de la logique, il dévoile le chemin qui relie les deux ordres de la connaissance, il montre que les édifices du raisonnement sont souvent construits sur du sable. Il oblige à une certaine humilité devant la possession du savoir.


J'ai donc compris, depuis cette époque, que l'action est elle aussi une des voies de la connaissance. Et je sais maintenant que je peux continuer à apprendre en dehors de l'école, et que cette possibilité restera ouverte toute ma vie, aussi longtemps que j'en aurai le désir. Quand Je vois des quinquagénaires exulter devant leur Macintosh, Je sais qu'ils éprouvent une sensation que Je connais bien et dont je ne me lasse Jamais: l'impression d'avoir accès, tout d'un coup, à des domaines dont ils se croyaient définitivement exclus. Une sensation incomparable de liberté. Comme si leur vie était devenue plus vaste, un espace sans frontières dans lequel ils peuvent explorer des terres inconnues contenant d'immenses ressources. L'aventure de la connaissance. Qui dit mieux ?

1.Un sonnet dans un circuit
2.Boire un verre
3.Dans la chambre nuptiale du Hilton
4.Le risque du vent
5.Un parfum d'infini
6.Les potins du savoir
7.Marions-les
8.La preuve du pudding
9.Souffrir avec
10.Dans le labyrinthe
11.Beautes a l'oeuvre
12.Ce genial imbecile
13.La puce et le microbe
14.Etonnez moi
15.L'artiste programmeur
16.Le second souffle