Une brève histoire de l'intelligence
Tout a commencé il y a fort, fort longtemps, alors que l'univers, déjà vieux de plus de 7 milliards d'années, n'était encore constitué que de matière inanimée. Quoi qu'en y réfléchissant, inanimée est peut-être un mauvais terme, après tout. On ne peut pas dire que les gigantesques supernovas qui avaient animé la jeunesse de notre univers se soient passées en douceur, ni que les énormes trous noirs galactiques n'aient gobé des étoiles entières sans un minimum d'animation. Sur notre planète même, après que celle-ci se fût formée à grands renfort de collisions cataclysmiques et que les volcans aient ensuite déversé leurs milliards de tonnes de lave à travers la croute refroidie de notre planète, la matière inanimée semblait bien mal mériter son nom.
Mais à ce moment même, quelque part sur Terre, une infime fraction de la matière inanimée, une vague poussière stellaire venait par hasard de prendre un caractère à part, d'acquérir une qualité qui la distinguerait désormais du reste du monde. Elle était devenue vivante. Le phénomène était survenu tout à fait par hasard, et n'aurait pas semblé, à l'œil non exercé, plus admirable que l'émergence d'ordre à partir du chaos que constitue la formation d'un flocon de neige, ou d'une tornade. Et pourtant, cet ordre là avait quelque chose de particulier qui le plaçait à part.
Cette particularité, c'est la capacité à reproduire l'improbable. Dans la nature, l'improbable, par définition, survient peu souvent. L'émergence spontanée de formes complexes est un phénomène lent, et rare. En s'affranchissant de la nécessité du hasard, la vie a rendu possible l'apparition de formes extrêmement complexes, donc extrêmement improbables, en un temps raisonnable. Bien sûr, le hasard est toujours présent dans l'évolution de la vie, mais son importance est drastiquement diminuée par la "mémoire du hasard" que constitue l'information génétique. De créateur de complexité, le hasard devient moteur.
La transition entre un hasard créateur et un hasard moteur ne s'est toutefois pas faite immédiatement, bien au contraire. Personne ne sait vraiment à quoi ressemblaient les premiers "réplicateurs", c'est-à-dire les premières molécules capable de se recopier à l'identique en piochant les éléments nécessaires à leurs besoins dans la soupe primitives dans laquelle ils baignaient, mais il ne fait que peu de doutes que ces réplicateurs étaient des constructions extrêmement simples au regard même d'une algue unicellulaire. Il a fallu au vivant, avant d'explorer en profondeur la complexité, apprendre à faire bon usage du hasard, maximiser sa capacité à en tirer parti. Apprendre à apprendre, en quelque sorte. C'est pourquoi l'organisme le plus complexe vivant sur Terre fût, pendant les trois premiers quarts de l'histoire de la vie Terrienne, une algue bleue. Cette période gestative de la vie fût nécessaire au développement de l'arsenal moderne du vivant parmi lequel figurent l'ADN, la reproduction sexuée et les mécanismes de réparation du matériel génétique, grâce auquel les être vivants purent stocker de manière fiable de grandes quantités d'information tout en tirant parti le plus rapidement possible des mutations bénéfiques.
Cette capacité accrue a permis l'apparition graduelle de formes complexes, organismes pluricellulaires, chordés, vertébrés et mammifères par exemple. Bien sûr, l'évolution n'exige pas l'augmentation systématique de la complexité des êtres vivants, mais elle la rend possible, et rend ainsi possible l'augmentation graduelle de la complexité des créations de l'évolution et l'improbabilité de ces mêmes créations.
Or il se trouve que l'une de ces créatures improbables s'est trouvée dotée, par la force des choses, d'une propriété étonnante qui la distingue de la masse des choses vivantes, tout comme les choses vivantes se distinguent de la masse des choses inanimées. Cette capacité, encore une fois, a trait à la transmission d'information et à la génération de complexité, mais ce en quoi elle se distingue du vivant est sa rapidité incomparable. Cette capacité s'appelle l'intelligence.
Bien sûr, la créature improbable dont je parlais est l'Homme, mais elle n'est pas la seule, loin s'en faut, à être dotée d'intelligence. Il s'est simplement trouvée que l'espèce humaine aura été poussée, plus qu'une autre, à exploiter la niche écologique de l'intelligence, à tel point que d'outil commode elle est devenue un générateur de complexité plus rapide que notre Terre n'en avait jamais connu. A un point durant l'évolution du cerveau humain, celui-ci est devenu assez flexible et puissant pour permettre la libre combinaison et association de symboles mentaux, et les capacités de communication humaines on permis la perpétuation de ces associations de symboles, que l'on appelle la culture, le savoir, la langue. Tout comme le vivant avait quelques milliards d'années auparavant franchi un seuil d'efficacité permettant l'apparition presque instantanée à l'échelle géologique d'espèces complexes, le cerveau humain a franchi un seuil de raffinement qui a rendu la distinction entre l'intelligence humaine et les autres formes d'intelligence existantes non plus seulement quantitatives mais aussi qualitatives, avec les conséquences que l'on connaît.
L'intelligence en général, et l'intelligence humaine en particulier, se distinguent donc avant tout à mon sens par leur capacité inégalée à générer la complexité. Beaucoup d'espèces s'en servent, à travers l'éducation des petits, pour perpétuer l'existence de comportements trop complexes pour avoir été intégralement codés dans le génome tels les attitudes de chasse ou la confection et l'utilisation d'outils. L'homme, à travers le développement du langage oral, puis de l'écriture et enfin des réseaux de communication à grande échelle, a exploité à fond ce mécanisme et rendu possible la création et la reproduction rapides de complexité indépendamment de son matériel génétique.
L'apparition de la vie, de l'intelligence, du langage, de l'écriture, des réseaux de communications globaux et enfin de l'informatique sont autant d'innovations qui ont permis une génération de complexité toujours plus rapide et l'apparition de motifs toujours plus improbables. Pour autant, l'intelligence humaine, création naturelle, n'est encore pas capable de créer des motifs capables de rivaliser en complexité avec les créations de l'évolution, qui a certes pris quelques milliards d'années d'avance. Nous serait-il possible de recréer après quelques milliers d'années d'Histoire à peine ce que la nature a mis pas moins de trois milliards et demi d'années à créer ? Pouvons-nous espérer créer une intelligence artificielle ?
Interprétation et métaphore
Je dois maintenant m'excuser pour la manipulation honteuse à laquelle je viens de me livrer envers vous. J'ai en effet utilisé votre intuition et votre maîtrise du langage pour faire passer comme évidents et naturels des concepts qui ne le sont pas, et je vous ai honteusement fait croire à l'existence de choses qui n'existent pas. Mais quoi donc ?
La vie tout d'abord. Qu'est-ce vraiment que la vie ? La physique nous enseigne que, pour autant qu'elle est concernée, l'univers se réduit à l'interaction de champs et de particules élémentaires, sans sens ni but. Ces interactions peuvent être décrites formellement par des équations mathématiques, elles sont immuables et universelles. Ceci constitue le crédo du physicien.
Une des conséquences de ce principe est que la matière vivante n'est en rien distincte, aux yeux de la physique, de matière "inanimée", ordinaire. Elle ne semble pas posséder de réalité objective. De même, les phénomènes remarquables et que nous considérons comme beaux, ordonnés ou particuliers, les étoiles, les flocons de neige, les aurores boréales, ne possèdent en aucune façon une existence propre aux yeux de la mécanique du monde, ils ne sont qu'amas de particules en interaction avec d'autres particules.
Si l'intelligence humaine peut se passer de la connaissance de ces particules fondamentales pour comprendre le monde qui l'entoure, c'est que l'on ne lui a pas donné le choix. Ces particules, pour fondamentales qu'elles soient, sont imperceptibles aux sens humains, de même que sont imperceptibles les atomes, les molécules et les cellules, bref, tout ce qui nous constitue et dont nous ignorons pourtant superbement l'existence la majeure partie du temps sans problème. L'évolution nous a doté des sens et outils mentaux les plus à même de favoriser notre survie, et il se trouve que ceux-ci sont s'appuient non sur une description fondamentale et objective du monde, mais sur une simplification extrême de celui-ci, un modèle où des objets macroscopiques interagissent et possèdent des propriétés, mais il est important de se rappeler que ces objets, cette table, ce plafond, ne possèdent pas de réalité objective. Ils sont une représentation simplifiée du monde, basé sur les régularités de celui-ci, c'est-à-dire sur les motifs répétés que l'interaction de milliards de milliards de particules fondamentales fait émerger.
L'intelligence est donc fondée sur l'analogie, la métaphore. Elle consiste à constater que dans le monde, "tout se passe comme si" les objets conçus par l'intelligence étaient réels, et liés à d'autres objets ou concepts par des liens simples. En liant les objets par des relations simples, elle donne du sens au monde, un sens dérivé mais indépendant des propriétés des particules fondamentales constituant les objets considérés.
Ainsi en va-t-il d'une bactérie, par exemple. Une bactérie n'est pas une bactérie parce qu'elle est constituée des bon atomes, situés exactement à la bonne place et interagissant exactement de la bonne façon. Une bactérie est une bactérie parce qu'elle présente les bonne propriétés, et que ces propriétés restent stables dans le temps, et ce indépendamment de la configuration individuelle des particules élémentaires qui constituent la bactérie. Ainsi, la modélisation fait abstraction des détails, du substrat duquel émergent les propriétés étudiées. Vous me voyez venir ?
De la même façon qu'une bactérie est une bactérie indépendamment de son substrat, il pourrait être possible de décrire l'intelligence comme une collection de propriétés attachées à un substrat mais indépendantes de celui-ci. Si une telle définition de l'intelligence était trouvé, qui ne dépende ni des particules élémentaires qui constituent la chose intelligente, ni de ses atomes, molécules, cellules ou amas de cellules, il serait possible d'imaginer implanter ces propriétés dans un substrat différent de celui que nous connaissons, fait d'amas de cellules, de cellules, de molécules etc… En comprenant, en modélisant l'intelligence, on la rendrait transférable.
Mais a-t-on réellement besoin de comprendre l'intelligence pour l'imiter ? Pas vraiment. Il est estimé qu'aux alentours de 2050, si le progrès suit son cours, un ordinateur personnel possèdera assez de puissance pour simuler au niveau cellulaire un cerveau humain entier. Un supercalculateur pourrait le faire dès 2035. A moins de penser que le secret de l'intelligence humaine réside à une échelle inférieure à la taille du neurone, il nous sera alors théoriquement possible de créer une intelligence artificielle sans rien comprendre à notre création, en copiant bêtement la nature.
Mais là n'est pas le but des chercheurs en intelligence artificielle. Leur but est bel et bien de comprendre les mécanismes qui président à l'intelligence, en se reposant sur la supposition tacite que ces mécanismes sont beaucoup moins complexes que l'agencement des quelques 100 milliards de neurones (sans même parler des cellules gliales) qui composent nos cerveaux. Puis de transférer ces mécanismes sur le substrat du calculateur.
Les calculateurs
Les calculateurs sont des machines formidables, capables d'effectuer plusieurs milliards de tâches simples chaque seconde. Certains les appellent "ordinateurs", mais les anglophones les appellent calculateurs pour une raison évidente mais de plus en plus ignorée : ces machines ne savent faire qu'une chose, effectuer des calculs. Ce qui nous amène aux systèmes formels.
Un système formel est un ensemble de deux choses: des axiomes et des règles de dérivation. Les axiomes sont une suite de symboles, et les règles de dérivation servent à transformer une suite de symbole en une autre suite de symboles. Ces transformations sont très simples, ce sont des transformations typographiques comme par exemple le remplacement d'un symbole par un autre, le collage de deux suites de symboles ou l'effacement d'un symbole. Ces transformations sont très simples pour la bonne raison que les systèmes formels ont été conçus pour rendre possible la dérivation de théorèmes d'une façon purement mécanique, bref, ils sont au fondement même de l'informatique.
A partir de l'axiome constitué du contenu initial de sa mémoire, et des règles de dérivation définies par le constructeur du processeur d'un ordinateur, l'ordinateur procède à des opérations typographiques simples qui ont pour effet de modifier le contenu de sa mémoire et donc d'aboutir à un nouveau théorème. Bien sûr, la mémoire d'un ordinateur n'étant pas finie, l'ordinateur ne constitue en fait qu'une approximation d'un vrai système formel, approximation la plupart du temps suffisante.
Mais si cette façon de voir un ordinateur peut vous sembler étrange, c'est que je me suis placé ici à un niveau d'abstraction plus bas que le niveau auquel vous êtres habitués. J'aurais pu choisir un niveau d'abstraction plus haut, vous parler d'assembleur, des instructions de copie, des opérations binaires, des opérations arithmétiques. Ou me placer à un niveau plus haut encore, vous parler de boucles, de sauts, de variables. A un niveau de description supérieur, j'aurais parlé d'objets, de structures, de fonctions, de librairies. Ou j'aurais pu choisir un niveau de description plus bas et considérer un ordinateur comme un tas de particules élémentaires. Tous ces points de vue sont vrais dans le sens où ils possèdent leur utilité et aident à comprendre l'objet étudié dans un certain but.
Chaque niveau de description fait abstraction des niveaux inférieurs, car il en est indépendant. Il ne fait aucun doute que lorsque vous jouez au dernier jeu vidéo à la mode, les images affichées sur l'écran ne sont que le résultat de manipulations typographiques dépourvues de sens, du moins en se plaçant à un certain niveau de lecture. De même, se pourrait-il que l'intelligence, présente au dernier niveau de lecture d'un programme, ne puisse être le fruit que de manipulations typographiques vides de sens ? Après tout, n'est-ce pas déjà le cas de l'intelligence humaine, fruit de l'interaction vide de sens d'amas de neurones, de neurones, d'atomes ou de particules subatomiques, selon le point de vue ? C'est en tout cas ce que croient beaucoup de chercheurs en intelligence artificielle : l'intelligence n'est qu'un processus mécanique, un agencement de matière, un motif transposable d'un substrat à un autre.
L'existence de différents niveaux de lecture au sein de systèmes formels n'est pas une exception propre à l'informatique et à quelques exemples savamment choisi. Au contraire, en 1931 un logicien nommé Kurt Gödel a prouvé que tout système formel suffisamment flexible pour être utilisé comme une métaphore des nombres entiers naturels possédait aux moins un niveau de lecture en plus de celui dans le but duquel le système formel avait été créé.
Car un système formel, dans la vie réelle, est toujours créé avec un but. Ce but est exprimé par l'interprétation canonique des suites de symboles typographiques dérivés, c'est-à-dire par les métaphores que ces suites de symboles évoquent. La suite de symboles "SSS0", par exemple, pourra être interprétée comme le successeur du successeur du successeur du nombre 0, c'est-à-dire trois, mais cette interprétation est à la discrétion de celui qui la fait, tout comme la perception de groupes de particules élémentaires sous forme d'objets. Les particules typographiques évoluent dans leur monde en fonction des règles de dérivation, sans sens ni but.
Mais Gödel a montré qu'il était possible, pour tout système formel suffisamment puissant, de trouver au moins une interprétation tout aussi juste que l'interprétation canonique de ce système. Dans cette interprétation, les suites de symboles typographiques dérivées par le système sont interprétées comme des théorèmes parlant du système lui-même! Autrement dit, Gödel a prouvé que dès qu'un système formel devenait suffisamment puissant pour parler de nombres entiers, il devenait automatiquement assez puissant pour parler de lui-même, et il en a profité au passage pour prouver qu'il existait des vérités qu'un tel système était incapable de prouver, et qu'il n'existait pas de méthode pour faire la différence entre une vérité prouvable et une vérité improuvable. C'est une épée de Damoclès qui est suspendue au dessus de la tête de tout mathématicien qui essaie de prouver un théorème. En plus du risque que le théorème soit faux, il existe toujours le risque que le théorème soit vrai mais formellement improuvable, c'est-à-dire qu'il existe une infinité de coïncidences que le formalisme utilisé ne puisse pas réduire à une règle générale.
De même que les systèmes formels complexes peuvent s'interpréter à plusieurs niveaux, le cerveau humain pourrait-il être compris comme un empilement de couches dont la couche la plus haute, la couche des idées, pourrait seule être interprétée comme intelligente. Ainsi, d'opérations purement mécaniques, de manipulations de symboles chimiques, naîtrait l'intelligence si flexible que nous connaissons.
Car après tout, si l'ordinateur ne sait faire que ce que l'on lui dit de faire, que fera-t-il quand on lui dira d'être intelligent ? Il s'agit pour nous de casser le code, de comprendre d'agencement des idées, les motifs compliqués qui régissent la vie des symboles mentaux, indépendamment des neurones, indépendamment des atomes du cerveau humain. Comprendre, modéliser l'intelligence humaine.
Il existe une thèse, formulée par Alonzo Church puis Alan Turing (thèse de Church-Turing), qui suppose que tout ce qui peut être calculé peut l'être par des moyens mécaniques. Cette thèse ne peut être prouvée, car elle repose sur le terme vague "ce qui peut être calculé", mais elle est aujourd'hui quasi-universellement acceptée. Si l'on accepte que le comportement sur une certaine période de temps finie de toutes les particules élémentaires constituant un cerveau humain peut être calculé avec une précision arbitraire, alors cette thèse revient à dire qu'il est possible de simuler aussi parfaitement que souhaité l'intelligence humaine à l'aide d'un ordinateur, c'est-à-dire que l'intelligence ne dépend pas d'un substrat particulier.
L'ordinateur, loin d'être un simple calculateur, serait donc une machine quasi-universelle, capable de tout simuler, y compris l'intelligence. Mais l'intelligence simulée d'un ordinateur n'en serait pas moins réelle que l'intelligence simulée de nos tas de matière grise et blanche, ou peut-être devrais-je dire, pas plus.
Alors, quand l'intelligence naturelle, imparfaite et bricolée par la nature, donnera-t-elle naissance à l'intelligence artificielle, si la chose est, comme je le crois, possible ? Avec quelles conséquences ?
L'Homme, remis à sa banale place par Galilée, par Darwin et par Freud, découvrira alors qu'il n'est unique en rien. Mais ce qui définit le mieux l'humanité n'est-il pas cet enchevêtrement d'idées, de mots et d'images que nous transmettrons à nos héritiers plantés dans un substrat différent, détachés de la chair ?
Ils seront les enfants de notre intelligence.
