A la recherche de l’intelligence Artificielle Générale (AGI) : un devoir pour les forces démocratiques européennes. 23 octobre 2012 Par Jean-Paul Baquiast

Or ces bases n'ont pas été élaborées par hasard. David Deutsch ne le dit pas explicitement dans cet article mais il l'avait très bien exposé dans son ouvrage The Beginning of Infinity dont nous avions salué le regard novateur dans la chronique par laquelle nous le présentions aux lecteurs français 3). Les bases de données et de connaissance actuelles, tout autant que l'interprétation qui en est donnée par les médias, expriment très largement des visions de l'univers produites par les forces économiques et politiques dominant actuellement le monde. S'y ajoutent aujourd'hui la volonté des religions de combat d'imposer ou de ré-imposer aux sciences athées ("ou naturalistes", selon le terme anglais) de pseudo-connaissances héritées d'époques dominées par des croyances primitives, antérieures au siècle des Lumières.

Autrement dit, lorsque l'IA et l'AGI se bornent à exploiter de façon déductive ces connaissances, elles tournent le dos à ce qui est à la base de la véritable création, représentée par l'induction et l'abduction 4). Ceci n'a rien d'étonnant, si l'on admet que les véritables innovations sont combattues par les forces et pouvoirs dominants. Elles seules en effet ont la capacité de remettre en cause l'ordre actuel du monde, imposé par les conservateurs.

L'article de David Deutsch appelle des questions de grande portée scientifique, philosophique et politique. Nous allons pour notre part, afin de rester aussi clairs que possible, nous limiter à trois d'entre elles

Première question : Existe-t-il dans la nature, physique ou biologique, des processus d'innovation permettant de produire de véritables innovations ?

Cette question relève de la réflexion théorique. Le lecteur du présent article peut ne pas s'y attarder, mais nous devons la mentionner.

On admet généralement que l'univers physique, y compris à l'échelle cosmologique, repose sur un processus accroissant indéfiniment l'entropie, c'est-à-dire le désordre. La vie, la pensée humaine générée par le cerveau, peuvent produire de l'ordre, mais c'est en empruntant localement et provisoirement de l'énergie au reste de l'univers. L'innovation, génératrice d'ordre, serait donc un processus coûteux et rare. Ses produits, des mondes et sociétés complexes, seraient donc, à très longue échéance, condamnés à disparaitre,

Ce point de vue est contesté par ceux pour qui la science actuelle connait très mal les lois gouvernant l'évolution sous ses différentes formes, que ce soit dans le cosmos ou sur Terre, y compris dans nos sociétés. Si l'on admet que le monde physique, ou même la génération de la pensée dans nos cerveaux, font appel au traitement de bits quantiques 4) autrement dit que l'univers serait calculable, si l'on mettait en oeuvre les puissants moyens potentiels de l'ordinateur quantique, il ne serait pas exclu de développer des versions d'univers échappant au moins localement à ce que la science actuelle appelle les lois fondamentales de la nature.

Avec des ambitions nécessairement plus réduites, une AGI utilisant les ressources futures de la computation quantique pourrait bouleverser notre compréhension du monde et notre action au sein de celui-ci. Il s'agit d'une tâche à laquelle travaillent ou ont travaillé, avec des moyens malheureusement réduits, des spécialistes du calcul quantique, tel que David Deutsch. La France, qui cherche aujourd'hui à relancer l'innovation, devrait aussi y travailler 5). Encore faudrait-il ne pas appliquer l'ordinateur quantique à des problèmes déjà résolus par la pensée et l'informatique traditionnelles. L'encouragement de véritables innovations par le biais d'une AGI aussi révolutionnaire que possible, reste donc plus que jamais nécessaire.

Sans prendre en considération d'éventuelles interventions humaines, un nombre croissant de cosmologistes admettent par ailleurs dorénavant que le tissu profond de la « réalité » observable, encore indescriptible aujourd'hui, sous-jacent aux « singularités » hors de l'espace et du temps se manifestant notamment au coeur des « trous noirs », pourrait générer des univers très différents du notre, dont nous pourrons avoir éventuellement connaissance.

Concernant le 2e principe de la thermodynamique, dont découle l'apparente entropie s'appliquant à l'évolution cosmologique, certains chercheurs par ailleurs commencent à se demander s'il ne conviendrait pas aujourd'hui de repenser les conditions dans lesquelles ce postulat s'applique. C'est ce que propose de faire le physicien Vlatko Vedral, lui aussi spécialiste de la computation quantique 6).

Deuxième question. Est-il possible de décrire, afin d'en faire un modèle informatique opérationnel, un cerveau artificiel générant des pensées véritablement originales ou créatrices ?

Il s'agirait autrement dit de pensées ne se bornant pas à répéter sous des formes différentes des compétences acquises au cours de l'évolution. Elles ne seraient pas de simples déductions, mais des innovations, susceptibles d'être soumises à l'expérience afin de contribuer ensuite à l'évolution du milieu terrestre. Elles procéderaient, pour reprendre cette terminologie, sur le mode inductif ou abductif.

On peut supposer que les cerveaux biologiques générant de tels pensées de leur propre chef ont toujours été nombreux au sein des sociétés humaines (en se limitant à l'homme et n'étendant pas la question à l'innovation dans le règne animal et aux cerveaux des espèces paraissant proches de l'homme à cet égard). Sinon comment expliquer les activités « authentiquement créatrices » que manifeste l'humanité. Même si ces activités créatrices sont principalement le produit de processus sociaux dits heuristiques (par exemple la compétition darwinienne pour élargir l'accès aux ressources), tout laisse penser que les cerveaux des humains qui y sont impliqués manifestent des qualités particulières, ou des modes de fonctionnement particuliers, les conduisant à dépasser la seule valorisation des connaissances déjà acquises.

Mais pourrait on espérer que les cerveaux d'humains habitués à faire appel en permanence à la déduction répétitive pourraient prendre assez de recul par rapport à eux-mêmes pour générer des modèles de cerveaux qui produiraient des pensées véritablement originales, ceci d'autant moins que l'organisation des pouvoirs dans la société est globalement orientée vers la conservation des acquis et non vers la promotion d'innovation possiblement révolutionnaire. Il faudrait que pour cela ils y soient obligés.

Dans le monde actuel, on peut identifier deux types d'obligations forçant des humains (des chercheurs) à conduire de telles recherches. L'une relève de la compétition pour l'accroissement des connaissances académiques, compétition qui jusqu'à ces derniers temps animait les sociétés issues de la civilisation des Lumière (dont on peut penser que David Deutsch est l'un des derniers représentants). L'autre relève de la compétition entre Puissances géopolitiques pour s'assurer des systèmes d'armes défensifs et offensifs aussi efficaces que possible. Or a cet égard la mise au point et la maîtrise de cerveaux véritablement innovants est vitale. Dans ce dernier cas malheureusement, les recherches et les chercheurs sont soumis à des obligations de secret-défense strictes. Leurs travaux n'ont que peu de retombées dans le monde civil. Il est donc difficile d'en parler publiquement.

Troisième question. Que pourraient faire les démocraties pour vulgariser de telles approches ?

S'il se trouvait que des chercheurs ne travaillant pas pour la défense, et donc non astreints au secret, aient élaboré des modèles de cerveaux artificiels, ou plus exactement de conscience artificielles, susceptibles de générer des pensées véritablement originales, inventives, possiblement conceptuellement révolutionnaires, pourrait-on envisager qu'une démocratie comme la nôtre finance les développements de leurs recherches, ceci dans le cadre d'une démarche politique visant à leur donner une large publicité au bénéfice de l'ensemble de la société civile ?

Les signataires de cette note, mise ce jour en circulation pour recueillir des réactions, ont, à tort ou à raison, la conviction que le modèle de conscience artificielle dont les spécifications ont été depuis longtemps exposées publiquement par Alain Cardon, pourrait s'il était programmé effectivement, répondre aux exigences d'un moteur d'Intelligence Artificielle Générale tel qu'envisagé par David Deutsch dans son article. Il pourrait en tous cas répondre aux besoins d'innovation tous azimuts dont ont besoin pour survivre les sociétés européennes.

Mais ils sont aussi persuadés d'un point beaucoup plus préoccupant pour la démocratie. Des spécifications identiques ou voisines de celles étudiées par Alain Cardon, voire plus performantes, ont déjà été mises en oeuvre par des puissances non européennes. Elles ont commencé à produire des systèmes autonomes pour l'innovation et la prise de décisions, en matière de cyber-guerre et de contrôle social. Il serait donc urgent d'avertir les citoyens des risques inhérents aux nouveaux pouvoirs, de type anthropotechniques, qui sont en train de contrôler nos sociétés. Pour cela, il n'existe pas de meilleurs formules que développer le prototype d'un système de cette nature, en libre-accès s'inspirant de l'open source, et sous le contrôle d'un comité d'éthique. Encore faudrait-il qu'un telle entreprise ne soient pas sabotée d'emblée par ceux qu'elle génerait.

Notes
1) David Deutsch. The very laws of physics imply that artificial intelligence must be possible. What's holding us up ? 03/10/ 2012
http://www.aeonmagazine.com/being-human/david-deutsch-artificial-intelligence/
2) Voir par exemple le Dr Ben Goertzel, et son intervention en réponse à David Deutsch http://www.kurzweilai.net/the-real-reasons-we-dont-have-agi-yet. Il impute principalement la faiblesse de l'AGI à celles des ordinateurs contemporains et à celle des crédits qui y sont consacrés, ainsi qu'à la difficulté d'intégrer les différentes composantes d'un système associant des AI afin d'en faire un ensemble performant sur le mode de l'AGI.
3) David Deutsch The beginning of Infinity. Voir notre chronique (http://www.automatesintelligents.com/biblionet/2011/juin/beginninginfinity.html)
4) Wikipedia. L'abduction http://fr.wikipedia.org/wiki/Abduction_%28%C3%A9pist%C3%A9mologie%29 . Selon le sémioticien et philosophe américain Charles Sanders Peirce (1839-1914), fondateur du courant pragmatiste en épistémologie, l'abduction constitue une troisième forme de raisonnement, différente de la déduction et de l'induction. C'est le seul mode de raisonnement permettant d'aboutir à des connaissances nouvelles.
5) Ainsi le Pr Seth Lloyd. Voir son ouvrage Programming the Universe et notre présentation http://www.automatesintelligents.com/biblionet/2006/avr/lloyd.html
6) Voir notre éditorial "Un prix Nobel en physique quantique, oui mais après ? http://www.automatesintelligents.com/edito/2012/oct/prix-nobel-physique-france.html
7) Voir Vlatko Vedral The surprise theory of everything http://www.newscientist.com/article/mg21628861.700-the-surprise-theory-of-everything.html
7) Voir Alain Cardon. " Vers un système de contrôle total"
Editeur Automates Intelligents, 20 octobre 2011
Ouvrage au format.pdf accessible en téléchargement gratuit
(publié sous Licence Creative Commons)
http://www.admiroutes.asso.fr/larevue/2011/121/controletotal.pdf
8) Voir Jean-Paul Baquiast, Le Paradoxe du Sapiens, Editions Jean-Paul Bayol, 2010.

Annexe
Pour ceux que n'effraient pas quelques diagrammes, nous publions ici la 3e version d'un article de Alain Cardon ; Une machine peut-elle penser ?
http://www.admiroutes.asso.fr/larevue/2012/130/Cardon3.pdf