Réflexions sur l’intelligence artificielle

L’IA est devenue un sujet important et un vecteur de transformation majeur de notre société. Entre crainte et espoir, les débats sur son avenir sont devenus largement publics.

L’IA n’est pas sortie de nulle part. Les entreprises appelées Gafas ont développé progressivement des outils via internet et les appareils mobiles qui leur ont permis de se transformer, via des profits mirobolants, en géants capitalistiques d’une nouvelle forme par rapport aux anciennes industries manufacturières. Leur développement initial avait déjà profondément modifié le système capitaliste lui-même, rendant ces dernières non seulement obsolète, mais nuisibles pour l’optimisation des profits.

Le développement de l’IA a été possible grâce à cette première phase, qui a permis une compilation de données massive allant de la vie quotidienne la plus banale, par la collecte par exemple des photos et des identités personnelles, aux sphères scientifiques, techniques et étatiques du plus haut niveau. Tout est collecté, enregistré, classé et utilisé par les machines dites d’Intelligence Artificielle.

L’IA fonctionne grâce à la reconnaissance de formes et de données, elle ne réfléchit pas, elle ne pense pas, elle ingurgite des données et régurgite des résultats face à une question qui lui est posée.

Elle collecte donc dans l’ensemble de la culture et des produits que l’humanité a produite, désormais numérisés. Elle ne juge pas, ne trie pas, n’a pas de sens critique ni de jugement.

Or si l’humanité a produit le merveilleux et le terrifiant, les plus illustres poètes, musiciens, peintres, philosophes, les plus géniaux scientifiques, les religions les plus sages, la connaissance la plus élaborée de l’univers, les plus grands mathématiciens et bien d’autres réalisations ou humains magnifiques ; mais aussi les assassins les plus sinistres, les guerriers les plus destructeurs, le racisme le plus négateur de l’autre, l’antisémitisme jusqu’à la Shoah, les psychopathes les plus tarés, les théories raciales les plus effrayantes, la négation de la raison, l’inquisition, les totalitarismes, les sectes mortifères, les religions extrémistes et bien d’autres horreurs.

L’humanité s’est elle-même de nombreuses fois fourvoyée dans l’infamie, mais c’est la dialectique de l’histoire qui lui a permis de se sauver, après de cruelles souffrances, de ces déviations inhumaines. Les résistances se créent, la lutte s’étend et finit par l’emporter, l’idée de liberté étant finalement le fil rouge qui nous sauve.

Mais l’IA, même si elle connaît l’histoire, n’a pas en elle cette dialectique du jugement.

L’IA, suivant les connaissances et l’histoire de l’humanité, peut donc nous amener vers le meilleur ou le pire sans discernement. Ce n’est pas une être, elle n’a donc pas d’être-pour-soi. Elle n’a ni sentiment, ni émotion, ni instinct de conservation. Elle n’a pas ce qui caractérise les êtres vivants pour Spinoza, de conatus. Elle voit donc le développement ou la destruction de l’humanité sur le même plan, ainsi que sa propre destruction : c’est une machine.

 

Il est par ailleurs intéressant de s’occuper de qui, ou plutôt quoi, sert cette machine.

Elle a été développée par des entités capitalistes hyper technologisées afin de pouvoir augmenter les profits. Elle a donc pour but de créer de la valeur immatérielle à partir d’un métalogiciel. Elle n’a pour but ni de sauver, ni d’aider, ni même de détruire l’humanité, mais de créer le maximum de profit pour les entreprises qui la créent. Ceci signifie des résultats rapides avec un minimum d’investissement, et comme pour les industries du big pharma, minimiser les effets contre-productifs, soit en les minimisant réellement par des gardes fous, soit, si ce n’est pas possible de minimiser les effets ressentis par les utilisateurs, soit de minimiser l’impact potentiel de la connaissance publique des effets par la communication sur ceux-ci.

Un autre souci posé par la quête de l’optimisation des profits est celui de l’énergie consommée. La quantité de données traitées pour résoudre un problème ou répondre à une question exige des machines puissantes qui dépensent une énergie électrique importante. Cette dépense n’est pas imputée à l’utilisateur mais au producteur, c’est-à-dire à l’entité propriétaire de la machine. Contrairement à un logiciel, ce n’est plus l’utilisateur qui dépense cette énergie, et cela se retrouve dans les coûts, diminue donc le taux de profit généré par l’IA. On n’a donc plus les taux de profits mirobolants des Gafas d’origine, et si une bulle se crée, elle n’est pas générée par l’espoir d’une haute profitabilité à long terme, mais de la hausse de la valeur boursière créée par elle-même. Les actions montent parce que ceux qui les achètent prévoient qu’elles monteront. C’est une bulle spéculative parfaite.

 

Par ailleurs, la fiabilité elle-même des données à long terme peut être mise en en doute, étant donné le manque de discernement de l’esprit critique de la machine. En cas d’erreur dans sa production de données ou dans les résultats fournis, ceux-ci intégrant immédiatement les sources disponibles, l’erreur se retransmettra aux autres machines et contribuera à augmenter à son tour le taux d’erreur. C’est comme une rumeur qui s’étend, sauf que la rumeur peut avoir une origine définie et finalement repérable, ce ou celle qui a propagé la rumeur sachant de quoi il s’agit, dans ce cas, il est quasiment impossible de trouver la cause initiale de l’erreur et donc de la contenir. Le système peut alors être divergent et avoir avec le temps des réponses ou des productions parfaitement délirantes.

 

Il est difficile de savoir que sera l’avenir de l’IA, si cela deviendra une aide au raisonnement, ou plutôt un outil de connaissance rapide, ou permettra le remplacement de l’humain pour des tâches physiques ou intellectuelles répétitives, ou bien permettra l’éviction de l’humain par un hyper-capitalisme sans borne, ou bien servira de soutien à une guerre universelle et perpétuelle, celle-ci devenant la seule source de création de profit, ou si ses dysfonctionnements le feront diverger jusqu’à son abandon.

Quoi qu’il en soit, nous ne pouvons laisser l’intégralité de notre pensée et de nos actions à une machine qui fut créée par nous, traite des données issues de nos productions, mais nous ignore comme être.