perlseb

@perlseb
En fait, le cheminement dans un réseau neuronal est incompréhensible car un neurone dans le réseau interne n’a aucune relation avec le réel. Les neurones en entrée/sortie reçoivent ou envoient un signal : il y a donc un code pour ces « neurones de surface » : ils sont en liaison avec le monde réel.
Pour les neurones internes (dans les couches intermédiaires entre l’entrée et la sortie), il n’y a aucune explication à ce qu’ils peuvent vouloir dire. Ce sont des trajets intermédiaires nécessaires, mais individuellement, ils ne représentent rien de concret, le fait qu’ils soient activés ou non selon les entrées est un mystère issu de l’apprentissage (aussi bien chez les hommes que chez les machines).

@Jean Dugenêt
C’est là que vous ne comprenez pas. Les réseaux neuronaux artificiels cherchent à imiter les neurones et synapses. Il n’y a aucun code. Il n’y a que des poids qu’il faut déterminer pour les liaisons entre neurones (après avoir choisi son réseau évidemment : nombre de couches, nombre de neurones, types de neurones...).
Les réseaux neuronaux sont formés par leur apprentissage, de la même manière qu’un homme forme son cerveau dès l’embryon à partir des signaux qu’il reçoit. Et ces signaux que le cerveau humain reçoit, il les traite de manière imparfaite au départ, fait des erreurs et peu à peu, crée des chemins entre ses neurones qui lui permettent d’avoir une bonne image de son environnement (dans un premier temps), puis une bonne commande de ses muscles (marcher, courir), puis une compréhension du langage, etc...
Globalement, un réseau neuronal utile, c’est un ensemble d’entités qui ont créé des chemins préférentiels selon l’expérience acquise. Et on reproduit ce schéma dans les réseaux artificiels, c’est pourquoi ce sont des boites noires et qu’on ne peut pas les débuguer (on perd la connaissance).

Dans l’ensemble, quand un humain a une bonne réponse à une question, on n’a fichtrement aucune idée de savoir comment il l’a eu (quels milliards de neurones et synapses ont été activés pour comprendre la question, réfléchir et formuler la réponse) : on n’en sait rien. Pour les réseaux neuronaux artificiels, on n’en sait rien non plus. En fait, pour la machine, le réseau de neurones est connu exactement, on pourrait allumer les neurones activés au ralenti et on « verrait » que la réponse en entrée à donné la bonne réponse en sortie par des tas de lampes qui s’allument sans aucune raison apparente. Ce n’est pas une explication (pas du tout un programme), juste un cheminement dans un réseau. Et ça ne se débugue pas en cas d’erreur. C’est juste incompréhensible.

Et la pensée n’est peut-être que ça... En tous cas, quand on voit les progrès des IA qu’on imaginait pas aussi rapides (« comprendre » une question et y répondre), il y en a de plus en plus qui sont convaincus que nos pensées ne sont que ça (des neurones qui clignotent de manière sélective selon nos pensées).

@jjwaDal
Globalement d’accord avec votre post. Cependant, les robots de Boston Dynamics ne marchent qu’avec des algorithmes. Ce sont des programmes qui tournent pour que le robot avance et reste en équilibre selon le parcours qu’on lui demande. Il sait gérer de l’imprévisible (sur le parcours) mais la réponse à cette imprévu est codée dans un programme humain.

Comme ces programmes sont longs et complexes, que si l’humain se trompe dans le code, il risque de casser du matériel couteux, alors on va faire des simulations avec des réseaux neuronaux sur des machines virtuelles. Et c’est là que ça devient intéressant. En gros, les programmes humains vont être aussi inefficaces que Stockfish l’était contre Alphazéro aux échecs. On va les remplacer par des réseaux neuronaux qui auront appris à marcher à partir de leurs erreurs (comme un enfant) en simulation. Et on pourra alors greffer ce réseau neuronal formé sur le robot bien réel. Et le robot marchera du premier coup, sans couter de l’argent en s’auto-détruisant par maladresse, bien plus efficacement que se qu’aurait pu écrire un programmeur.

Et c’est bien avec ces réseaux neuronaux que l’IA va dépasser l’homme (dans chacune de ses spécialités). Peut-être qu’on ne remplacera pas 1% de chercheurs géniaux avec des idées ultra-novatrices. Mais on remplacera sans problème 99% des métiers intellectuels qui consistent pour la plupart à appliquer des connaissances et progresser à partir de ses erreurs.

@lecoindubonsens
Je ne sais pas quelles sont vos formations mais je programme dans beaucoup de langages (assembleur pic, perl, python, C...) et j’ai également reçu une formation sur les réseaux neuronaux en tant qu’électricien généraliste.
Non, les réseaux neuronaux artificiels ne se programment pas. Bien évidemment qu’on écrit du code en entrée (pour envoyer une « question propre ») et du code en sortie pour retranscrire la « réponse propre » du réseau neuronal.

Mais en lui-même, le réseau neuronal est un ensemble d’entités (« neurones artificiels ») reliés à un certain nombres d’autres neurones (par des « synapses artificielles »). et ce sont ces liaisons (poids, ou importance des liens entre synapses) que l’on fige (plus ou moins si le réseau reste évolutif) lors de la phase d’apprentissage (phase pendant laquelle les sorties sont connues pour les données d’entrées). Durant cette phase d’apprentissage, si le réseau neuronal contient assez de couches de neurones, de liaisons ... (s’il est bien dimensionné pour le problème), on doit normalement observer une convergence des poids de chacune des liaisons.

Ensuite, une fois ce réseau neuronal formé, il donnera des réponses pour des problèmes similaires qu’il n’a pas rencontré. Et c’est là qu’on ne peut rien comprendre à la réponse. Soit on a bien dimensionné le réseau neuronal (bonne convergence...) et on aura des réponses correctes, soit on pourra avoir des réponses fausses. Et on ne peut rien expliquer en cas de problème. Juste changer le réseau (plus de couches, de liaisons) ou changer l’apprentissage.

Donc il n’y a pas de programmeur de réseau neuronaux. Mais c’est un peu comme la méthode des éléments finis pour les calculs physiques (par exemple pour étudier la résistance ou la déformation de structures) : on a des spécialistes qui savent quels éléments utiliser pour le maillage (trapèze, triangles... très petits mais pas infiniment) selon la forme de la pièce (ou de l’espace) à étudier (c’est assez empirique en fait (expérience, intuition) : donc une machine avec un réseau neuronal pourrait le faire également). On va avoir des spécialistes en IA qui vont apprendre à dimensionner un réseau neuronal selon le problème à traiter (expérience et intuition, encore une fois). Jusqu’à ce que les machines nous dépassent dans ce domaine également !

@lecoindubonsens
Un réseau neuronal ne se programme pas, il subit une phase d’apprentissage, comme le cerveau humain. C’est bien le but recherché de l’IA (avec les réseaux neuronaux artificiels) : imiter le cerveau, il n’y a pas d’algorithme, ni de programmeur et on ne comprend pas la réponse d’un réseau neuronal (boite noire). C’est aussi la raison pour laquelle ChatGPT hallucine parfois et que l’on ne sait pas l’expliquer (problème qu’on cherche à éliminer mais il n’y a aucun code à analyser pour trouver l’erreur).

Donc non, il y a bien lieu de s’inquiéter de voir des machines « comprendre » suffisamment notre langage pour répondre correctement à des questions permettant d’être diplômé. Et contrairement aux humains qui vieillissent, meurent et doivent repartir de zéro, elles ne feront que progresser.
Le remplacement de métiers réellement intellectuels a déjà commencé. Si tout le monde se moque des joueurs (de go ou d’échecs) et que l’IA s’est intéressé d’abord aux jeux parce qu’il n’y a aucun jeu de tests fastidieux à créer pour la phase d’apprentissage (la machine n’a qu’à jouer contre elle-même), comme le travail des humains est de plus en plus numérisé et archivé, les machines commencent à avoir des jeux de tests pour un grand nombre de métiers et elles pourront être mieux « formées » que les humains en avalant bien plus de données qu’un humain pourra en avaler dans sa vie.

On pourra toujours dire que la machine n’est ni intelligente ni consciente, mais si ses choix sont aussi bons sinon meilleurs (qu’elle se trompe moins que l’humain), qu’elle ne demande que de l’électricité et pas un salaire, qu’elle ne fait jamais grève, travaille 24h/24 sans congés payés, en tant que patron, le choix sera vite fait. Le pire dans l’histoire, c’est qu’elles seront bien plus rapides dans leur réponse (travailleront comme 10 ou 100 comptables...).

Ce n’est pas le progrès des sciences et techniques qui m’inquiète tant, mais le système économique qui les utilise de manière parfaitement inégalitaire (bénéfices accrus pour certains en échange de plus de misère avec le chômage pour d’autres). Et on peut également s’attendre à une décadence intellectuelle si les humains sont complètement dépassés : on voit déjà la décadence physique puisqu’on a déjà été remplacé dans ce domaine.

Et dans le meilleur des cas, si la système économique évolue dans le bon sens et que le travail n’est plus nécessaire (partage des richesses produites par les machines), est-ce que l’homme ne va pas devenir un enfant à ne vivre que pour se distraire et s’amuser ? Je ne suis déjà pas trop content de la décadence physique générale (je fais moi-même pas mal de sport), mais je ne voudrais pas du tout vivre avec des hommes qui ne font plus aucun effort intellectuel (idiots complets). Pour moi, même dans ce scénario optimiste, l’IA signe la fin de l’homme.