perlseb

@Jean Dugenêt
pour des jeux plus compliqués comme les échecs et le jeu de go je n’ai jamais entendu parler de mise en oeuvre de processus d’apprentissage.

Ce sujet est très intéressant. Car Stockfish s’est fait battre à plate couture par Alphazero. Hors Stockfish était un code monstrueux écrit par des développeurs chevronnés (algorithme) alors qu’Alphazero n’était qu’un réseau de neurones qui a joué contre lui-même pour progresser (aucun code si l’on excepte les règles du jeu, apprentissage automatique). D’ailleurs, ce réseau de neurones lui confère un avantage énorme : l« intuition » qui lui permet d’être meilleur en analysant beaucoup moins de coups : Selon DeepMind, AlphaZero utilise une recherche par arbre de Monte Carlo et examine environ 60 000 positions par seconde, contre 60 millions pour Stockfish. Depuis 2020, Stockfish intègre un réseau de neurones et s’est bien amélioré (hybride programme / réseau de neurones).

La conclusion : le travail de programmeurs chevronnés dans un domaine pointu (programme complexe de Stockfish) annihilé par une machine qui joue contre elle-même des millions de parties en quelques heures (pour former son réseau de neurones). Sans parler de l’efficacité énergétique du réseau neuronal (« intuition ») par rapport à l’algorithme. Beaucoup de programmeurs sont déjà conscients qu’ils vont perdre leur boulot (surtout depuis la démonstration ChatGPT).

@Jean Dugenêt
Je parle de réseaux neuronaux parce que c’est comme cela qu’on les appelle. J’ai fait des études techniques et j’ai eu, en tant qu’électricien généraliste, une formation aux réseaux neuronaux.
Ne cherchez pas à comparer les réseaux neuronaux de l’IA avec le cerveau, on dit bien que les avions ont des ailes et pourtant il n’y a que très peu de rapport avec une aile d’oiseau.
Ce qui compte, c’est le résultat de ces techniques (car il y a des réseaux neuronaux ultra-simples, d’autres avec de nombreuses couches de « neurones » et/ou plusieurs types de « neurones », sans parler des interfaces d’entrées-sorties avec le réseau neuronal qu’il ne faut pas négliger : comment on codes les signaux...).
Les réseaux neuronaux de l’IA ne cherchent pas à imiter parfaitement un cerveau humain, mais après avoir disséqué et étudié ce cerveau humain avec les moyens actuels (il recèle surement bien plus que ce que l’on sait aujourd’hui) et bien les scientifiques se sont dits : « tiens, si on créait des entités connectées et qu’on leur envoyait des signaux (entrées) lors d’une phase d’ »apprentissage« pour que les poids de chacune des connexions convergent vers des valeurs qui donnent toujours les bonnes réponses en sortie (sorties fonction d’entrées connues dans cette phase d’apprentissage), que se passera-t-il une fois qu’on lui présentera quelque chose d’inconnu (non appris) en entrée ? ».
Et la réponse était un succès : la machine a « appris », elle donne des réponses d’autant plus fiables que le jeu de tests (lors de l’apprentissage) est fourni. Et on a trouvé des applications immédiates : reconnaissance vocale (à l’époque, pour un vocabulaire très limité) dans des environnements de production ultra-sales (claviers inutilisables)... Rudimentaire ? Oui, mais rien à voir avec des algorithmes qu’on ferait tourner à toute allure. On donne une entrée dans une « boite noire » et on obtient une réponse en sortie : on ne peut rien expliquer et ça peut être faux (apprentissage insuffisant ou mauvaise conception du réseau selon le problème : pas de convergence, etc...).

Sachez que les réseaux neuronaux ne sont pas uniquement logiciels (calculs de simulation d’entités reliées) mais peuvent également être intégrés dans une puce pour une exécution beaucoup plus rapide. Évidemment, ceux qui sont intégrés dans une puce ne sont pas évolutifs.

Tout ça pour dire que si vous vous intéressez vraiment à l’IA, les résultats (dans de nombreux domaines) commencent à être troublants. Je crois qu’on pourrait dès à présent, remplacer de nombreux costards-cravates par de l’IA, car, qu’on le veuille ou non, la plupart des métiers « intellectuels » ne sont pas ultra-créatifs. Mais même si les humains sont des loups entre eux, on n’hésitera pas à critiquer une machine qui ferait un meilleur boulot pour son manque d’« humanité » afin de sauver sa place. Cependant, si un jour, un service inhumain (pompe à essence en libre-service) fait le boulot à n’importe quelle heure (et moins cher pour l’IA), il n’est pas impossible qu’on se passe de la « chaleur » humaine.

@Jean Dugenêt
ce fut surtout un échec
Non je ne crois pas. Je crois même que les métiers manuels résisteront plus longtemps à la concurrence des machines.
Le gros problème dans l’histoire, ce n’est même pas de prédire le futur de l’IA sur un coin de bar, mais d’accepter qu’une fraction infime de la population puisse potentiellement décider du sort de l’humanité sans avoir à rendre des comptes, un peu comme les laboratoires qui travaillent sur les gains de fonction de virus.
Et si je faisais partie de ces décideurs-dieux, je mettrais beaucoup d’argent sur la table pour ne pas avoir de bâtons dans les roues, par exemple en payant des experts peu scrupuleux pour qu’ils expliquent à la masse que le risque est parfaitement nul, ou complètement maitrisé.

@Jean Dugenêt
Si vous êtes croyant (que l’homme est indépassable, son cerveau inégalable, etc...) alors il ne peut pas y avoir de discussion.

De la même manière qu’on a imité grossièrement les oiseaux pour construire des avions, on construit des réseaux neuronaux qui imitent grossièrement notre cerveau.
D’où croyez-vous que viennent la « phénoménale intelligence » de l’humain, sa « créativité fabuleuse », sa capacité d’adaptation « hors norme » ? D’un ensemble de neurones connectés entre eux. Nos pensées sont des messages, certes complexes, entre neurones. Vous pouvez vous rassurez en essayant de croire qu’il y a quelque chose d’autre que les machines n’auront jamais (âme, conscience, ...). Mais ce n’est peut-être pas le cas (je n’ai pas la réponse) : il n’y a peut-être rien d’autre que des neurones...

Rassurez-vous autant que vous voulez sur la supériorité de l’homme, l’IA continuera d’avancer et avec une telle assurance, ça sera pour le pire. Mais que peut-on vraiment attendre de l’homme et de son arrogance ?

J’ai réagi sur cet article parce ce que les idiots utiles qui critiquent l’IA tombent tous dans le même panneau (croire que l’IA est l’exécution d’un algorithme figé qui s’exécute très rapidement : « on essaie tous les coups »). Non, l’IA (avec les réseaux neuronaux) c’est parfois une réponse de la machine qui choque les concepteurs, une réponse à laquelle on ne s’attend pas et qu’on ne sait pas expliquer.

@Jean Dugenêt
On peut facilement trouver des exemples de ce que l’IA peut faire dès aujourd’hui, par exemple en cherchant des vidéos de noms de boites qui travaillent dans l’IA (taper Deepmind dans Youtube en donnera un certain nombre).
Mais plus que les exemples, ce qu’il faut, c’est bien comprendre comment la machine se débrouille (en apparence, très mal par rapport à un humain) : ce qu’on lui donne en entrée, les règles parfois très simplistes pour qu’elle s’améliore, et le champ immense des possibilités qu’elle peut essayer (tel un bébé sans parent qui ne sait rien du monde) . Et « petit à petit », elle va progresser. Pour jouer au go de manière « intuitive » (trop de possibilités pour tester tous les coups à ce jeu), elle jouera simplement des millions de parties contre elle-même (en quelques heures) pour être meilleure que n’importe quel humain. Et elle « créera » des coups gagnants que les humains considéraient jusque là à tort comme mauvais.
Certains considèrent que la machine est très bête et essaye toutes les possibilités mais ce n’est pas le cas. Son « cerveau » minuscule se forme et en tant qu’humain, on ne comprendra plus comment elle effectue ses choix (boite noire, cerveau formé, coups « intuitifs » qui répondent immédiatement et souvent parfaitement à une situation, même rencontrée pour la première fois, mais pas toujours non plus : un peu comme nous). L’humain fonctionne un peu pareil (nous progressons beaucoup avec nos erreurs et ne savons pas toujours quoi faire dans une situation inédite).

Pour les réseaux neuronaux évolutifs, il s’agit juste de dire que l’apprentissage ne s’arrête jamais (comme pour notre cerveau).

Vous avez raison, on imite très mal le cerveau humain (on sait créer pas mal de neurones mais beaucoup moins de connexions entre. Par contre, les neurones artificiels ont des réponses plus complexes, la fonction n’est pas binaire). Mais est-ce que les avions imitent parfaitement les oiseaux ? Et pourtant, ils volent. On ne juge pas l’IA par sa similitude à notre cerveau, mais par l’étendue des problèmes qu’elle peut résoudre.

Ce qui est inquiétant, c’est l’avancée rapide, très rapide même. On peut citer des vieux exemples d’IA qui interprétaient très mal des images mais il faut dire 2 choses : elles finissent par être aussi bonnes que nous en quelques dizaines d’années de recherche alors que l’humain est le résultat de quelques millions d’années d’évolution ou sa survie dans l’écosystème dépendait de cette capacité fondamentale (normal qu’on soit fort). Aujourd’hui, il vaut mieux éviter de dire qu’elles sont meilleures sur des sujets pointus (interprétation de radiographies, par exemple).

Alors on peut parler de l’absence d’émotions (etc...), mais faut-il en mettre justement ? N’est-ce pas cet ajout qui la rendrait dangereuse en lui donnant une volonté propre ? Doit-on chercher à imiter l’homme ou doit-on plutôt garder l’IA sous forme d’outil limité volontairement ? A mon avis, si les IA commencent à faire le métier des ingénieurs, l’humanité devra se poser une question : est-ce qu’on veut maitriser tous nos processus et rester autonomes en tant qu’humains, ou est-ce qu’on accepte de ne plus comprendre comment les objets que nous utilisons fonctionnent (ou comment ils sont fabriqués) ? Dans le capitalisme, on utilisera l’IA au maximum de ses possibilités (retour sur investissement), ce qui signera la fin de l’homme... Même si l’IA ne cherche pas à nous détruire, nous nous détruirons nous-mêmes par manque de motivation intellectuelle (de toutes façons, même en faisant des efforts, on ne pourra pas comprendre ce qui nous entoure, et on ne pourra pas se rendre utile, alors pourquoi réfléchir ?).