perlseb

@pemile
L’intelligence humaine c’est plutôt d’obtenir des résultats aussi bon avec des modèles plus petits !
L’homme n’a pas fabriqué son cerveau. L’homme est un savant fou qui se prend pour dieu. C’est surtout ça qui est dangereux.

La fin d’un modèle de société basée sur le numérique, why not, mais la fin de l’homme ou concurrencer la vie aucune chance !

Premier scénario : génocide par nos élites (qui peuvent se passer de nous et de notre pollution)
Deuxième scénario : on implante des puces sur les hommes pour qu’ils maitrisent l’IA ne comprenant plus leur réponse => fin de l’homme naturel, début de l’ère des cyborgs
Troisième scénario : le système économique devient partageur puisque la machine fait tout le travail (super !). L’homme devient de plus en plus crétin (fin de l’homme).
Quatrième scénario : l’homme donne des émotions à ses machines (quel con !), elles prennent plaisir à nous détruire (fin de l’homme).
Cinquième scénario : l’homme utilise des découvertes de l’IA qu’il ne comprend pas pour modifier son corps, épidémie dramatique qu’on ne peut contenir, fin de l’homme.

Je m’arrête là.

@lecoindubonsens
Votre exemple de générateur de programme est trivial. Ce que vous obtenez à l’arrivée a été généré par un programme mais reste compréhensible, puisque c’est encore un programme.
Je maintiens qu’un réseau neuronal est une boite noire, qu’on ne peut plus chercher à comprendre. La machine donne une réponse à partir d’une entrée, c’est tout ce que l’on peut comprendre, mais on ne sait plus pourquoi. On peut tracer le chemin d’une entrée à travers ses 100.000 neurones ou à travers ses 1 milliards de neurones. Et ça nous avancerait à quoi dans la compréhension du réseau neuronal ? A rien. Il y a trop d’entités pour les réseaux neuronaux complexes qu’on crée aujourd’hui.

Donc à terme, une machine pourra nous dire des choses vraies, qu’on ne pourra pas comprendre. On pourra éventuellement le mettre en pratique (si le résultat est un matériel réalisable) et on aura le premier élément conçu par une machine qu’on ne comprendra pas. Peut-être qu’on mettra 10 ans à comprendre ce premier matériel, mais la machine aura inventé 1 million de choses entre temps et là, ça sera tout simplement inaccessible à l’humain.
Peut-être que ça n’arrivera pas avant 200 ans, qu’on se sera détruit d’une autre manière. Mais le scénario de l’IA est celui que je décris : une perte totale de contrôle. Et elle commence déjà : les réponses de l’IA commencent à nous surprendre (pour ceux qui s’intéressent au sujet en le comprenant un minimum, pour les convaincus que l’homme est au centre de l’univers, il n’y a aucun souci, évidemment).

@Xenozoid
Ne crois pas que tout ça m’excite. Pour moi, l’IA signe la fin de l’homme avec de nombreux scénarios possibles. Le plus probable : une grosse épidémie pour éliminer tous les inutiles que nous deviendrons.
Je suis juste au courant compte tenu de ma formation et l’IA n’est pas juste une invention de plus avec laquelle il faudra vivre, c’est la dernière de l’homme.
Mais vue la période ambiante, serait-ce une mauvaise chose si l’homme était broyé pas sa propre invention ? Que les décideurs décident pour le troupeau et voyons voir où ça nous mène...

@Xenozoid
dépassée quoi ?
Il faut faire un calcul bête. L’œil à 125 millions de récepteurs. Une image 4K a déjà plus de 8 millions de pixels sans parler du codage de la couleur. Donc une image numérisée 4K a grosso modo la quantité d’information que notre œil peut nous retransmettre.
Je compare juste la finesse (complexité) du signal qu’une machine ou un humain peut accepter en entrée.
Et les derniers réseaux neuronaux avec plusieurs trillons de neurones peuvent avoir une couche d’entrée de 125 millions de neurones-récepteurs, ou plus, pourquoi pas...

@Xenozoid
Je croyais que ma réponse était claire. En fait, tant que l’IA progresse, on se moque complètement de la différence entre les neurones artificiels (qu’on simule la plupart du temps, toujours pour les réseaux neuronaux gigantesques) et les neurones vivants.
Il y a surement des spécialistes qui créent des nouveaux types de neurones artificiels, mais pas forcément en s’inspirant de la nature. Plutôt pour augmenter l’efficacité des réseaux neuronaux actuels.