perlseb

@pemile
Dans le cas d’images ou de sons, les données ne sont que des images et des sons numérisés, non ?
Oui, les réseaux de neurones travaillent avec des données numérisées. Simplement parce qu’elles possèdent forcément un nombre fini de neurones en entrée et que le signal en entrée du réseau ne peut pas être codé avec plus d’éléments que cette couche.

Mais ne mésestimez pas les machines sur cette limitation. Pour notre vision, nous voyons également en « discret » (par pixels) avec notre rétine (125 millions de photorécepteurs). Donc nous aussi, nous numérisons nos entrées (nos neurones sont également limités avec des limites que les machines commencent à égaler et qu’elles vont, fatalement, dépassées).

@Xenozoid
Les neurones de la nature sont bien réels. Les neurones artificiels peuvent être réels ou simulés par des calculs. La vitesse actuelle des machines et leur mémoire (toutes 2 en constante augmentation) permet de simuler un nombre de neurones suffisant pour traiter des problèmes complexes qui étaient hors de portée avant (d’où le nouveau décollage de l’IA).
L’année dernière, ce qui était le plus grand réseau neuronal du monde – mesuré en poids neuronal – le programme de traitement du langage naturel GPT-3 d’OpenAI, avec 175 milliards de poids, a été éclipsé par le modèle de 1,6 trillion de paramètres de Google, le Switch Transformer.
Je ne crois pas qu’un neurone artificiel soit aussi efficace qu’un neurone humain (en traitement de l’information) mais nous utilisons malheureusement beaucoup de nos neurones pour la mémoire, les émotions, ... Les machines peuvent utiliser tous leurs neurones pour se concentrer sur un seul problème, et ça c’est un gros avantage.

@pemile
Zut, j’avais pas lu son code sur la création de ses neurones. Il utilise la bibliothèque numpy pour faire ses calculs. Dans ce cas, je retire ce que j’ai dit sur la lenteur de ses neurones. numpy est une bibliothèque mathématique compilée très efficace.

@Xenozoid
Je ne comprends pas bien votre question. Maintenant que les réseaux neuronaux commencent à avoir des résultats probants avec tout un tas de types de neurones artificiels, on se moque un peu de la manière précise dont la nature fait fonctionner ses neurones.
Si on arrive à un plafond de verre avec les neurones artificiels, peut-être cherchera-t-on à mieux comprendre la nature pour compliquer un peu notre modèle. Pour l’instant, les progrès sont fulgurants, même si tout le monde se rassure des erreurs de jeunesse (sans rien comprendre aux possibilités et aux enjeux).

@perlseb
Pour ce qui est du « from scratch » que j’ai occulté, il l’explique très bien :
parce que toutes les librairies de réseaux de neurones sont des boîtes noires. C’est-à-dire qu’on ne sait pas comment elles fonctionnent, mais on sait juste qu’elles fonctionnent (la plupart du temps…)

La bibliothèque a déjà tout un tas de types de neurones différents, mais il veut coder le comportement de ses neurones pour savoir exactement ce qu’il met dans son réseau.

Ok, il obtiendra un réseau avec ses propres neurones, mais ils seront très lents (codés directement en python au lieu d’être compilé depuis le C et exécutés directement en langage machine grâce à la bibliothèque quand on choisit un neurone de la bibliothèque).