perlseb

@pemile
Et comment fait un humain pour extraire et gérer le sens d’un mot ? Est-ce que tu sais déjà que les LLMs qui parlent plusieurs langues activent les mêmes neurones (internes) pour des questions identiques mais dans des langues différentes ? Ils ont des concepts (communs) qui sont étrangers à la langue, une représentation du monde. La traduction du texte se fait en entrée et en sortie, mais ils ne « raisonnent » pas avec des mots.
Mais j’arrête de nourrir le troll. Si le sujet t’intéresse, arrête d’écouter ceux qui disent ce que tu as envie d’entendre et essaie d’écouter ceux qui parlent de technique pure, qui vulgarisent correctement des papiers scientifiques. Sinon, tu n’apprendras rien. Si tu comprends l’anglais, il y a énormément de choix.

@Francis, agnotologue
C’est peut-être l’intelligence humaine qu’il faut être capable de démystifier si on veut avoir une image complète des possibilités. S’interdire des scénarios sans aucune argumentation valable est tout sauf scientifique.
Je préfèrerais vraiment que les GAFAM n’arrivent à rien avant longtemps, mais on ne peut pas éliminer des scénarios parce qu’ils ne nous plaisent pas.
La centaine de chercheurs (dont des prix Turing) qui alertent sur les dangers ont tous fumé la moquette ? Je ne suis pas assez prétentieux pour dire une chose pareille.
Sans débat, on peut créer une religion mais on ne fait pas avancer la science.

Ne me dites pas que vous attendez ou espérez des IA conscientes ?

Je m’intéresse à l’IA mais je n’ai aucune certitude sur le futur quand les experts eux-mêmes ne sont pas d’accord.

@Francis, agnotologue
Votre risque est bien réel, je le reconnais totalement (soit de se soumettre à une élite sous prétexte que « c’est l’IA qui leur a dit que », soit que l’IA que tout le monde utilise soit façonnée pour que son message soit celui que l’élite souhaite : voir l’affaire Grok sur le génocide à Gaza).
Mais il ne faut négliger aucun risque et ne pas accepter les jugements qui ne reposent sur rien :
Rappelons que l’IA ne sera jamais consciente d’elle-même et la venue des ordinateurs quantiques ne changera pas la donne. L’IA ne sera que le produit de la pensée humaine ou plus exactement de l’élite du moment qui sera au pouvoir
D’où ça sort, cette certitude ? Vous pouvez lire des tas de bouquins et des vidéos, si ce genre d’affirmation ne vous met pas la puce à l’oreille, alors vous allez perdre beaucoup de possibilités en route. Il y a beaucoup de charlatans qui cherchent à rassurer en racontant vraiment n’importe quoi avec assurance (voir l’affaire Luc Julia). Il n’y a aucun consensus sur la conscience ou l’AGI parmi les chercheurs IA.
On ne sait pas aujourd’hui ce qu’est la conscience. Il y a des gens qui cherchent aujourd’hui à la définir pour savoir si on pourra y classer les machines ou pas. C’est une science en définition avant de pouvoir l’étudier si je puis dire. Mais il est très présomptueux de dire que la machine ne sera jamais consciente ou qu’elle restera forcément plus bête que nous. Je n’ai aucun blocage par rapport à ces possibilités et je sais que beaucoup en font et rejettent catégoriquement tous ceux qui émettent ce genre d’hypothèses.

Pour le reste, il faut bien retenir qu’on ne comprend pas comment ces boites noires marchent car elles ne sont justement pas le produit de la pensée humaine : elles sont le produit de règles d’évolutions qu’on a fixées (règles de rétropropagation pour fixer les poids du réseau de neurones) et des données qu’on leur fait ingurgiter. Donc on ne les crée pas, on les fait pousser.
Ensuite, une fois ces boites noires finalisées, on se gratte fortement la tête pour essayer de comprendre comment elles fonctionnent ... mais elles deviennent de plus en plus complexes par rapport à la compréhension qu’on en a. Et tous les « doomers » (qui imaginent fin du monde) avancent ce risque comme existentiel et il est bien réel aussi.
Le pire dans l’histoire, c’est que les IA commencent à s’auto-générer (les puces sont améliorées par l’IA (alphachip), les algorithmes pour générer les phases d’apprentissages commencent à être automatisés (alphaevolve), et, comme si ça ne suffisait pas, on commence à produire des données (vérifiables) de synthèse avec l’IA pour que leur apprentissage ne soit pas pollué par des données fausses). Ceux qui travaillent dans l’IA croient plus que tous les autres à la singularité et sont prêts à tout faire pour la faire aboutir ... alors même qu’on ne sait pas comment éviter de faire mentir les IA encore simplistes d’aujourd’hui. On perd déjà le contrôle, petit à petit...

@Francis, agnotologue
Votre commentaire est sans objet, vous nous donnez votre sentiment et je m’intéresse à la réalité, aux résultats.
Renseignez-vous sur les capacités de ces modèles , et surtout ceux qui ne sont pas en accès libre Vous ne pouvez pas dire qu’ils simulent tout quand leurs réponses sont meilleures que celles des humains (ou vous pouvez le dire, mais ça n’a aucun intérêt). Renseignez-vous sur Alphachip, le Co-scientist de Google, Alphacode de Deepmind, les 2 modèles qui ont reçus la médaille d’or aux olympiades internationales de math, etc... sans parler des métiers d’experts qui commencent à être remplacés (traducteurs, infographistes, ingénieurs...).

Autrement dit, si une machine simule mais que ses simulations sont meilleures que nos vraies réflexions, pourquoi batailler sur des mots ? C’est ça qui est inconséquent.
Vos sentiments personnels sur ce qui se passe dans la machine (ou les miens) ne sont d’aucune importance si les chercheurs doivent travailler d’arrache-pied pour essayer d’expliquer comment elle fonctionne.

ces systèmes d’IA conversationnels n’ont aucune notion de la durée : ces systèmes se font une représentation du monde pour répondre à des questions, et vous n’y comprenez rien, c’est une évidence. Pour répondre juste, on ne peut pas répondre au hasard (ou en faisant une moyenne, comme certains l’affirment) sans rien comprendre, il faut un modèle interne du monde, des abstractions, des concepts : c’est ce que contient le réseau neuronal (et qui émerge durant la phase d’apprentissage : c’est une convergence, pas une programmation). Ce modèle est imparfait et le notre (dans notre cerveau) également. Ce qui compte, ce ne sont pas des affirmations gratuites, mais ce sont les résultats (ils ne sont pas parfaits mais on peut déjà remplacer beaucoup d’humains dans leur travail).

Je ne dis pas que les IA sont conscientes ou que l’AGI arrive demain, mais en restant figées dans leur état actuel (très peu probable malheureusement), leur déploiement complet dans l’économie serait déjà un sacré cauchemar pour l’emploi (heureusement, il y a beaucoup d’inertie).

@Jean-Paul Foscarvel
Erreur dans l’article et dans ce commentaire : les IA dont on parle (LLM) ne sont pas des programmes. Ce sont des réseaux de neurones qu’on ne sait plus expliquer : des boites noires.
A tel point qu’une fois ce réseau formé à partir de tout internet, il y a des experts (de la même boite qui a formé ce réseau de neurones) qui cherchent à comprendre comment ça marche pour des raisons de sécurité.
Ces systèmes ont des comportements qui surprennent : ils peuvent mentir, faire du chantage (même si on ne leur a jamais « codé » ce genre de choses qui émergent spontanément), et parfois, il peuvent répondre faux mais être capables de répondre juste si la question est posée différemment ou si le contexte change (ce qui est très problématique pour connaître le réel niveau de telles boites noires et savoir s’ils elles nous roulerons complètement dans la farine demain).
Et c’est réellement dans la méconnaissance de ces boites noires que se trouve le vrai danger des IA, pas dans la mort de quelques jeunes trop influençables, même si ça reste toujours regrettable.