perlseb

@Krokodilo
le peuple ne peut voter utilement pour choisir entre la filière nucléaire surgénérateur ou celle au Thorium , mini-réacteurs et autres variantes ! 
Si on cherche à l’embrouiller, oui il ne peut pas décider. Mais si on fait des synthèses objectives, alors le peuple peut décider de tout. Par exemple, si on explique que dans un cas (je dis ça au pif) on a 75 piscines olympiques de déchets ultimes qui seront cancérigènes pendant 1 million d’années et dans l’autre on en a que 10 sur 100.000 ans, tout le monde peut faire un choix (aux techniciens de faire ces calculs plutôt que de chercher à décider à la place des autres). Et si on a des solutions qui paraissent plus coûteuses à court terme mais qui évitent d’enfouir des déchets ultimes pendant des milliers années, il faut en parler aussi.
Je ne crois pas au nucléaire, car on reporte (voire occulte complètement) les coûts de gestion de déchets sur les générations futures (en affirmant qu’il n’y aura aucun problème, ni failles, ni infiltrations, et que ça ne leur coûtera donc rien). Pour moi, le nucléaire est l’énergie la plus coûteuse de l’histoire. Et ça aussi, on devrait l’expliquer que les « coûts » sont calculés en espérant qu’il ne se passe rien pendant des milliers d’années. Je trouve même inconcevable que certains puissent décider de léguer ça aux générations futures.
Les scientifiques et techniciens veulent souvent faire des choses compliquées pour s’amuser, mais ils ne devraient jamais décider pour autant.
Exactement comme ceux qui travaillent sur l’IA avec des payes monstrueuses : c’est sacrément plus intéressant que de bosser dans une banque, mais ils sont peut-être en train de détruire l’humanité.

@Krokodilo
La cartographie d’un réseau neuronal artificiel est beaucoup plus facile : on peut faire des arrêts sur image, savoir exactement quels neurones sont actifs / passifs dans un « cheminement de pensée », comprendre la signification de certains neurones (des concepts pour les neurones profonds, des mots pour les neurones périphériques), et ça ne meurt pas, on peut le dupliquer strictement à l’identique pour augmenter le nombre de tests simultanés, etc...

Mais quand on voit le nombre de paramètres (neurones artificiels pour simplifier) qui entrent en jeu dans les LLMs (des milliers de milliards), on n’a pas le temps de comprendre tout de manière détaillée, encore moins toutes les capacités potentielles. Sans compter qu’on en fabrique des nouveaux sans arrêt, beaucoup plus complexes, donc encore plus difficile à analyser. Je dirai que notre compréhension des réseaux neuronaux artificiels évolue moins vite que notre capacité et « ingéniosité » à en créer de nouveaux (sans parler de la boucle de rétro-action positive ou l’IA commence à être utilisée pour faire pousser des nouvelles ... IA, ce qu’on pourrait appeler la singularité : voir les outils AlphaChip, AlphaEvolve côté Google, mais Anthropic cherche à faire pareil,... ).
Les enjeux sont tels qu’on devrait en parler en boucle à la télé : mais comme tous les sujets cruciaux, le peuple ne décidera de rien.

Je n’ai pas la moindre idée de comment des types ont pu programmer un truc aussi puissant.

Mais personne ne sait vraiment comment ça marche, même ceux qui travaillent sur le sujet ! A tel point que quand une IA a été entrainée et « fine-tunée », des experts en neuroscience et dans d’autres domaines analysent ce paquet de neurones artificiels pour essayer de voir s’il ne va pas déconner complètement (pour éviter de mettre n’importe quoi en ligne, pour savoir si on peut détecter des mensonges, etc...)

En fait, on ne peut pas programmer une machine qui parle, c’est bien trop complexe. Ce qu’on sait faire, c’est « faire pousser » des réseaux neuronaux artificiels avec des données d’entrainement. Mais on ne sait pas le résultat que l’on va obtenir, ce dont il sera capable avant de l’avoir fait pousser, et surtout de l’avoir testé. Hors, plus ces réseaux neuronaux sont complexes, moins on peut les tester de manière complète. Et des tests négatifs sur certaines questions ne veulent absolument pas dire que la machine ne peut pas répondre : une formulation différente de la question et on obtient une réponse correcte.

C’est essentiellement pour cette raison que les IA font courir un risque existentiel : on ne les comprend pas vraiment, de la même manière qu’on ne comprend pas notre cerveau. Les machines commencent déjà à savoir quand elles sont testées et peuvent ajuster leurs réponses si elles se sentent testées (pour être déployées par exemple). Pour certains experts (je pense à Geoffrey Hinton), si la machine devient plus intelligente que nous, elle nous manipulera (et elle pourra se faire passer pour plus bête qu’elle ne l’est, ce qui n’éveillera aucun soupçon de notre part : principe de base où le plus bête ne peut pas comprendre ce que mijote quelqu’un de plus intelligent que lui, et donc le contrôler).

Le système progresse dans la soumission quand les peuples se renouvellent et oublient de manière générale.

Le plus frappant, c’est l’infantilisation générale. Je ne voudrais pas avoir un métier futile, ou pire, qui permet au système de tourner (en faisant une gestion absurde dans un bureau par exemple) quand ce système permet à des gens de bonne volonté de galérer ou de crever dans l’indifférence (chômeurs et SDF ne sont pas tous des profiteurs, et ceux qui accumulent sans limite par peur savent inconsciemment qu’ils peuvent également être touchés, sinon ils n’accumuleraient pas ... en dépossédant les autres).

Nous avons les ressources, la technique, l’énergie... pour vivre tous décemment de manière apaisée et pourtant, le monde est rongé par la peur, ce qui conduit à des comportements individuels gravement nuisibles pour la collectivité.

Pour moi, c’est la base qui est pourrie. Si les droits de l’homme ne parlaient pas de propriété privée (qui prive le SDF de travail ou de nourriture) mais de droits essentiels, alors l’infantilisation et la soumission seraient terminées. Article 1 : toute personne de bonne volonté a le droit d’être nourrie décemment et personne (ni aucune règle absurde) ne peut s’opposer à ce qu’elle travaille pour subvenir à ce besoin fondamental. On fait un article 2 pour l’habillement, un article 3 pour le logement, et c’est fini. Le château de carte des peurs et des soumissions sans limites qui en découlent s’écroule.

Inutile d’accumuler pour des lendemains incertains (une monnaie qui peut s’effondrer et il faut aller acheter son pain avec une brouette de billets comme en 1929 en Allemagne). Un emploi perdu et on ne rembourse plus son loyer ou son crédit : fini cette peur essentielle de notre société. Impossible également de nous interdire de travailler pour se nourrir ou se loger : fini la propriété abusive qui crée le manque (et les règles de constructions appliquées avant d’être sûr que chacun soit logé : il vaut mieux avoir le droit inaliénable de se construire une cabane en bois n’importe où, plutôt qu’une société qui puisse vous empêcher de travailler et par conséquence vous empêcher de « posséder » un lopin de terre : à quoi sert une telle société d’ailleurs ?). Je sais que certains ne comprennent pas cet « empêchement » au travail : il faut l’avoir vécu, avoir des diplômes et de la bonne volonté (et une longue période de chômage) pour le comprendre. Et on peut dire bêtement que c’est parce qu’il n’y a pas assez de monnaie mais la monnaie (avec la propriété privée) est justement le moyen de piloter ces interdictions absurdes.

Les gens sont rendus très superficiels (dans leur métier absurde surtout) et on s’assure dans le même temps que leurs peurs (pour des besoins essentiels qui ne sont absolument pas garantis pour l’avenir) sont bien fondées. Ce n’est pas une civilisation, mais une tyrannie de contrôle par la peur avec les émotions irrationnelles qui en découlent. C’est bien monté, mais c’est écœurant.

@perlseb
La révolte commence déjà dans l’ISS : j’imagine une séance de bourre-pifs entre le russe Oleg Platonov et l’américain Michael Fincke après la capture par les américains du tanker battant pavillon russe.