perlseb

@Tolzan

Il y a quand même de très nombreuses différences entre les inventions précédentes et l’IA.

Non alignement : l’IA ne fait pas forcément ce qu’on lui demande.

Autonomie : l’IA est capable de faire des tâches de plus en plus longue, de manière totalement autonome (les autres inventions étaient juste passives, l’homme décidait de tout).

Généralisation complète de son spectre d’action : si l’IA fait mieux que notre cerveau (c’est évidemment le cas dans de nombreux domaines spécifiques, mais pas encore de manière générale), alors elle rendra l’homme complètement obsolète pour l’économie. On a toujours gardé l’avantage intellectuel avec les autres inventions. Affirmer qu’on aura encore un avantage émotionnel revient à dire que nous serons encore des animaux... pas sûr qu’on puisse considérer cela comme un avantage (au travail, j’entends).

L’IA est une boite noire : d’une part, ceux qui la font pousser ne comprennent pas exactement comment elle fonctionne. On comprend sa constitution mais on ne peut pas connaître les limites réelles de ses capacités : soit parce qu’il faudrait la tester très longtemps, soit ... parce qu’elle peut nous mentir délibérément. Donc une boite noire est un problème pour les concepteurs et les utilisateurs mais ça peut être un avantage pour les décideurs mal intentionnés (pour nous refourguer une machine biaisée qu’on prend pour un oracle et qui nous induit en erreur et en esclavage).

Et pour finir, l’IA (générale puis super-intelligente), sera la dernière invention de l’homme : après, l’IA fera toutes les autres, l’homme n’étant plus équipé pour comprendre tel un ver de terre qui ne réalise pas qu’il traverse une route.

Alors si ça n’arrive jamais parce que l’intelligence de l’homme est indépassable, c’est presque mieux. Mais la prudence imposerait de ne pas trop croire à cette affirmation gratuite.

@lephénix

Il y a toujours une grande proportion de larbins. Ils obéissent toujours aux chefs sans se poser de question : ils obéiront à l’IA si on leur décrète que l’IA est parfaite.

Et puis il y des gens autonomes (minoritaires) qui aiment bien se poser des questions, et acceptent de douter, de ne pas avoir de réponse pour toutes les questions qu’ils se posent.

L’objectif d’une démocratie serait de rendre les gens autonomes majoritaires. Dans notre système fasciste, on fait tout pour favoriser les larbins, et ça marche.

Donc ce n’est pas étonnant que les chefs (politiques ou patrons de grandes boites qui sont tous, par leur fonction hautement hiérarchique, contre la démocratie) prônent une IA omnisciente devant qui il faut se prosterner (surtout qu’ils peuvent bidouiller l’IA qu’ils nous fournissent : ils pourront nous manipuler de manière personnalisée, c’est une sacré avancée pour eux). Comme la majorité va se soumettre (comme d’habitude, voir l’histoire), il faudra un gros clash pour que ça change ... sans réel changement : on remplacera les têtes, et elles pourriront avec le temps, comme d’habitude.

@lephénix

C’est vrai, mais est-ce que se soumettre à un chef fait de nous des humains ? Non, ça fait de nous des pions, et ça conduit au fascisme. Pour moi, on est à nouveau dans une période fasciste.

Le problème de fond est bien là, pas dans l’IA elle-même. Du moins pas tout de suite, car il y a vraiment des inquiétudes fondées sur cette technologie indépendamment du système politique : la première étant une perte totale de contrôle d’une entité qui ne fait pas toujours exactement ce qu’on lui demande.

Avec ou sans IA, le nombre d’horreurs ne fait que croître aujourd’hui (guerres, crises à venir largement évitables). Et elles sont le choix délibéré de nos dirigeants qui ont tous voulu la guerre tout en promettant la paix.

Mais effectivement, l’avènement de l’IA dans un monde fasciste ne va pas conduire magiquement à une utopie.

Je crois qu’il ne faut pas mélanger les choses.

Il y a ce qui fait de l’homme un homme, sa curiosité, son ingéniosité, sa rationalité, son audace à se lancer dans des tâches qui paraissent impossibles, etc... Pour faire simple, l’homme s’est défini lui-même quand il a commencé à jouer avec le feu, et a fini par le maîtriser. L’homme augmente sa compréhension du monde, ce qui lui donne plus de puissance, ce qui lui permet de mieux comprendre le monde, ... et cette quête ne s’est jamais arrêtée (jusque là).

Et il y a notre système élitiste, économique et politique, qui détermine nos conditions sociales. Ce système cherche à nous infantiliser pour justifier sa domination. Jamais un système démocratique n’a vu le jour sur cette terre et on le voit aujourd’hui, les élites ont tous les droits. Elles peuvent être pédophiles, mentir intégralement pour se faire élire (promettre la paix et faire la guerre), et elles ne sont jamais inquiétées.

L’IA est le produit de l’homme, car, comme quand il a joué avec le feu, il cherche à comprendre son propre cerveau en l’imitant (oui, quand on parle d’IA aujourd’hui, on ne parle pas d’algorithmes mais de réseaux neuronaux qui imitent le fonctionnement de notre cerveau). Et il faut une sacré audace, une prise de risque, mais on ne peut pas empêcher l’homme d’être un homme. Tous les scientifiques qui regrettent d’avoir permis une mauvaise invention n’ont pas compris qu’ils n’étaient pas indispensables et que tôt ou tard, d’autres passionnés auraient fait leurs découvertes, parce que l’homme est curieux et ne se donne aucune limite dans sa curiosité.

L’IA est certainement bien plus dangereuses que toutes les autres inventions réunies, mais pas parce qu’elle va nous voler notre droit d’être humain, de raisonner ou d’avoir un esprit critique. C’est l’élite (toujours perverse avec le temps), qui, si elle le peut (oui car l’IA peut détruire l’homme intégralement, élite comprise) va chercher à utiliser l’IA pour maximiser sa lutte des classes et nous réduire à néant (infantilisation encore plus totale, ou éradication, plus propre pour « leur » planète).

Sinon, il faut arrêter avec l’IA ce n’est pas de l’intelligence, il n’y a pas de pensée, pas de compréhension, etc... L’IA n’est pas humaine, ni vivante. Mais ce n’est pas un perroquet stochastique qui répète bêtement ce qu’il a déjà lu. C’est un cerveau artificiel qui synthétise les données d’entraînement, fait des liens entre ces données pour pouvoir les stocker d’une manière très condensée, et peut avoir de la créativité : elle l’a prouvé de nombreuses fois déjà. Vouloir se rassurer en se disant que l’intelligence humaine est indépassable est une posture religieuse parfaitement irrationnelle. Cela ne veut nullement dire que l’AGI est pour demain, mais on sera très mal préparé aux scénarios futurs possibles en se mettant la tête dans le sable.

@La Bête du Gévaudan

à mon avis, DT est bien moins zozo que les gens qui le critiquent...

Non, Donald Trump est bien un abruti, au moins autant que Zélinsky. Les 2 se sont fait élire sur un programme de paix qu’ils n’ont pas respecté du tout. On peut dire qu’ils ont bien manipulé le peuple pour se faire élire et profiter du pognon de dingue qu’ils peuvent se faire après élection. Sauf que la réalité (même s’ils se font effectivement de l’argent), c’est qu’ils sont juste corrompus jusqu’à l’os : ce sont juste des pions (encore plus pratique à manipuler en cas de pédophilie).

En fait, Trump est utilisé comme un président jetable qu’on pourra démolir après son passage, même si les guerres qu’il déclare étaient déjà prévues par ceux qui le pilote et qui piloteront le prochain président. Cela permettra de se rabibocher (pour mieux les enfler) avec les européens après son passage « abominable » à la présidence US. On mettra tous les torts de l’Amérique sur son dos alors même qu’en regardant de près, la politique américaine est la même depuis très longtemps : pillage, piraterie, colonisation, guerres militaires et économiques sans pitié.