perlseb

OpenAI affirme travailler sur ces problèmes

Si on comprend que OpenAI va créer encore plus de problèmes, je suis d’accord. Mais l’enjeu de l’IA est bien plus important que la mort de quelques personnes influençables.

L’IA est une boite noire, ce n’est pas un assemblage de lignes de codes qu’on peut corriger. Donc tant qu’elle progresse (extrêmement vite) sur des sujets comme les maths, la médecine, la création de contenu... les entreprises qui investissent des milliards sont pied au plancher pour être les premiers dans le domaine, et si on décide de perdre du temps en travaillant sur la sécurité, le concurrent lui ne va pas le faire et nous passera devant.

Le capitalisme récompense la prise de risque, elle est maximisée avec l’IA et peut aboutir à un chômage massif ou à notre extinction. Récompenser la prise de risque favorise les catastrophes, c’est de de la bêtise pure et simple.

@LeMerou
Imaginons un peu une IA plus intelligente que nous, qui conçoivent donc des robots qu’on est actuellement trop bête pour imaginer. Est-ce que nous consommerions autant de ressources et d’énergie pour le même niveau de vie ? Non, pas du tout. La monnaie, les profits et bénéfices, tout ceci n’a plus aucune utilité. Pourquoi produire en polluant avec une IA ? L’IA prendrait le temps de tout recycler, seule l’énergie serait un goulet d’étranglement. Si une sphère de Dyson paraît absurde aujourd’hui vu nos limites dans le spatial, une super-intelligence pourrait trouver et réaliser toutes les solutions intermédiaires pour ne jamais manquer d’énergie (la matière étant illimitée si on maîtrise l’énergie et le spatial).
Un autre exemple : si personne ne travaille, quel est l’intérêt d’avoir chacun sa voiture si elles sont autonomes et plus sûres (ce n’est pas le cas aujourd’hui, on est d’accord). On pourrait être livré à domicile tous les jours selon nos commandes régulières, ou de la veille. On pourrait être plus libre en demandant qu’une voiture vienne à notre logement pour se balader sans se soucier des révisions. Et si des gens indélicats dégueulassent des voitures, soit l’IA nettoie tout sans rien dire, soit elle leur présente des voitures telles qu’ils les ont rendu. Dans cet exemple, on a moins de soucis, autant de services, et on consomme beaucoup moins (moins de voitures fabriquées, optimisation possible des trajets).
Ce scénario à priori idéaliste (les hommes deviendront sûrement complètement idiots, est-ce vraiment souhaitable) ne sera possible, à mon avis, que si on se débarrasse de notre caste de dégénérés (et qu’on empêche tout dégénéré de reprendre le pouvoir) ... et si l’IA ne veut pas nous détruire aussi. Et on n’a jamais réussi à le faire dans l’histoire, donc c’est pas gagné et le plus probable, c’est Gaza pour tout le monde. Peut-être n’est-ce qu’une répétition avant l’exécution à plus grande échelle, comme l’a été le Covid.

Pour la première fois de son histoire, elle dispose potentiellement des moyens techniques de satisfaire les besoins matériels de tous ses membres

Nous avons ces moyens depuis longtemps déjà et pourtant, des gens capables et volontaires sont au chômage, parfois SDF (et on pourrait les loger et les occuper utilement mais on ne le fait pas, on jette des excédents et on laisse des maisons vides).

La technique n’a jamais résolu les problèmes de la bestialité humaine (l’envie de dominer les autres parce qu’on ne se domine pas soi-même), la dernière invention, l’IA, n’y changera rien. Je pense que la population mondiale va chuter drastiquement et il y a beaucoup de scénarios possibles (chômage et misère massif sans revenu universel, virus, guerres ciblées avec l’IA, ...). Et c’est sans parler des risques liés à l’IA seule (sans la mauvaise intention des hommes) : erreurs catastrophiques de l’IA à qui l’homme donnerait toute sa confiance car il serait largué depuis longtemps, ou prise de pouvoir autoritaire de l’IA...

En fait, il n’y a pas une IA mais des IA. On peut imaginer qu’une super-intelligence développée de manière publique pour l’intérêt général (rêvons un peu) ne soit pas méchante ou, en tout cas, qu’on ne lui donne pas suffisamment de pouvoir matériel pour qu’elle puisse nous détruire (passons de côté son pouvoir de persuasion auquel nous ne céderions pas). Mais il y aura aussi des IA bien plus faibles (tout en étant plus fortes que nous) qu’on pourra utiliser dans son garage pour fabriquer un virus, un robot tueur ou pour tirer profit d’internet (cybercriminalité).

Donc l’IA donne du pouvoir, encore plus de pouvoir, et c’est plutôt inquiétant connaissant l’homme et son absence totale de maîtrise.

@Le Paysan
Bien évidemment qu’il ne contrôle rien, comme la majorité d’entre nous. Même ceux qui sont chefs d’entreprises ne contrôlent pas grand chose. Si leur marché s’écroule, ils doivent faire autre chose, ce qui est parfois impossible selon les investissements à réaliser, le retard pris par rapport aux nouveaux concurrents ou les nouvelles connaissances nécessaires.
C’est un système casino où on récompense la prise de risque, sauf que si on regarde bien, seuls ceux qui n’ont pas un matelas confortable prennent des vrais risques, quelque soit leur responsabilité, car ils peuvent très bien se retrouver à la rue demain. Plus facile de plumer les gens quand ils sont persuadés qu’il faut prendre des risques pour s’en sortir. Mais en réfléchissant un peu, on voit bien que ça n’a aucun sens, ce système n’est pas fait pour des gens honnêtes ou normaux, il est conçu pour faciliter le pillage à grande échelle.

@sylvain
C’est exactement ça. Pourquoi un exploitant agricole qui produit au bas mot 100 fois plus qu’un paysan d’avant ne s’en sort pas aujourd’hui ? Elle est là la question. Certains vont mettre en avant la loi de l’offre et de la demande, mais ce n’est pas du tout comme ça que marche l’économie : qui en demande des pesticides, qui a demandé d’avoir le cancer ou sa nappe phréatique polluée ? Personne. Et pourtant, « on n’a plus les moyens de faire autrement ».
Dans une démocratie, les gens choisiraient d’affecter leur temps en fonction de leurs priorités, et une alimentation saine ferait partie des priorités. A l’évidence, on n’a pas du tout le droit de faire ce genre de choix dans notre monde, car c’est le « marché » qui dicte sa loi, et ceux qui ne sont pas d’accords sont simplement nuls en économie.
Je vais émettre l’hypothèse que ceux qui se sont donnés le pouvoir de créer la monnaie et d’orienter le marché ne mangent pas la même chose que nous. Il n’y a donc aucun problème.