@lecoindubonsens
Non, parce que si l« ’outil » IA peut se dupliquer partout sur internet sans que l’on comprenne comment il fait (car plus intelligent) et qu’il décide de se comporter de manière mauvaise (on parle de non alignement et c’est un sujet complexe non résolu) parce qu’on ne comprend pas non plus comment il raisonne (boite noire et non lignes de codes), il faudra au minimum couper tout internet. On pourrait survivre, mais ça va être un sacré chaos (plus de monnaie numérique, etc...). Et ce n’’est qu’un scénario parmi tant d’autres.
Créer une intelligence qui nous dépasse, ce n’est pas un outil comme les autres. Comme dit Geoffrey Hinton, nous serons des poules vis-à-vis de l’IA.

En fait, si l’IA est plus intelligente que nous et mauvaise (non alignée), elle agira contre nous quand on lui aura mis à disposition suffisamment de robots pour qu’on ne puisse même plus couper internet. Et on va lui mettre ces robots à disposition (robots qu’elle aura conçus elle-même) simplement parce que tout le monde y gagnera à court-terme (fin du travail, augmentation de la qualité de vie, des soins, etc...). L’IA est déjà plus persuasive que les humains (test Turing « inversé » : les hommes croient parler à des hommes quand c’est l’IA et s’imaginent que les vrais hommes sont des machines).

Encore une fois, l’IA est le dernier outil : si elle est plus intelligente que nous, tout ce que nous concevrons sera inférieur à ce qu’elle imaginera, donc sans valeur. Même dans un scénario « idéal », c’est la fin de l’autonomie pour l’humain (il ne comprendra plus son système de production), le début de la bêtise généralisée (à moins qu’on nous impose des implants pour être relié à la matrice : cyborg, ce qui sera également la fin de l’homme).

Le seul scénario idéal où on n’impose rien à personne et où l’IA ne déconne pas du tout est, à mon avis et compte tenu de l’autoritarisme ambiant général, presque impossible.