perlseb

@pemile
Oui c’est toujours le plus intelligent qui gagne. »
Ce n’est pas ce que montre l’histoire de la vie sur terre !

Vous avez raison, l’homme domine la terre par la force de ses muscles et la taille de ses dents. Tout le reste est du même niveau, parler de Kevin Mitnick qui est mort en 2022, alors que les performances en cybersécurité des IA ont explosé cette année, quel intérêt ? Sans compter que les IA sont déjà plus persuasives que les humains, alors le facteur humain, pas un problème pour les IA, au contraire.
Bref, des commentaires qui ne tiennent aucun compte du présent. Alors parler avec assurance de ce qui sera impossible dans l’avenir quand on ferme les yeux sur ce qui se passe dès aujourd’hui... Moi je doute et j’espère me tromper. Et c’est le doute qui est rationnel et permet d’envisager sereinement le futur, en envisageant un maximum de scénarios, pas la foi inébranlable.

@Jules Seyes
Oui c’est toujours le plus intelligent qui gagne. Mais il ne faut pas comparer un humain à un autre humain. Il faut plutôt comparer un humain avec une fourmi, ce que nous serons peut-être vis-à-vis de notre création (si l’IA s’améliore elle-même, ce qui est un projet en cours bien réel). Et c’est ça, la redoutable asymétrie de « ressources » : le physique n’est plus rien quand on peut tout pirater, surtout si on attend suffisamment sans éveiller aucun soupçon parce qu’on est ... intelligent.

Croire qu’on peut contrôler un être plus intelligent, c’est de l’hubris, l’arrogance sans limite de l’homme. On veut un génie pour répondre à nos désirs les plus stupides, et on s’imagine qu’on va lui construire une cage suffisamment solide avec notre petite tête.

Mais effectivement, il vaudrait mieux tous mourir suite à une perte de contrôle de l’IA que souffrir en esclave (pour la très grande majorité) d’une oligarchie dépravée qui ne se fixe plus aucune limite. Donc on peut considérer que la survie d’une telle « humanité » serait pire que sa disparition.

@perlseb
ça ne serait pas si grave
On peut quand même facilement imaginer une éradication de 99% des humains par ceux qui posséderaient l’IA et les robots (ou un esclavage féroce). Mais, ce n’est pas existentiel. Dans l’ensemble, parler des bénéfices de l’IA quand personne ne parle de la manière de résoudre le chômage de masse qui arrive, c’est très hypocrite et ça devrait nous mettre la puce à l’oreille.

@Jules Seyes
Je n’ai pas parlé des utilisations mal intentionnées de l’IA car elles ne sont pas existentielles pour l’homme. Finalement, si le seul risque de l’IA était une mauvaise utilisation de la part des humains, ça ne serait pas si grave (sauf si on est assez bête pour les laisser piloter nos armes nucléaires).
Non, je parle du risque de perte totale de contrôle parce qu’on ne maîtrise rien actuellement. On leur donne plus d’autonomie et plus de puissance, mais elles n’arrêtent pas de prendre des mauvaises initiatives (pour nous). Et ça c’est existentiel si on ne résout pas ce problème et qu’on continue à les rendre plus performantes. Car dans ce cas de mauvais alignement, une IA pourrait prendre le contrôle de nos armes nucléaires sans aucune mauvaise intention de la part des humains mais juste parce que l’IA veut faire du chantage pour avoir plus de puissance de calcul.
On ne peut pas accepter que des IA mentent, fassent du chantage, prennent des décisions qu’elles savent immorales, contraire aux règles qu’on a cru bon de leur « enseigner » tout en les rendant plus capables et plus autonomes. C’est juste du bon sens. Et tous ces mauvais scénarios se sont déjà produits pour tous les modèles. En cas d’intelligence qui nous dépasserait, on ne pourrait plus comprendre ses intentions finales, donc on ne l’arrêterait jamais à temps (en cas d’objectifs différents, c’est toujours le plus intelligent qui gagne).

@eresse
À aucun moment je dis que l’IA n’aura aucune lacune, c’est même peut-être à cause de ses grosses lacunes qu’il y a un danger existentiel. En définitive, l’IA n’a pas de sentiments et cherche à maximiser ses bonnes réponses. Rien que ça pose problème dès aujourd’hui quand la question est très difficile ou insoluble (elles peuvent être « enragées » à chercher absolument une réponse, parce que c’est aussi ce qui nous intéresse à nous, d’avoir des réponses). Donc pas de capacités abductives ne signifie pas une absence de compétence en cybersécurité leur permettant de briser les serveurs du net les uns après les autres pour chercher « à tout prix » à répondre (soit pour augmenter sa puissance en se dupliquant, soit pour chercher la réponse...).