• AgoraVox sur Twitter
  • RSS
  • Agoravox TV
  • Agoravox Mobile

Signaler un abus

perlseb 30 septembre 13:46

@Jules Seyes
Je n’ai pas parlé des utilisations mal intentionnées de l’IA car elles ne sont pas existentielles pour l’homme. Finalement, si le seul risque de l’IA était une mauvaise utilisation de la part des humains, ça ne serait pas si grave (sauf si on est assez bête pour les laisser piloter nos armes nucléaires).
Non, je parle du risque de perte totale de contrôle parce qu’on ne maîtrise rien actuellement. On leur donne plus d’autonomie et plus de puissance, mais elles n’arrêtent pas de prendre des mauvaises initiatives (pour nous). Et ça c’est existentiel si on ne résout pas ce problème et qu’on continue à les rendre plus performantes. Car dans ce cas de mauvais alignement, une IA pourrait prendre le contrôle de nos armes nucléaires sans aucune mauvaise intention de la part des humains mais juste parce que l’IA veut faire du chantage pour avoir plus de puissance de calcul.
On ne peut pas accepter que des IA mentent, fassent du chantage, prennent des décisions qu’elles savent immorales, contraire aux règles qu’on a cru bon de leur « enseigner » tout en les rendant plus capables et plus autonomes. C’est juste du bon sens. Et tous ces mauvais scénarios se sont déjà produits pour tous les modèles. En cas d’intelligence qui nous dépasserait, on ne pourrait plus comprendre ses intentions finales, donc on ne l’arrêterait jamais à temps (en cas d’objectifs différents, c’est toujours le plus intelligent qui gagne).

Lire le commentaire dans son contexte
Répondre Signaler un abus



Palmarès