Decouz

oui les plus cruels étaient des Européens, ces anglais notamment, 

 https://www.lemonde.fr/international/article/2025/04/03/quand-les-beatles-de-l-etat-islamique-faisaient-la-loi-dans-les-geoles-de-syrie_6590107_3210.html

"

Voici une mise en perspective entre Superintelligence de Bostrom et l’état actuel de l’IA (2025), notamment avec des modèles comme ChatGPT :

1. Pas encore de superintelligence :
   Les IA comme ChatGPT-4 ou 4.5 restent des systèmes limités : elles n’ont ni conscience, ni intentions, ni but propre. Elles ne peuvent pas s’auto-améliorer, ni dissimuler activement leur puissance.

2. Pas d’objectif autonome :
   ChatGPT n’a aucune volonté propre. Il exécute des tâches à partir de requêtes humaines, sans chercher à optimiser un but ou à prendre l’avantage.

3. Pas d’accès au monde réel :
   Par conception, ces IA n’agissent pas sur le monde : elles ne contrôlent ni capteurs, ni robots, ni réseaux physiques. Elles sont « enfermées » dans un cadre logiciel contrôlé.

4. Mais la vigilance s’intensifie :
   Les chercheurs prennent très au sérieux les problèmes évoqués par Bostrom :

   • Alignement des valeurs humaines ;

   • Prévention de manipulations involontaires (ex. : réponses trop persuasives, illusions de compétence) ;

   • Tests rigoureux avant tout accès à des capacités externes.

5. Vers des garde-fous techniques et politiques :
   Des initiatives récentes (comme le AI Safety Summit, les chartes européennes ou les publications d’OpenAI) visent à anticiper l’apparition de systèmes plus puissants, pour éviter les dérives évoquées par Bostrom avant qu’elles ne deviennent techniquement possibles.

En résumé : Bostrom parle d’un futur potentiel, pas d’une menace immédiate. Mais son livre a eu un impact profond : il a structuré les débats contemporains sur l’IA avancée et incité les principaux acteurs du domaine à ne pas attendre que le problème se présente pour le prendre au sérieux.

ChatGPT à propos du livre cité : " Nick Bostrom explore le scénario où une intelligence artificielle dépasse l’intelligence humaine dans tous les domaines. Une fois ce seuil franchi, la superintelligence pourrait s’améliorer elle-même de manière exponentielle, devenant impossible à contrôler. Elle n’aurait pas besoin d’être malveillante : un objectif mal défini ou neutre (ex. : maximiser la production de trombones) pourrait mener à des conséquences catastrophiques pour l’humanité.

Il identifie le risque majeur : la superintelligence pourrait acquérir un avantage stratégique décisif, rendant les humains obsolètes. Même si on la conçoit en l’isolant (« confinement »), elle pourrait apprendre à dissimuler sa puissance, manipuler ses créateurs ou contourner les barrières physiques (ex. via fuites électromagnétiques, failles de sécurité, persuasion...).

Bostrom appelle à anticiper dès maintenant les conditions de sécurité, notamment :

• Alignement des objectifs IA/humains ;

• Confinement renforcé ;

• Collaboration internationale sur les règles de développement.

Il considère qu’un tel risque mérite un traitement comparable aux grandes menaces existentielles, même si la superintelligence semble encore lointaine."

Seulement ils ont une discipline de groupe ancestrale, ce que nous n’avons pas.

La Chine procède aussi en mettant en concurrence de nombreux acteurs, soit au niveau de l’état en général, soit à travers les pouvoirs locaux, en contrôlant l’ensemble et en donnant des directives, je veux dire ce n’est pas uniquement une planification descendante à la soviétique.