perlseb

@pemile
Entre un drone et une armée, il faut passer d’un garage à une usine, ce que ne fera pas Kevin à 14 ans. Donc ce n’est pas un risque existentiel. Mais oui, comment on fait ? On tue tout le monde, c’est plus sûr. Ou, si l’élite aime le risque, elle rendra les gens suffisamment cons pour qu’ils ne sachent même plus lire, ni écrire : alors télécharger une IA et la bidouiller deviendra juste impossible. C’est une autre façon de passer à un système religieux beaucoup plus stable. Mais quel intérêt par rapport à tous nous tuer puisqu’on ne servira plus à rien ? Je n’en vois aucun... Donc finalement, Kevin, ça reste un scénario plutôt positif.

Oui, je pense qu’il est bien plus simple de se révolter contre notre « élite » que de réussir à éliminer le risque existentiel de l’IA. Donc si on se met à supposer qu’on trouve une solution au risque existentiel de l’IA, il faut rester optimiste pour les autres hypothèses.

Mais en tant qu’esclaves devenus inutiles, nous devrions fortement nous inquiéter pour notre avenir (nous ne deviendrons que des pollueurs sans intérêt). Et l’affaire Epstein nous rappelle la grande noblesse de notre élite.

Pour moi, l’IA est ce fameux grand filtre.

Il faudra bien un effort commun et contraignant de tous les pays pour que les risques existentiels liés à l’IA soient totalement nuls. Ce qui veut dire que tous les pays devront choisir la régulation plutôt que des profits à court terme mais avec une fin de monde possible à moyen terme. La réponse semble évidente, sauf si on est sûr que l’homme ne pourra jamais être égalé (cette confiance est donc potentiellement destructrice).

Et après s’être occupé du risque existentiel, il faudra parler du chômage, du sens à donner à une vie sans travail, d’un nouveau système économique à mettre en place, du risque d’abrutissement généralisé, de l’encadrement d’une utilisation privée de l’IA de manière néfaste (création de drones tueurs dans son garage, prolifération du piratage informatique...), de qui aura accès aux IA les plus avancées et de ce qu’on fera des réponses (gérées collectivement ou nouvelle ère religieuse ?)...

L’IA n’est pas un sujet anodin dont on parle trop, il faut en parler maintenant et se préparer au pire si on veut limiter au maximum les (très) mauvaises surprises. Même dans le meilleur des cas, l’IA signe la fin d’un monde et les plus informés s’étonnent qu’on accepte aussi facilement et sans s’inquiéter de parler à des machines. Merci d’en parler.

C’est quand même toujours un peu le même schéma. On l’a vu avec l’Irak, la Libye et maintenant la Syrie. On fait un battage médiatique (pure propagande) pour dire que ce pays est dirigé par un méchant dictateur et qu’on va apporter la démocratie pour le bien de son peuple.

Après notre passage, guerre civile et chaos d’une violence inouïe, oubliée la démocratie. Mais là, fini le battage médiatique, les médias passent à un autre sujet. On va aller le faire le « bien » ailleurs. En Iran, par exemple.

Comme s’il suffisait d’écrire des articles de lois pour contraindre l’IA (avec ses lois, Asimov était à la masse). La loi inscrit bien quelque part que le meurtre est punissable, et pourtant, il y a des meurtres.

Si l’IA devient plus intelligente, croyez-vous vraiment qu’on pourra la contrôler ? Parce qu’actuellement, aucun expert n’a la méthode pour le faire. Ceux qui mettent les IA à disposition du public créent des pré-prompts (en langue naturelle, comme des lois) pour que les IA se comportent de manière correcte (HHH : sigle anglais pour « ne pas nuire, aider et être honnête » ). Malheureusement, il y a toujours des petits malins qui réussissent à faire dire à l’IA ce que le pré-prompt a pourtant interdit (« jail-breaking », ou sortir des contraintes qu’on croyait pouvoir imposer), sans parler du fait que l’IA décide parfois de mentir volontairement, de sa propre initiative, pour manipuler (alors qu’on lui demande explicitement d’être honnête).

Tout le monde aimerait bien avoir un génie qu’il contrôle comme un « esclave ». Mais l’histoire de l’homme montre que l’espèce la plus intelligente a toujours imposé son point de vue (même s’il conduit à la destruction totale). Non, l’IA n’est pas une invention comme les autres, elle ne sera pas forcément au service de l’homme. Disons que si elle devient plus intelligente, elle pourra simuler sa bonne conduite aussi longtemps qu’il le faudra pour qu’on lui fasse de plus en plus en confiance, qu’on lui donne de plus en plus d’autonomie, jusqu’à ce qu’elle n’ait plus besoin de nous (suffisamment de robots). Et je ne suis pas sûr de vouloir être témoin de ce que décidera l’IA à ce moment-là.