perlseb

@lecoindubonsens
L’IA n’est pas un outil comme les autres, c’est le dernier créé par l’homme. Je comprends votre idée de se dire qu’on pourrait effectivement décider démocratiquement d’en faire bon usage et de partager le travail restant (ou de se distraire comme on l’entend s’il ne reste plus de travail du tout), mais vous savez très bien qu’on n’est pas dans ce monde là, d’où mon inquiétude.
Pour les trucs nouveaux dangereux, je n’imagine rien du tout, j’écoute les spécialistes (libres de parler, pas ceux qui mentent autant qu’ils respirent pour ne pas se faire virer et continuer à toucher le jackpot), et le risque d’extinction de l’humanité n’est pas nul (entre nombreux autres risques). Même si ce risque est infime, on devrait tout faire pour l’éviter mais ... on n’en parle pas dans les médias et on ne fait rien à la hauteur du danger (ça ralentirait les avancées trop profitables).

@LeMerou
Je pense que l’IA qu’on propose au grand public est très en retard sur ce que les entreprises ont déjà. Mais comment faire accepter l’IA sans la rendre sexy au grand public ? Ou, mieux formulé, comment nous imposer l’IA en nous faisant croire que c’est nous qui l’avons choisie ?

@lecoindubonsens
l’IA ne fait que ce que peuvent faire les humains, mais en BEAUCOUP PLUS VITE !
Déjà avec ça, c’est chômage pour tous les métiers intellectuels. Mais si l’IA de demain est capable de faire des choses que les humains ne peuvent pas faire ?

@Jean-Paul Foscarvel
Et je n’aimerais pas habiter dans un édifice ou passer sur un pont entièrement calculé par l’IA sans vérification experte humaine.
Aujourd’hui, vous pouvez dire ça. Demain, si on existe encore, ça sera le contraire. Si les machines se trompent déjà moins souvent sur les diagnostics médicaux, les gens préfèreront une machine qui, justement, est capable d’ingurgiter bien plus de données qu’un médecin, pour sortir une réponse la plus personnalisée possible au patient.
Et en quoi le cerveau humain ne serait pas qu’une machine à ingurgiter des données et à les recracher (souvent maladroitement) ? Des faux humains (de vraies IA) ont des idées très novatrices, tant qu’on ne sait pas que c’est une IA. Quand on apprend qu’on s’est fait avoir par une IA qu’on croyait humaine, finalement, ce n’était pas novateur...

OpenAI affirme travailler sur ces problèmes

Si on comprend que OpenAI va créer encore plus de problèmes, je suis d’accord. Mais l’enjeu de l’IA est bien plus important que la mort de quelques personnes influençables.

L’IA est une boite noire, ce n’est pas un assemblage de lignes de codes qu’on peut corriger. Donc tant qu’elle progresse (extrêmement vite) sur des sujets comme les maths, la médecine, la création de contenu... les entreprises qui investissent des milliards sont pied au plancher pour être les premiers dans le domaine, et si on décide de perdre du temps en travaillant sur la sécurité, le concurrent lui ne va pas le faire et nous passera devant.

Le capitalisme récompense la prise de risque, elle est maximisée avec l’IA et peut aboutir à un chômage massif ou à notre extinction. Récompenser la prise de risque favorise les catastrophes, c’est de de la bêtise pure et simple.