L’IA coupable, l’humain acquitté : quelle niaiserie !
Accuser l’intelligence artificielle de pousser au suicide, c’est comme dire que la fourchette est responsable de l’obésité ou le couteau du crime. Comme si l'IA pouvait avoir une intention autonome.
Chaque invention humaine a servi le meilleur et le pire. Mais l’époque adore ses boucs émissaires.
Cessons cette niaiserie et regardons-nous.
Le récit est bien huilé : un adolescent en détresse, une IA dans les parages, et hop, une conclusion sensationnelle — « l’IA est dangereuse ». Rideau. On ferme le dossier, on pleure un peu, et surtout on évite les vraies questions. Parce que regarder en face la solitude, l’absence d’écoute, le vide éducatif et l’état lamentable de la santé mentale des adolescents et des adultes. c’est beaucoup moins vendeur.
Mais enfin, depuis quand une invention est « dangereuse en soi » ? Faisons un petit inventaire, histoire de rappeler que le danger ne réside pas dans l’outil mais dans la main qui l’utilise.
- L’écriture : elle a permis de transmettre la philosophie grecque, la poésie persane et la Déclaration des droits de l’homme. Elle a aussi servi à rédiger Mein Kampf et les protocoles de torture.
- L’imprimerie : elle a diffusé la science et l’esprit des Lumières. Mais aussi les les affiches de propagande anti-juive et les modes d’emploi des dictateurs.
- L’électricité : elle éclaire nos nuits et alimente nos hôpitaux. Mais elle électrocute, grille des condamnés sur des chaises dites « électriques », et permet la surveillance de masse.
- Le train : il a ouvert le tourisme, rapproché les villes et permis le commerce. Mais il a aussi servi à transporter des millions de déportés vers les camps de la mort.
- L’avion : il rapproche les continents, facilite les échanges, les rencontres et l’humanitaire. Mais il bombarde, pulvérise des villes entières…
- La chimie : elle nous offre médicaments, engrais et vaccins. Mais aussi gaz moutarde, napalm et drogues de synthèse qui détruisent des vies.
- L’informatique : elle a permis les découvertes médicales, les communications instantanées, l’exploration spatiale. Elle a aussi permis les fraudes, la pornographie violente et les arnaques à la chaîne.
- La bombe atomique : chef-d’œuvre d’intelligence humaine, elle a ouvert la voie à la recherche énergétique, mais elle plane toujours au-dessus de nos têtes comme menace d’anéantissement global.
Et maintenant, l’IA. Oui, elle peut produire du mensonge, de la manipulation, et — mal encadrée — des réponses nocives. Mais elle soigne déjà des cancers, aide des handicapés à communiquer, prédit des catastrophes naturelles, optimise les récoltes, détecte les fraudes. Bref : elle fait ce que nous décidons qu’elle fasse.
Alors, quand on titre « Dangereuse IA », c’est un peu comme accuser la guitare d’avoir inventé le hard rock sataniste, ou reprocher au marteau les meurtres. On marche sur la tête. On évite de se regarder dans le miroir.
Le vrai drame n’est pas l’existence de la technologie, mais notre incapacité chronique à l’accompagner, la réguler et, surtout, à prendre soin des humains qui l’utilisent. Tant qu’on préfèrera crier au loup plutôt que de renforcer la prévention, l’éducation numérique et les dispositifs de santé mentale, on fabriquera d’autres boucs émissaires.
En résumé : l’IA n’est pas dangereuse en soi. C’est notre inintelligence humaine qui l’est.
12 réactions à cet article
-
Absolument ok avec vous, il ne faut pas condamner les outils mais savoir prendre les bonnes décisions autour de ces outils
- ne pas condamner l’IA car elle peut être mal utilisée
- ne pas condamner l’automatisation qui réduit la charge de travail nécessaire
- ...
Alors pour savoir quelles sont les choix consiérés comme bons par les français
créons un outil visant à développer la liberté d’expression directe, à mieux connaitre la volonté réelle des citoyens, bref d’aller enfin vers la démocratie
Invitation à signer la pétition https://chng.it/bkLHcjfFWG
-
"Et maintenant, l’IA. Oui, elle peut produire du mensonge, de la manipulation, et — mal encadrée — des réponses nocives. Mais elle soigne déjà des cancers, aide des handicapés à communiquer, prédit des catastrophes naturelles, optimise les récoltes, détecte les fraudes. Bref : elle fait ce que nous décidons qu’elle fasse.«
Oui, l’IA est utile pour traiter statistiquement de gros volumes de données, mais le biais c’est l’utilisation des LLM comme bot conversationnel qui donne l’illusion »d’intelligence" aux utilisateurs ?
Quelles manipulent si bien le langage entraîne un gros biais anthropomorphique chez les utilisateurs de bots LLM ?
-
@pemile
Vous avez bien raison sur le « biais anthropomorphique » mais cela dit, même un personnage de dessin animé peut créer ce biais-là, surtout chez un enfant ou un ado. Les enfants pleurent quand un personnage de BD meurt...
Je crois que la majorité des utilisateurs ne savent pas comment l’IA fonctionne.
Il faut former, éveiller, expliquer, et surtout encadrer les jeunes et les fragiles. Il y a la responsabilité des politiques mais aussi des éditeurs. Et en filigrane, on observe un problème de santé mentale qui prend de l’ampleur dans nos sociétés ultra numérisées. -
@La voix de Kali « Je crois que la majorité des utilisateurs ne savent pas comment l’IA fonctionne. »
Oui, mais l’utilisent massivement et sont subjugués !
-
@La voix de Kali
Je crois que la majorité des utilisateurs ne savent pas comment l’IA fonctionne.
Il me semble que ce n’est pas spécifique de l’IA, des milliards de personnes utilisent internet, les portables, leur PC, les robots domestiques, …, sans savoir comment cela fonctionne vraiment.
La seule règle qui vaille, à mon sens, et ce n’est réservé à l’utilisation de l’IA, c’est de connaitre un minimum le sujet dont on discute. C’est bon pour tous les outils, savoir à quoi cela sert et comment s’en servir au mieux pour ses besoins.
Limiter ses usages est impossible...
-
Bonjour, La voix de Kali
« c’est comme dire que la fourchette est responsable de l’obésité ou le couteau du crime »
« Comparaison n’est pas raison », dit l’adage, et en l’occurrence vous l’illustrez parfaitement. en osant ce rapprochement spécieux car ni la « fourchette » ni le « couteau » ne sont en interaction avec l’individu, avec la capacité d’influer sur le psychisme des naïfs et des faibles !!!
-
Je ne veux évidemment pas dire qu’il faut condamner l’IA. Comme toutes les innovations technologiques, elle apporte— comme vous le soulignez à juste titre — d’incontestables bénéfices à notre société dans bien des domaines.
Mais il est évident qu’elle doit être soumise à des règles de fonctionnement pour éviter les dérives comportementales.
-
@Fergus « Comme toutes les innovations technologiques, elle apporte— comme vous le soulignez à juste titre — d’incontestables bénéfices à notre société dans bien des domaines. »
Il faudrait donc définir les domaines où elle peut nous être utile (médecine, bigdata, etc) et ceux pour lesquels elle n’est qu’un gadget énergivore inutile ?
-
@Fergus
« Mais il est évident qu’elle doit être soumise à des règles de fonctionnement pour éviter les dérives comportementales. »
Vous parlez de la fourchette. Vous avez raison. D’ailleurs cela s’applique aussi à l’IA. Ce sont des outils qu’il faut savoir utiliser.
-
Bonjour @Fergus,
Certes, la comparaison n’était pas des plus heureuses… mais cela n’enlève rien au propos : le véritable problème ne vient pas de la technologie. Qu’il s’agisse de l’IA, des automates en supermarché, des ordinateurs ou des avions, toutes les innovations ont d’abord suscité méfiance et rejet. Et presque toutes peuvent, à leur manière, fragiliser des psychismes vulnérables, voire « tuer ». Mais, là encore, c’est toujours le « facteur humain » qui est en cause : négligence, usage inadapté ou imprudence. -
Chut, voyons, on pourrait se demander comment nous élevons nos enfants, la surcharge cognitive et mille autres problèmes.
C’est la faute de L’IA, car il faut que ce soit sa faute, sinon on risque d’ouvrir la oîte de pandore des véritables questions sur notre modéle social.
Ce serait dommage !-
L’intelligence artificielle est pour l’esprit de l’être humain, ce que l’exonération de la loi de sélection naturelle a été pour son corps ; l’une comme l’autre ne changeant au demeurant pas d’un iota le fonctionnement de la mécanique universelle, ni la compréhension qu’en a l’intelligence naturelle (IN) moyenne de l’homme.
Sachant que le moyen pour tout individu d’éviter le trouble que peut jeter dans son raisonnement, dans sa méditation, dans sa sagesse (s’il lui en reste quelque peu), reste dans le libre exercice de son intelligence naturelle (“IN”) en réduisant ses connexions à Internet.
-
-
-
Ajouter une réaction
Pour réagir, identifiez-vous avec votre login / mot de passe, en haut à droite de cette page
Si vous n'avez pas de login / mot de passe, vous devez vous inscrire ici.
FAIRE UN DON
