@jakem ( suite 1 ) : Le cynisme n’est donc pas une bonne idée. La réalité, c’est que plus ces outils vont devenir performants, plus il va falloir qu’on soit intelligents pour interagir avec eux. Autrement dit, si l’on refuse de transférer aux IA le contrôle de nos vies, alors, il faut que nous restions capables d’assimiler et de traiter ce qu’elles racontent. Concrètement, si vous demandez à une IA de vous expliquer la répression des Ouïgours, elle va faire appel à un vocabulaire et des connaissances précises qu’il faudra maîtriser pour comprendre la réponse et, le cas échéant, identifier de possibles biais ou erreurs. On oublie trop souvent que ces outils peuvent se tromper et ne sont pas neutres idéologiquement. Deux IA, chinoise et américaine, ne vous donneront pas forcément les mêmes réponses. Les données Pisa montrent que l’indice le plus fiable de la littératie numérique des adolescents, c’est-à-dire de leur capacité à comprendre ce qu’ils lisent sur internet, dépend principalement de leur aptitude à lire des textes longs et complexes.
Mes petites contrariétés ne sont rien par rapport aux dangers évoqués par Michel DESMURGET, docteur en neurosciences et directeur de recherche à l’Inserm. Il a publié La fabrique du crétin digital. ( Le Figaro, ce jour ; copié-collé en pls parties )
------------------------—
1—Cette semaine, deux informations ont fait la une : la dégringolade du niveau des élèves de l’OCDE, notamment à cause des écrans ; et l’inquiétude de certains géants de la tech concernant l’IA qui risque de nous dépasser. N’y a-t-il pas un paradoxe à façonner une technologie superpuissante tout en acceptant tacitement que l’intelligence mondiale collective se dessèche ?
M.D. : D’un point de vue cynique, il faudrait appeler à développer une intelligence artificielle plus performante encore, pour compenser l’affaissement de notre intelligence humaine. Le serpent se mord la queue : plus ces intelligences sont efficaces, plus il est tentant de s’appuyer sur elles pour réfléchir à notre place, au risque d’aggraver encore notre dépendance. Il faut alors nous demander si nous sommes prêts à remettre à ces outils les clés de notre humanité. Sommes-nous prêts à les laisser penser, agir et décider à notre place ; ce qui au-delà de l’éthique et de la morale ne serait pas sans risque ? Si l’on demande, par exemple, à une IA de garder une maison propre, elle pourrait considérer que le mieux c’est de supprimer les humains, car ils sont à l’origine des saletés.