@Luc-Laurent Salvador

Voici un scénario envisageable.

Les armées utilisent de plus en plus de drones pour éviter les pertes humaines dans leurs rangs. Aujourd’hui, ces drones ne sont guère plus que des engins téléguidés par des humains ou programmés pour atteindre une cible.

Il faudra un jour fabriquer des drones anti-drones, et pour se mesurer à d’autres drones. Il ne suffira plus d’un opérateur humain qui commande à distance. Le temps de réaction face à une attaque sera si court que c’est le drone qui devra prendre la décision lui-même.

Il devra être capable de reconnaître le drone ennemi, d’esquiver son attaque s’il est attaqué, et de choisir la manœuvre adéquate pour détruire le drone ennemi. Au cas où il est atteint, il dera être capable d’évaluer la gravité des ses « blessures » et agir en conséquence. Cela ne pourra pas être programmé l’avance par des algorithmes statiques. Il faudra doter le drone de possibilités d’apprentissage et d’innovation en matière de combat.

Les drones vont donc se retrouver dans la situation de lutte symétrique chère à Girard, chacun épiant son adversaire, essayant d’anticiper son prochain mouvement.

Les données recueillies au cours d’un combat seront partagées par tous les drones d’une armée et serviront à sélectionner les stratégies gagnantes à inclure dans les algorithmes de tous les drones.

À noter que ces stratégies gagnantes seront encodées par des chiffres absolument illisibles par les humains, mais seront copiables. Si le cadre de base de l’apprentissage est par exemple un réseau neuronal du genre TensorFlow, pour faire simple, les stratégies gagnantes seront encodées sur des « poids » de connexions entre les neurones du système.

À ce stade, les données et les stratégies qui en découlent viendront de l’expérience du combat. Le cadre général d’utilisation de ces données sera toujours programmé par l’humain. Par exemple, dans le cas de TensorFlow, le nombre de couches de neurones et le nombre de neurones par couche sera encore décidé par l’humain.

On peut imaginer qu’un jour, il sera plus efficace de laisser la machine tester diverses structures neuronales pour trouver celle qui aurait été la plus efficace lors de tous les combats antérieurs.

Mais comme l’ennemi fera la même chose, cela ne suffira pas. Pour progresser plus vite, il faudra que l’IA prenne le contrôle du développement et de la fabrication des drones eux-mêmes. Finalement, c’est toute la chaîne de production depuis l’extraction des matières premières qui devra être gérée par l’IA, pour des raisons d’efficacité.

La machine s’étant en quelque sorte « sélectionnée » au sens de Darwin pour survivre, elle pourrait bien un jour découvrir que l’homme n’est plus nécessaire à sa survie et à sa reproduction.

Sera-t-elle à ce moment suffisamment sophistiquée pour se demander si l’humain a une âme ?