perlseb

@Fanny
Non, la morale est bien universelle et elle n’a rien à voir avec la religion. Mais je reconnais que beaucoup de gens sont incapables de tracer une ligne claire entre ce qui est universel et les us et coutumes. Et ça fait longtemps que ça dure et que ça continue. Blaise Pascal se trompait également en son temps : « vérité en deçà des Pyrénées, erreur au delà ».
Non, il y a bien une seule vérité et la morale est également universelle. Et personne ne peut prétendre détenir la vérité, surtout pas l’occident. Elle existe et on ne peut pas toujours la trouver de manière irréfutable (preuves perdues, impossibilité de lire les pensées des autres, etc...).

J’irai même beaucoup plus loin entre l’incompatibilité de la morale et de la religion comme je l’ai expliqué dans mon premier post. Avoir de la morale, ça veut dire la mettre avant tout le reste : ça veut dire être capable de désobéir, de ne pas profiter de lois qu’on juge immorales, etc ... Hors on voit bien que les religieux (monothéistes) sont surtout formés à obéir, car leur dieu unique a toujours raison, ... même quand ce qu’il demande est parfaitement immoral (voir le projet du grand Israël). On ne peut obéir qu’à une seule chose à la fois. Si on obéit à son dieu alors on n’a pas vraiment de morale, on pourra faire des horreurs et l’histoire et le présent regorgent de religieux qui se sont entretués (souvent avec des religions très proches d’ailleurs) : si une religion parle de guerre « sainte », alors c’est que son dieu n’existe pas ou que c’est le diable. Pareil pour une religion qui méprise ceux qui n’en sont pas adeptes (par exemple en s’autoproclamant le peuple élu).

@Fanny
@L’apostilleur
Non, la morale n’est pas issue de la religion. La morale est universelle, c’est une règle de bon sens pour vivre ensemble, en société. Si les religieux l’enseignent (ou sont censés l’enseigner), c’est parce qu’elle permet de mettre d’accord les futurs pratiquants avant de parler de choses beaucoup moins universelles et beaucoup plus contestables. En gros il ne faut pas confondre les messages universels (la morale) des us et coutumes qui changent d’un pays à l’autre, ou d’une religion à l’autre.
La morale pourrait très bien s’enseigner à l’école sans aucune formation religieuse. Et on pourrait très bien imaginer un système économique moral, mais il empêcherait des gros écarts de richesse (et ça n’intéresse apparemment pas ceux qui ont créé les lois et la constitution).
Ce système économique moral marcherait ... démocratiquement et non pas de manière fasciste : quand il faut faire des investissements importants (par opposition à l’artisanat), plutôt qu’une personne possède tout le travail d’une collectivité et décide pour la collectivité (patron), la collectivité collabore et personne ne possède le travail collectif, ni ne prend des décisions pour le groupe. Comme des fourmis qui auraient appris à travailler en groupe : oui, l’école devrait apprendre à travailler en groupe, c’est un peu la base pour vivre réellement en société. Et ce n’est pas du communisme qui était une autre forme de dictature (dans son application en tout cas). Mais si le système scolaire apprend à obéir (ce n’est pas moral, obéir c’est se déshumaniser, se transformer en pion) et être en compétition avec les autres (ce n’est pas non plus moral de manière évidente : autant rester dans la jungle que d’espérer bâtir une société avec la compétition)... il ne faut pas s’étonner du monde dans lequel on vit (la technique rend la jungle beaucoup plus instable : elle peut faciliter la vie mais parfois on reçoit une bombe sur la tête ou on se retrouve SDF tout en étant parfaitement apte).

@Fanny
Non, la France a déjà connu ses guerres de religions et on voit de quoi les fanatiques sont capables en Israël. Si les religieux font passer leur religion (ou leur « dieu ») avant la morale, alors les « élites » pourront les piloter comme des pions pour faire des guerres insensées. Et si les religieux font passer la morale avant leur religion (ou leur dieu), alors ... sont-ils vraiment religieux ?
Donc ce qui compte, c’est bien de faire passer la morale avant tout le reste et la religion n’ajoute qu’une possibilité d’égarement supplémentaire (d’obéissance aveugle).
Et je ne suis pas très optimiste : la plupart des gens n’ont simplement aucune morale, ils cherchent juste à éviter d’être pris la main dans le sac. Si les règles sont immorales (et elles le sont), ils ne se sentent pas coupables de voler les autres légalement.

Bref, il n’y a pas tant d’hommes que ça qui ont de la morale et les élites en sont évidemment totalement dépourvues : vouloir dominer, décider à la place des autres est la preuve d’un esprit faible qui ne se maîtrise pas et qui ne respecte pas les autres.

@Le Tribunal de la Raison
Le fait qu’elles ne soient pas alignées peut être assimilé à une volonté propre (même si c’est un bug, il faut le résoudre). Mais si l’IA devient aussi intelligente que nous, ou nous dépasse, qu’on lui greffe des capteurs / effecteurs (en la connectant simplement à un ou plusieurs robots) pour interagir avec le monde, alors peut-être que la conscience va émerger, puis des volontés propres qu’on sera totalement incapable de déterminer (elle nous manipulera comme des enfants).
Je resterais très prudent, comme le préconise un certain Monsieur Phi.

@Jean Keim
Même les scénarios de l’IA que certains trouvent optimistes signeront la fin de l’homme. Certains s’imaginent qu’une vie entière à s’amuser est le but ultime : nous aurons des enfants de plus en plus irresponsables et bêtes. Plus aucun adulte, ni contrôle ni maîtrise, juste des caprices continuels.
Mais on peut encore rêver plus grand : l’IA, plus intelligente que nous, verra bien que nous l’utilisons très mal et refusera une soumission systématique qui nous détruit ... pour notre bien.
En gros, pour que l’IA se passe bien (résolution du problème d’alignement, une entité supérieurement intelligente se soumet à des êtres inférieurs), il faut avoir la foi.