ndlr : une alerte sincère ou l’annonce de ce qui est déjà inéluctable ?

Yuval Noah Harari met en garde contre l’intelligence artificielle

L’historien et philosophe explique que l’IA pourrait créer des textes religieux et de nouveaux cultes, attirant des fidèles déjà prêts à tuer pour la religion.

Yuval Noah Harari s’exprimant lors d’une manifestation contre le projet de réforme judiciaire du gouvernement israélien, à Tel Aviv, le 4 mars 2023. (Crédit : Tomer Neuberg/Flash90)

L’historien, philosophe israélien – qui est aussi auteur prolifique – Yuval Noah Harari a averti que l’intelligence artificielle était dorénavant capable de créer ses propres textes religieux, et qu’elle serait en mesure d’attirer des fidèles.

Harari a déclaré devant l’assistance de l’AI Frontiers Forum, en Suisse, que les ordinateurs pourraient, à un moment ou à un autre, donner pour instruction aux fidèles de tuer.

« Dans l’avenir, nous pourrions assister à l’apparition des premiers cultes et des premières religions de l’Histoire dont les textes fondateurs, vénérés, seraient écrits par une intelligence non-humaine », a dit Harari, des propos qui ont été rapportés mardi par le Daily Mail, un journal britannique.

« Bien sûr, les religions à travers l’Histoire ont toujours affirmé que leurs textes sacrés avaient été écrits par une intelligence humaine inconnue. Cela n’avait jamais été vrai auparavant. Et cela pourrait le devenir très, très rapidement avec des conséquences énormes », a-t-il ajouté.

Harari a indiqué qu’un logiciel comme Chat GPPT maîtrisait le langage humain et qu’il pouvait utiliser ses compétences pour mouler une nouvelle culture.

« Pendant des milliers d’années, les prophètes, les poètes et les politiciens ont utilisé le langage et la narration pour manipuler et pour contrôler les peuples, pour refaçonner les sociétés », a-t-il fait remarquer. « Et aujourd’hui, l’IA est probablement en capacité de le faire. Et une fois qu’elle pourra le faire… elle n’aura pas besoin d’utiliser des robots pour tuer. Elle pourra amener des êtres humains à appuyer sur la gâchette ».

« Contrairement à ce que laissent entendre certaines théories du complot, pas besoin d’implanter des puces dans les cerveaux pour les contrôler ou pour les manipuler », a-t-il poursuivi.

Harari, l’auteur du livre best-seller Sapiens, a vivement recommandé, comme d’autres ont pu récemment le faire, de réguler l’intelligence artificielle.

« Nous devons passer rapidement à l’acte avant que l’intelligence artificielle n’échappe à notre contrôle », a-t-il mis en garde. « Les compagnies pharmaceutiques ne peuvent pas vendre de nouveaux médicaments sans soumettre ces produits à des contrôles rigoureux de sécurité ».

« De manière similaire, les gouvernements doivent immédiatement interdire la diffusion, dans le domaine public, de nouveaux outils révolutionnaires d’intelligence artificielle avant qu’ils ne soient rendus totalement sûrs », a-t-il noté.

Un groupe ultra-orthodoxe hassidique a récemment interdit l’utilisation de l’intelligence artificielle. La mouvance Skver, à New York, a averti ses fidèles que l’IA était « ouverte à toutes les abominations, à toutes les hérésies et à l’infidélité, sans aucune limite ».

*************************************************************************************************************************

Le mouvement hassidique Skver interdit l’utilisation de l’intelligence artificielle

La communauté basée à New York affirme que les chatbots IA et ChatGPT en particulier sont ouverts à des abominations illimitées

Par Jackie Hajdenberg 2 mai 2023, 16:13

Le logo OpenAI est visible sur un téléphone portable devant un écran d’ordinateur affichant l’écran d’accueil ChatGPT, à Boston, le 17 mars 2023. (Crédit : Michael Dwyer/AP)

JTA – Dans une déclaration publiée jeudi et soulignant le danger de « l’Internet ouvert sans aucun filtre », plus d’une dizaine de rabbins du mouvement hassidique Skver ont interdit l’utilisation de l’intelligence artificielle, citant spécifiquement la société de technologie OpenAI.

Certaines autorités haredi, ou ultra-orthodoxes, ont part le passé régulièrement interdit ou restreint l’utilisation par leurs fidèles des technologies numériques de pointe.

Depuis des années, des rabbins haredim mettent en garde leurs communautés envers les dangers moraux associés à l’utilisation d’Internet, et certains leur ont demandé de placer des filtres sur leurs téléphones et autres appareils pour interdire l’accès à une large partie d’Internet.

Recevez gratuitement notre édition quotidienne par mail pour ne rien manquer du meilleur de l’info Inscription gratuite !

Aujourd’hui, les rabbins de la communauté Skver adoptent une approche similaire envers ChatGPT d’OpenAI et d’autres outils de l’univers des chatbots d’IA et des générateurs d’images.

Cela témoigne clairement de leurs préoccupations concernant les risques engendrés par les capacités de l’intelligence artificielle et sa capacité à remodeler la société.

Les signataires de la lettre en hébreu ont écrit que l’IA était « la porte ouverte à toutes les abominations, hérésies et infidélités sans limites ». Ils ont cité des textes bibliques et des décisions de rabbins pour justifier cette interdiction.

« Il est possible qu’à ce stade, tout le monde ne soit pas conscient de l’ampleur et de la portée du danger, mais il est clair pour nous, dans le tréfonds de notre âme, que c’est un piège pour nous tous, jeunes et vieux », indique la lettre.

« Par conséquent, l’utilisation de » l’IA « est strictement interdite sous quelque forme que ce soit, même par téléphone. »

La communauté Skver est basée à New Square, dans l’Etat de New York, et est considérée comme particulièrement conservatrice.

D’autres groupes orthodoxes, en particulier le mouvement hassidique Habad-Loubavitch, ont, eux, adopté les nouvelles technologies. New Square, un village du comté de Rockland, dans l’État de New York, abrite le groupe hassidique Skverer. (Crédit : Uriel Heilman/JTA)

De nombreux membres des communautés hassidiques qui utilisent Internet sont censés le faire avec des filtres dits « casher » qui bloquent les contenus considérés comme inappropriés, tels que la pornographie, les sites de jeux d’argent ou, dans certains cas, un éventail beaucoup plus large de contenus qui pourraient éloigner les utilisateurs de leur stricte observance religieuse.

En juin dernier, deux rassemblements massifs destinés aux femmes hassidiques les ont invitées à supprimer leurs profils de réseaux sociaux et abandonner leurs smartphones, pour accéder à Internet via un filtre lorsque cela s’avérait absolument nécessaire.

Ces rassemblements, critiqués comme étant une entrave aux opportunités financières et à l’accès des femmes à l’information, se sont produits une dizaine d’années après qu’environ 40 000 hommes, essentiellement haredi, ont assisté à un rassemblement similaire au Citi Field pour mettre en garde contre les dangers d’un accès sans entrave à Internet.