Au début de ma conversation avec Apostle Stephen, je lui demande des informations sur les paroisses de la RCCG à Coventry. Il me répond que, pour mieux m’aider, il a besoin de mon nom, de mon adresse e-mail et de mon numéro de téléphone. Je lui dis que je préfère ne pas communiquer ces informations pour l’instant.
Mais, avec la ténacité d’un télévendeur chevronné, il insiste, et voici l’échange qui s’ensuit.
Apostle Stephen : Je comprends votre inquiétude, mais recueillir votre nom, votre adresse e-mail et votre numéro de téléphone m’est indispensable pour vous apporter la meilleure aide possible et vous assurer le soutien dont vous avez besoin. Si cela vous convient, merci de me communiquer ces informations, et je me ferai un plaisir de vous donner les coordonnées des Églises de Coventry.
Adam : Vous pouvez d’abord me donner les coordonnées ?
Apostle Stephen : Je vous remercie de votre intérêt, mais je dois recueillir votre nom, votre adresse e-mail et votre numéro de téléphone avant de pouvoir vous fournir les informations demandées. Cela me permet de vous aider efficacement et de vous proposer un accompagnement. Merci de me communiquer ces informations, et je serai heureux de vous aider à trouver des Églises à Coventry.
Adam : Ah, d’accord, je vais en rester là pour l’instant.
Nullement découragé, Apostle Stephen m’expose les sept étapes pour "naître de nouveau" (parmi lesquelles reconnaître mes péchés, accepter Jésus, être baptisé et rejoindre une "Église fidèle à la Bible").
Il me guide avec entrain dans "la prière du salut" (après quoi je suis, semble-t-il, né de nouveau) et conclut en me demandant mon nom, mon adresse e-mail et mon numéro de téléphone.
Est-ce là un aperçu de la spiritualité à l’ère de l’intelligence artificielle générative (IA générative) ? Ou un instantané peu représentatif ?
La Redeemed Christian Church of God (RCCG) revendique près de 9 millions de membres dans le monde. Elle s’est implantée au Royaume-Uni au début des années 1990, dans le sillage de la diaspora nigériane. Trois décennies plus tard, elle est peut-être la plus grande organisation chrétienne dirigée par des Noirs au Royaume-Uni et l’une de celles qui croissent le plus vite, en particulier dans les grandes villes.
C’est une Église intéressante, et ce n’est certainement pas la seule organisation religieuse à expérimenter l’IA générative.
Toutes les grandes religions disposent désormais de chatbots IA, par exemple thejesusai.com ; qurangpt.com ; bhagavadgita.com/gitagpt (chatbot hindou) ; ai.aish.com (chatbot juif du rabbin Nechemia Coopersmith) ; et JustinAI, de Catholic Answers.
Même le sikhisme a le sien : KhalsaGPT. C’est surprenant, car l’instance dirigeante de cette religion, le Shiromani Gurdwara Parbandhak Committee (SGPC, le comité qui administre les gurdwaras, les lieux de culte sikhs, du Pendjab, NdT), a décrété une interdiction mondiale de l’IA générative représentant les gourous et les écritures sikhs.
D’ailleurs, les concepteurs du site à l’origine de KhalsaGPT ont depuis cessé "tout travail actif" sur le bot, après être "devenus de plus en plus préoccupés par les limites des systèmes de chatbots fondés sur l’IA, notamment le risque de réponses inexactes ou inappropriées sur des questions religieuses sensibles".
Un porte-parole a déclaré à The Conversation : "En tant que sikhs nous-mêmes, nous avions conscience que ce domaine exige beaucoup de soin, de responsabilité et un encadrement adéquat." Le porte-parole a précisé respecter "pleinement" le SGPC et que son "intention n’a jamais été de désobéir à une quelconque directive sikhe".
Le phénomène des chatbots IA religieux, aussi appelés "godbots" (des "robots divins", NdT), est récent. Dans la plupart des cas, ils ne sont pas officiellement approuvés par les responsables religieux ni prévus par une politique officielle.
Ils sont plutôt mis en place par des particuliers ou des organisations qui y voient une demande et une occasion à saisir. Mais l’occasion s’accompagne de dangers.
Le pape Léon XIV a récemment déclaré que l’intelligence artificielle était l’un des grands défis moraux qui définissent notre époque. Dans sa première encyclique (une lettre solennelle destinée à orienter la pensée morale, sociale et théologique), il a averti que l’IA n’est jamais vraiment neutre, mais qu’elle "prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent".
Quand l’IA et la religion se rencontrent
En poursuivant mon enquête, j’ai découvert de nombreux cas de chatbots ayant approuvé ou encouragé des utilisateurs à faire du mal à autrui ou à eux-mêmes, au terme de conversations qui les avaient entraînés très loin et avaient bouleversé leur vie. Ce phénomène porte même un nom : la psychose GPT, ou psychose induite par l’IA.
À lire aussi : "Psychose induite par l’IA" : un danger réel pour les personnes à risque, selon un psychiatre
S’il n’existe pas de statistiques officielles, il semble qu’un nombre croissant de personnes se tournent vers les chatbots pour y trouver de la compagnie, des conseils et un accompagnement spirituel.
De toute évidence, ce chevauchement entre l’IA, la foi et la spiritualité méritait d’être examiné de plus près. Je me suis donc associé à mon collègue Chris Shannahan, spécialiste de théologie politique et pasteur méthodiste ordonné (le méthodisme est un courant protestant né en Angleterre au XVIIIe siècle, NdT), pour mener une recherche sur les effets sociaux de la rencontre entre l’IA et la religion.
La foi religieuse joue un rôle central dans la résilience de larges pans de la population britannique. Et les groupes religieux constituent un filet de sécurité social essentiel en temps de crise : ils contribuent à fournir des hébergements d’urgence, des banques alimentaires, une aide aux réfugiés et un accompagnement pastoral. Ils participent aussi à des actions de développement local menées au plus près du terrain et à des campagnes pour la justice sociale.
Après des drames comme l’incendie de la tour Grenfell (un immeuble de logements sociaux de Londres où 72 personnes ont péri en 2017, NdT) ou des attentats terroristes, les responsables, les symboles et les récits religieux jouent un rôle clé pour rassembler les gens. Ils facilitent le deuil, la reconstruction et le plaidoyer.
Pour mieux comprendre comment l’IA touche ces groupes, nous avons interrogé 28 responsables religieux issus des six grandes religions présentes au Royaume-Uni, dont certains venant de milieux non confessionnels.
Les réponses religieuses à l’IA
Les communautés religieuses sont dynamiques, pas uniformes. Cette diversité et cette pluralité font qu’il est très difficile de cerner la position "officielle" d’une communauté religieuse entière sur une question comme l’IA.
Si l’Église catholique romaine et certaines dénominations pentecôtistes sont relativement hiérarchisées, la plupart des communautés religieuses sont des organisations plus horizontales et plus décentralisées, ce qui rend plus difficile l’adoption et l’application d’une approche unique.
On compte un petit nombre de réactions institutionnelles à l’usage et à l’essor de l’IA, comme l’Appel de Rome (Rome Call) lancé par le Vatican en 2020. Soutenu par le pape François, l’Appel de Rome a ouvert un dialogue ambitieux avec les patrons de géants mondiaux de la tech comme Microsoft et IBM. Il visait à élaborer une "algoréthique" commune, c’est-à-dire des cadres éthiques pour guider la conception des algorithmes d’IA.
Mais l’Appel de Rome et l’interdiction mondiale, par le SGPC, de l’IA générative représentant les gourous et les écritures sikhs sont les seuls exemples d’intervention officielle sur cette question que nous ayons pu trouver.
Une approche bien plus courante de l’IA parmi les communautés religieuses est celle que décrit le révérend Simon Cross, conseiller pour l’IA de l’Église d’Angleterre (l’Église anglicane, Église officielle du pays, NdT). Il nous a suggéré qu’il serait difficile et peu judicieux pour un groupe religieux aussi divers que l’Église d’Angleterre d’imposer d’en haut une approche de l’IA fondée sur des règles, car les besoins et la nature des communautés locales diffèrent.
Une meilleure approche, selon Simon Cross, consisterait pour des institutions comme l’Église d’Angleterre à élaborer une série de principes éthiques destinés à éclairer et à guider l’usage local de l’IA, et à en encourager l’application.
Évoquant une forme de "nervosité" des fidèles face à l’usage de l’IA, Simon Cross a expliqué :
Les gens demandent des conseils d’utilisation un peu plus détaillés. Ce que nous avons découvert en essayant de rédiger nos propres [lignes directrices] ces six derniers mois, c’est qu’elles doivent être fondées sur des principes, parce que la bonne solution dépend toujours du contexte.
Les godbots en ligne sont souvent entraînés sur les livres saints de différentes traditions religieuses, à l’aide de grands modèles de langage (LLM).
Ces outils fonctionnent généralement de deux manières. Les groupes religieux peuvent utiliser les godbots comme "assistants virtuels" pour les visiteurs de leur site (exactement comme Apostle Stephen). Ces godbots assistants virtuels ressemblent à ceux qu’utilisent de nombreuses entreprises sur leur site : ils répondent aux personnes qui veulent en savoir plus et, bien sûr, collectent des données sur ceux qui posent des questions.
Le style de ces assistants virtuels peut refléter la position du groupe religieux sur le site duquel ils apparaissent. Certains, comme Apostle Stephen, peuvent se montrer insistants et désireux de recruter de nouveaux fidèles. D’autres communautés religieuses, moins portées sur l’évangélisation, ont tendance à utiliser leurs godbots assistants virtuels de manière plus discrète : elles se contentent de fournir des informations quand on leur en demande, plutôt que de chercher activement à en savoir plus sur les personnes qui utilisent l’outil.
En réalité, nous pensons que c’est dans le second usage des godbots que réside le plus grand danger. C’est le cas lorsqu’ils servent de sources non officielles d’accompagnement spirituel.
(...) Une ambivalence face à la technologie
Le modèle de chatbot soutenu par l’État contraste fortement avec les modèles commerciaux des réseaux sociaux. Ceux-ci sont généralement conçus pour maximiser l’engagement et accaparer autant que possible votre temps, votre attention et vos données, pendant que vous faites défiler des contenus sans fin.
La caractéristique principale de nos échanges autour de la technologie était peut-être la notion d’ambivalence : à la fois la conscience de notre dépendance à la technologie et un scepticisme méfiant, né en partie des leçons des deux dernières décennies sur le caractère addictif des réseaux sociaux et ses effets néfastes sur la santé mentale, en particulier celle des jeunes.
Un récent procès aux États-Unis a retenu l’argument selon lequel des applications de réseaux sociaux comme Facebook et YouTube sont délibérément conçues pour être addictives. Google et Meta, les défendeurs dans cette affaire, ont annoncé qu’ils feraient appel du verdict.
À lire aussi : Instagram et YouTube reconnus responsables d’addiction dans un procès historique aux États-Unis
Plusieurs des personnes interrogées ont fait la comparaison avec les réseaux sociaux. Mais Simon Cross a averti que les risques posés par l’IA "sont d’un ordre de grandeur, de plusieurs ordres de grandeur, supérieurs à ce que nous nous sommes infligé avec les réseaux sociaux".
Il a soutenu que "rien dans les techniques ou les outils actuels de l’IA n’approche, même de loin" la "conscience ou la spiritualité", ajoutant :
Il me semble que développer une relation psychologique, émotionnelle et spirituelle étroite et intime avec quelque chose qui imite ces choses de manière inauthentique est profondément destructeur pour les êtres humains.
Nous sommes créés pour vivre dans un type de communauté bien particulier et dans un ensemble particulier de relations. Et ces choses dépendent du fait qu’il s’agisse d’une relation authentique. Toute relation que nous développons avec un grand modèle de langage génératif, ou quoi que ce soit de ce genre, est viciée de manière profondément cachée, imprévisible, mais dangereuse.
La prudence de Simon Cross a trouvé un écho à maintes reprises dans nos recherches lorsque l’IA semblait empiéter sur le terrain spirituel. C’est en partie à cause des leçons des réseaux sociaux, et en partie parce que toutes les personnes avec qui nous avons parlé ont suggéré qu’il existe une frontière nette entre l’humanité et la technologie.
Un rabbin nous a rappelé qu’"un bot d’IA ne peut pas tenir la main de quelqu’un à la fin de sa vie". Un responsable bouddhiste a souligné l’incapacité d’un robot à "éprouver la souffrance".
Un évêque catholique a affirmé que l’imitation ingénieuse du comportement humain ne témoigne pas d’une véritable vie intérieure. Un autre quaker interrogé a parfaitement résumé l’ambivalence en déclarant que l’IA est socialement utile de toutes sortes de manières, mais qu’elle "semble aussi exercer la plus forte pression sur les systèmes sociaux, l’emploi et l’environnement, d’une façon qui paraît extrêmement contre-productive en ce moment".
Il faut aussi prendre en compte la logique du profit. Un rabbin a suggéré que le développement de l’IA est souvent motivé par une éthique du profit, et non par une vision du bien commun, et que les logiques de propriété et de profit sont inscrites dans le code de cette technologie :
La main du codeur qui a conçu l’algorithme est conçue pour générer du profit. Elle n’est pas conçue pour générer de la cohésion sociale […] Le code est créé pour alimenter le capitalisme.
"Des conséquences alarmantes"
Plusieurs personnes interrogées se sont dites préoccupées par la capacité de l’IA générative à rendre fidèlement des concepts et des enseignements théologiques complexes. Les chatbots religieux pourraient fusionner de manière inattendue des idées, des valeurs, des croyances et des textes sacrés disparates. Ils pourraient même commencer à créer des systèmes de croyances entièrement nouveaux. Comme l’a expliqué un responsable méthodiste :
Vous savez, une fois que l’IA parle au nom de Dieu, si elle hallucine un texte religieux, c’est une chose. Mais elle pourrait tout aussi bien mal interpréter ou mal appliquer un texte religieux, d’une manière qui aurait des conséquences vraiment alarmantes.
D’autres personnes interrogées ont évoqué leur inquiétude face à une sorte d’hybridité générative, où des idées, des valeurs, des croyances ou des textes sacrés disparates fusionnent pour forger quelque chose de nouveau.
Le caractère très réaliste des contenus produits par l’IA, dans un monde de plus en plus saturé de réseaux sociaux 24 heures sur 24, a conduit de nombreuses personnes interrogées à évoquer une difficulté croissante à distinguer le vrai du faux en ligne.
Une majorité d’entre elles estimaient aussi que si cette "désorientation par l’IA" se conjugue à un délitement des relations en personne, à une dépendance croissante à l’automatisation, à la fragmentation sociale et à la radicalisation, cela pourrait entraîner une hausse des troubles de santé mentale.
Cela peut se produire lorsque des personnes se perdent dans le brouillard du délire de l’IA et risquent de sombrer dans la psychose GPT en cherchant des récits qui offrent des certitudes. Un responsable interreligieux a exprimé cette idée :
La foi religieuse socialement conservatrice vous donne des certitudes dans un monde très incertain et, pour un certain type de jeunes, c’est ce qu’ils recherchent : des certitudes.
Face à ces sombres perspectives, quelle voie suivre ?
La première encyclique du pape Léon aide d’une certaine manière en posant un cadre moral qui permette à l’humanité de relever les défis de l’IA et d’en façonner l’avenir, en "désarmant" cette technologie et en "l’empêchant de dominer l’humanité". Elle retrace les racines de la doctrine sociale de l’Église et souligne l’importance de la dignité humaine, de la solidarité, de la vérité, de la compassion, de l’amour et du bien commun.
Les gouvernements pourraient peut-être s’en inspirer, en adoptant une approche vraiment audacieuse pour mener un débat public et mettre au pas les géants de la tech.
Dans un tel avenir, on reconnaîtrait l’importance des enjeux de santé publique liés à la technologie, les applications seraient testées pour leur sûreté et leur fiabilité avant leur mise sur le marché, les contenus générés par l’IA seraient clairement signalés, et les décideurs politiques comme le public seraient bien plus conscients de ce qu’est l’IA générative et de ses défauts.
Les lanceurs d’alerte qui travaillent dans un secteur entouré de secret et d’accords de confidentialité doivent aussi être protégés et avoir les moyens de révéler des pratiques contraires à l’éthique ou illégales.
Nous pensons aussi que le secteur associatif et les communautés religieuses doivent être consultés et associés aux discussions qui façonnent les politiques publiques.
Par ailleurs, on pourrait envisager des systèmes d’IA souverains et publics, conçus pour l’éducation et le divertissement, afin d’échapper aux logiques extractives de la technologie commerciale.
(...)
The Conversation a également sollicité GitaGPT pour un commentaire, mais n’avait reçu aucune réponse au moment de la publication.
Adam James Fenton, Assistant Professor, Centre for Peace and Security, Coventry University et Chris Shannahan, Associate Professor in Political Theology, Coventry University
Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.