Discours de Milena Santerini

L’utilisation des technologies que nous appelons “Intelligence Artificielle” peut aider à résoudre des problèmes complexes. Parmi eux on peut citer : réduire la pollution, faciliter la recherche scientifique par l’analyse de millions de données, traduire différentes langues pour nous permettre de communiquer. Pourtant, l’intelligence artificielle peut aussi créer les conditions favorables au développement de phénomènes nuisibles : l’exploitation des travailleurs, la manipulation d’élections politiques, l’invention de conspirations et de complots, de “théories” comme celle de la Terre plate ou des Reptiliens qui domineraient le monde.

Il ne s’agit pas d’être pour ou contre l’intelligence artificielle. Ou de choisir son camp: celui des techno–enthousiastes ou celui des techno–critiques. Mais plutôt de nous demander comment résoudre une ambivalence que nous n’avons pas réussi à résoudre depuis que nous nous utilisons Internet. En effet, Internet est un instrument extraordinaire. Il permet la connexion et l’ouverture. Il permet d’être ensemble et en même temps seuls. Il construit des réseaux et permet de communiquer. Mais il alimente aussi les souverainismes et les racismes. Il offre un support à l’expression de la haine en ligne. 

L’intelligence artificielle contribue à amplifier ces phénomènes de haine en ligne. La haine a toujours existé dans le monde. Depuis Caïn et Abel, l’histoire humaine est pleine de guerres et de furie destructrice. Aux yeux de nombreuses personnes, l’intelligence artificielle et ses outils ne peuvent être accusée d’avoir inventé les discours de haine, le hate speech. Certes, la violence et la guerre n’ont pas été inventées par l’Internet.

Mais il faut admettre que le réseau numérique - et surtout le système des réseaux sociaux à partir des années 2000 - ne sont pas neutres. Comme l’a écrit le Pape François, « les algorithmes ne sont pas neutres »; ils constituent un habitat favorable, un milieu idéal pour créer et intensifier l’hostilité entre les êtres humains.

Selon l’Unicef, un jeune sur trois est victime de cyberharcèlement. Les filles comme les garçons en sont les cibles.

Or les technologies que nous appelons “Intelligence Artificielle“ exploitent nos mécanismes psychologiques et provoquent de profonds changements culturels collectifs. Les algorithmes - contrôlés par des entreprises privées - influencent les relations sociales dans l’expérience quotidienne. Elles façonnent notre “inconscient numérique”. Ces algorithmes peuvent répandre de fausses nouvelles et ils peuvent déformer la réalité à travers le prisme du conflit entre tribus, en nous poussant à l’extrémisme et à la polarisation: NOUS contre EUX, désigné comme l’”ennemi”.

Récemment, certains ont réussi à contourner les filtres de sécurité de ChatGPT et Google Bard pour obtenir, dans le dialogue à travers la chat, des réponses manipulées concernant l’Ukraine ou l’Holocauste.

Comme l’affirme Jurgen Habermas, quand le débat dans la sphère publique n’est pas filtré pour en préserver la qualité, mais ne répond qu’à une logique commerciale, la démocratie est compromise. On peut même parler d’”algocratie”.

Les algorithmes de l’AI doivent défendre - et non pas corroder - la dignité et les droits de chaque être humain. Autrement, ils créeront ce qu’on a appelé “la machine du chaos”. C’est là une référence au message du Pape François pour la “Journée de la paix 2024” ou à son discours au G7 de juin dernier.

 

 

Le document "Rome Call for AI Ethics", diffusé en février 2020 par l’Académie pontificale pour la Vie à l’initiative de Monseigneur Vincenzo Paglia, est un appel lancé pour que l’intelligence artificielle soit développée dans le respect de la dignité humaine et pour qu’elle promeuve le bien commun. Parmi les principes clés du document, on trouve: la transparence, l’inclusion, la responsabilité, l’impartialité, la fiabilité et la sécurité, sur la base de l’”algoréthique”.

Cette initiative a obtenu le soutien des leaders du secteur et des représentants de différentes religions, incarnant une approche œcuménique et interreligieuse des questions éthiques.

Le problème réside dans le fait que ces nouveaux moyens technologiques exploitent l’inépuisable capacité humaine d’accomplir le mal.

Par définition, l’Intelligence Artificielle se fonde sur des calculs statistiques, de probabilité, et ignore le sens de ce que nous lisons ou écrivons. C’est pour cette raison qu’elle peut favoriser le discours de haine, qui ne fait pas appel à la compréhension, mais qui est une arme pour frapper les autres.

2 Il n’est pas facile de définir la haine. Elle se présente comme un spectre d’émotions, d’attitudes et de comportements. C’est un sentiment total qui fait s’opposer les gens les uns aux autres, non pas sur la base de ce qu’ils font mais plutôt pour ce qu’ils sont, même pour ce qu’ils font de bon. Il faut donc se demander quels mécanismes de la communication en ligne peuvent la favoriser. J’en citerai trois : l’instantanéité, la diffusion, l’anonymat.

 

1.    L’instantanéité du web favorise les réactions rapides, sans réflexion… (et que l’on regrette souvent). C’est le « système 2 » de notre psyché qui, comme le disent les neurosciences, obéit à des réactions instinctives, nées - du point de vue évolutif - pour défendre l’espèce et réagir rapidement devant un danger. Malheureusement, aujourd’hui, l’humanité est encore la proie d’instincts et de réactions peu contrôlés qui se transmettent rapidement dans le web.

2.    La haine est contagieuse et la facilité de diffusion sur le net la rend virale, en la transformant très facilement en phénomène de groupe. Dans le marché des émotions, c’est un agent contaminant. Ceux qui n’appartiennent pas à notre religion, à notre ethnie ou à notre nation sont immédiatement catégorisés (« eux » contre « nous »).

 

 

En mai dernier, quelqu’un a diffusé 61 posts payants de désinformation contre les « ennemis » du parti politique opposé. Ces 61 posts ont été visualisés par un million quatre-cent milles Italiens. 100 posts ont été lus par huit-cent milles français et en Allemagne avec 75 posts, on a rejoint un demi-million d’Allemands.

 

3.    On propage des insultes, des propos diffamatoires, des préjugés à travers les réseaux sociaux, en croyant rester anonymes. L’écran élimine l’empathie naturelle que nous éprouvons quand nous voyons notre semblable face à face, avec son visage et ses émotions qui sont pareilles aux nôtres. Notre corps « sent » l’autre, le reconnaît. Nous nous reflétons les uns dans les autres.

Ce qui détruit l’empathie humaine naturelle, ce sont les stratégies de groupes organisés qui stigmatisent. Ils minent la solidarité et la proximité envers ceux dont ils sont des “ennemis”, des “étrangers”. Mais qui a intérêt à répandre l’hostilité ? Les algorithmes qui gouvernent la haine font gagner beaucoup d’argent aux grandes plateformes numériques, vu que tout le système de l’échange en ligne, apparemment gratuit, se fonde sur de massives insertions publicitaires.

Tout ce qui comporte une intensité émotive capture l’attention et déplace les utilisateurs en les poussant à cliquer sur certaines pages. La haine paie et elle sert aussi à des manipulateurs, des idéologues ou des politiques qui exploitent de manière rationnelle les potentialités du web pour répandre des fausses nouvelles et pour construire le consensus le plus facile à obtenir : celui contre « eux », contre l’ « ennemi ». Un “ennemi”’qui est souvent le réfugié, le sans-domicile-fixe, le gitan, la femme. Tout le monde ne sait peut-être pas quD, l’an dernier, certaines entreprise de la “big tech” ont réduit de moitié leurs contre-mesures destinées à limiter la diffusion des contenus relevant du hate speech. 

 

Les religions sont généralement parmi les plus impactées par le discours de haine.

La foi religieuse se situe à la deuxième place (après les motifs ethniques) parmi les facteurs de discriminations les plus fréquents. Le hate speech vise les personnes et incite à des attaques contre des synagogues, des mosquées, des églises, d’autres lieux de culte ou des cimetières. L’algorithme des plateformes en ligne peut être utilisé pour amplifier l’incitation à la haine, la radicalisation et l’extrémisme. Récemment, à travers le réseau X/Twitter, la haine raciste contre les immigrés a circulé en Grande Bretagne.

Je ferai trois exemples :

L’antisémitisme en ligne est en forte hausse, notamment depuis l’attaque terroriste du 7 octobre du Hamas et le début de la guerre à Gaza. En France, l’antisémitisme a augmenté de mille pour cent au cours des trois mois suivants. En Allemagne, il a presque doublé. En Italie, il a triplé. Il y a une tendance à légitimer l’antisémitisme – qui semblait diminuer après la Shoah – dans ses formes les plus variées ; l’antijudaïsme traditionnel d’origine chrétienne, c’est-à-dire l’hostilité envers le « juif déicide »; la haine contre le « juif de race inférieure », typique du nazisme/fascisme; ou encore la « judéophobie », qui dérive de l’amalgame polémique entre « hébreu », « israélien » et « sioniste ». En ligne circulent des images de “complots” où l’on voit des images de juifs diffusant le virus du Covid-19. Des images qui font écho aux accusations antisemites du Moyen-Age où certains répandaient le bruit qu’ils auraient empoisonné les puits pour répandre la peste. Le web multiplie à l’infini les images qui déshumanisent les minorités en les comparant à des animaux : des rats, des araignées, des serpents.

-       La discrimination et l’hostilité envers les musulmans ont grandi depuis le 11 septembre 2001, du moins de 16% en 2022 (Council on American-Islamic Relations). Les communautés musulmanes sont victimes d’une rhétorique qui les associe au terrorisme et à l’extrémisme. Les musulmans sont fréquemment représentés comme un groupe monolithique, dont la religion et la culture (notamment à propos des femmes) sont incompatibles avec les concepts de droits de l’homme et de la démocratie.

-       En plusieurs Etats asiatiques et africains, les attentats contre les églises et les assassinats des chrétiens sont diffuses et préparés en ligne. En 2023, à partir d’une recherche sur le réseau Telegram en Italie, nous avons repéré 92 canaux qui partageaient des contenus de haine antichrétienne et complotiste, ainsi que différents profils qui décrivent le Pape comme un hérétique. Des publications caractérisées par la dérision et le mépris.

 

Il est possible d’agir contre le discours de haine en ligne, le hate speech. Les politiques de l’Union Européenne pour limiter le discours de haine doivent être soutenues. L’Intelligence Artificielle elle-même peut être utilisée pour dialoguer avec qui croit aux “complots”, et on a relevé qu’elle arrive à convaincre 20% de ceux qui croient, par exemple, que l’atterrissage sur la Lune n’a jamais eu lieu. L’Intelligence Artificielle peut créer des contre-narrations pour s’opposer à la haine, non pas à travers la censure, mais plutôt en favorisant la réflexion. Nous tous nous pouvons agir!

Chaque communauté religieuse doit s’engager pour combattre les crimes contre les autres groupes religieux, pas seulement contre elle-même. Aujourd’hui, la haine frappe un groupe ou l’autre - tel un bouc émissaire - mais si nous sommes tous unis, nous pourrons défendre les personnes touchées. Le fait que la haine soit dirigée vers d’ « autres » ne doit pas nous consoler, parce qu’elle peut se tourner contre nous à n’importe quel moment.

Nous devrions mettre en connexion nos réseaux sociaux dans le domaine religieux et social pour multiplier une “contre-narration de paix”. Invitons tous les jeunes présents ici à utiliser les réseaux sociaux pour changer les discours hostiles.

L’engagement qui nous attend est celui d’imaginer la paix dans un monde de plus en plus fragmenté et divisé.

Merci