À Bari, ce 14 juin 2024, dans un long discours remis aux chefs d’État et de gouvernement venus participer au sommet du G7, le pape François alerte sur les dangers d’une intelligence artificielle (IA) non ordonnée vers le "bien commun". Pour le pape argentin, il est urgent que les dirigeants du monde passent à "l’action politique" pour encadrer cet "outil extrêmement puissant".
À 87 ans, François s’est déplacé en hélicoptère jusque dans les Pouilles pour remettre aux principaux dirigeants de la planète une réflexion dense sur l’IA. C’est Giorgia Meloni, la cheffe du gouvernement italien, qui a tenu à ce qu’il puisse porter à ce sommet international l’appel du Saint-Siège pour une éthique de l’IA. Entre deux sessions de courtes rencontres bilatérales – le pape a notamment rencontré les présidents Macron (France), Zelensky (Ukraine) ou bien Trudeau (Canada) -, il a pris la parole pour décomposer la mécanique de l’IA et tenter de convaincre les responsables de la nécessité d’agir.
Après avoir salué un à un les quelque 24 chefs d’États et de gouvernement – dont Joe Biden (États-Unis), Javier Milei (Argentine) ou bien Narendra Modi (Inde), le pape a pris place autour de la vaste table ovale entre Giorgia Meloni et Emmanuel Macron.
Un outil fascinant et redoutable
"L’IA [est] un outil fascinant et redoutable et qui appelle une réflexion à la hauteur de la situation", avertit le Pape dans la version longue de son discours remis aux participants. Soulignant qu’"il va de soi que les bienfaits ou les méfaits qu’elle apportera dépendront de son utilisation", il fait observer que l’apparition du "silex" a été utile à la vie quotidienne, mais qu’il a aussi été utilisé pour "s’entretuer". De même, la fusion nucléaire peut aussi bien produire de l’énergie que "réduire notre planète en un tas de cendres".
Or, l’IA est "encore plus complexe", prévient le Pape, puisqu’elle peut "faire des choix indépendants de l’être humain", en se basant notamment sur des "déductions statistiques". Pour lui, l’urgence est de s’entendre sur un principe : "Face aux prodiges des machines, qui semblent capables de choisir de manière autonome, nous devons être clairs sur le fait que la décision doit toujours être laissée à l’être humain […] La dignité humaine elle-même en dépend."
À l’heure où les ‘robots-tueurs’ deviennent réalité, le chef de l’Église catholique réclame l’interdiction des "armes autonomes létales" afin qu’aucune machine ne puisse "jamais choisir d’ôter la vie".
La Justice et l’Éducation menacées par l’IA
Dans le domaine de la justice, qui pourrait être bientôt envahi par les statistiques et les probabilités, le Pape décrit les programmes qui visent dès à présent à aider les magistrats pour décider de l’assignation à résidence des détenus purgeant une peine. "On demande à l’IA de pronostiquer la probabilité de récidive […] à partir de catégories prédéfinies : type de crime, comportement en prison, évaluation psychologique et autres", détaille-t-il.
Mais "l’être humain évolue en permanence et se montre capable de surprendre par ses actes", insiste le Pape, qui déplore qu’une telle méthode probabiliste puisse se développer. Et d’ajouter que les algorithmes sont parfois devenus tellement complexes "qu’il est difficile pour les programmateurs eux-mêmes de comprendre exactement comment ils réussissent à obtenir leurs résultats".
L’IA bouleverse aussi le monde de l’éducation, relève par ailleurs le Pape, qui rapporte les habitudes de ces étudiants qui utilisent des applications pour "composer un texte ou produire une image". Ils oublient, selon lui, que l’intelligence artificielle n’est "pas vraiment ‘générative’" mais ‘renforçatrice’, en ce sens qu’elle "réorganise des contenus existants, contribuant à les consolider, souvent sans vérifier s’ils contiennent des erreurs ou des idées préconçues". Et de pointer notamment du doigt le risque des fake news.
"La politique est nécessaire !"
Face à ce risque de voir le monde perdre "le sens profond" de la personne humaine, le pape François enjoint les dirigeants à réaliser "qu’aucune innovation n’est neutre". Reprenant les termes de son Appel de Rome pour une éthique de l’IA – texte de 2020 signé par des entreprises telles que IBM, Microsoft ou bien Cisco -, il appelle les responsables à agir pour donner un cadre éthique à l’IA.
"La politique est nécessaire !", martèle-t-il, afin qu’elle crée les conditions d’un usage de l’IA "possible et fécond". À la table du G7, le Pape est peu sorti de ses notes. Mais, levant la tête vers les chefs d’État et de gouvernement, il a toutefois insisté : "La politique est la forme la plus haute de la charité, la forme plus haute de l’amour."
