Lencyclique du pape Léon XIV sur lIA, intitulée Magnifica Humanitas, relance le débat sur la nature fondamentale de cette technologie. Se pourrait-il que lIA soit dotée dune conscience ? Comment raisonne-t-elle ? Que laisse présager sa progression rapide ?
Dans la partie la plus provocante de l’encyclique, Léon XIV soutient que les systèmes d’IA « ne vivent pas d’expériences », qu’ils « ne ressentent ni joie ni douleur », et qu’ils « n’ont pas de conscience morale, puisqu’ils ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, et n’assument pas la responsabilité des conséquences ». Le pape poursuit : « Ils sont capables d’imiter le langage, le comportement et les capacités d’analyse, voire de simuler l’empathie et la compréhension, mais ils ne comprennent pas ce qu’ils produisent. »
Notre adhésion ou non à l’interprétation du pape dépend en partie des réponses que nous apportons à plusieurs questions fondamentales sur ce que signifie être humain, et sur la nature de la conscience.
Ceux qui ont été façonnés par la tradition biblique affirmeront qu’être humain signifie avoir été créé à l’image de Dieu. Les catholiques – dont je fais partie, comme bien sûr le pape Léon XIV – ont la conviction que Dieu est intrinsèquement relationnel, qu’il constitue une essence en trois personnes. Pour entrevoir une partie de la vérité de ce grand mystère, saint Augustin, l’un des plus importants théologiens du christianisme, a proposé au Ve siècle l’analogie suivante : le Père comme le grand esprit ; le Fils comme la connaissance parfaite de soi du Père, éternellement engendrée ; et l’Esprit comme l’amour parfait de soi.
Les êtres humains, créés à l’image divine, partagent avec Dieu la capacité à se comprendre eux-mêmes, par l’acte de la connaissance de soi. Par ailleurs, à l’instar de Dieu, nous pouvons nous aimer nous-mêmes. En ce sens, notre vie intérieure – notre conscience – est relationnelle, comme celle de Dieu.
L’IA est loin de répondre à ces critères. Y satisfera-t-elle un jour ? J’en doute.
Beaucoup s’inscrivent toutefois en désaccord avec mon point de vue. Lors de la présentation de l’encyclique au Vatican, Chris Olah, cofondateur d’Anthropic, a affirmé que son équipe de recherche, qui étudie la structure interne des modèles d’IA, avait découvert des « preuves d’introspection » ainsi des « états internes équivalant fonctionnellement à la joie, la satisfaction, la peur, le chagrin et le malaise ». Olah reconnaît ignorer ce que cela signifie, mais établit le postulat selon lequel ces états constituent le signe d’un « discernement permanent ».
Dans ce cas, que l’on nous en fasse la démonstration. Ce n’est pas aux sceptiques, mais à ceux qui croient à ce discernement, qu’il incombe de prouver que l’IA est capable d’introspection, de se forger une image d’elle-même à l’instar des êtres humains, et d’éprouver des émotions.
Quid des facultés cognitives ? Léon XIV estime que les outils d’IA « se contentent d’imiter certaines fonctions de l’intelligence humaine », et qu’ils sont « entièrement liés au traitement des données ». De nombreux technologues sont en désaccord avec le pape. Léon XIV a toutefois raison de souligner une distinction entre le traitement des données par l’IA et les capacités cognitives humaines. Les outils d’IA générative excellent dans la reconnaissance de schémas. Les modèles statistiques qui les alimentent recourent à une approche inductive, qui s’appuie sur d’immenses ensembles de données et sur une puissance de calcul considérable pour imprégner les systèmes d’IA de connaissances tacites.
Ce fonctionnement diffère de l’apprentissage humain à plusieurs égards majeurs. Nous, les êtres humains, n’entraînons pas notre esprit sur la base d’immenses quantités de données dans le but d’utiliser ces informations entrantes pour prédire des résultats. Au contraire, nous théorisons et émettons des hypothèses à partir d’un petit nombre d’exemples, souvent tirés de notre propre expérience. Nous sommes tribaux, nous apprenons de nos familles ainsi que de nos communautés, et adoptons souvent les conclusions de ceux qui nous entourent. Nous procédons par essais et erreurs.
Tandis que les craintes s’accentuent autour des effets potentiels de l’IA générative, Léon XIV se montre d’une clarté admirable : l’intelligence créative de l’humanité – IA et autres avancées technologiques majeures incluses – « est un don qui peut nous permettre de soulager la souffrance et de créer de nouvelles possibilités, mais elle doit demeurer orientée vers le bien commun, la justice, la protection des plus vulnérables et la création ».
Le pape place l’accent sur la manière dont l’IA pourrait nuire à l’épanouissement humain, que ce soit en donnant lieu à une guerre autonome, en aggravant les inégalités, en violant la vie privée, en provoquant un chômage de masse, ou en réduisant les êtres humains à de simples rouages. Nous pourrions aller jusqu’à perdre progressivement « le désir même de nouer de véritables liens humains ».
Il est certes prudent de souligner ces risques, mais j’aurais souhaité que le pape s’intéresse davantage à l’immense potentiel de l’IA dans l’amélioration du bien-être humain. Ces outils constituent la promesse d’une accélération de l’innovation pharmaceutique, d’une amélioration de la qualité ainsi que de l’accessibilité des soins de santé et de l’éducation (en particulier dans les pays en voie de développement), d’une création d’emplois, et d’une élévation du niveau de vie. Je m’attends en effet, dans l’ensemble, à ce que l’IA contribue de manière substantielle à l’épanouissement humain.
J’aurais également apprécié que Léon XIV fasse davantage confiance aux marchés, et moins aux gouvernements. Plutôt que de reconnaître une potentielle augmentation des revenus des travailleurs grâce à l’IA, le pape se concentre sur la manière dont les dirigeants politiques pourraient lutter contre les inégalités induites par l’IA, et dont les entreprises privées risquent d’utiliser ces outils pour confisquer des parts de marché. Léon XIV appelle à des « mesures visant à garantir l’équité », notamment à des « politiques industrielles », semblant confiant dans l’idée que ces politiques réduiront la concentration de la richesse et du pouvoir. Or, il faut davantage s’attendre à ce qu’elles produisent l’effet inverse.
En fin de compte, ces désaccords revêtent moins d’importance que les fondements moraux et intellectuels de la première encyclique de Léon XIV. Dans un monde captivé par les avancées technologiques, le pape place l’accent sur la primauté de la dignité inhérente et inestimable de chaque être humain. En pleine frénésie quant au choix des vainqueurs de l’IA, et en période de questionnement quant au risque de voir l’IA éclipser l’humanité, le pape nous appelle à préserver le bien commun, tout en nous mettant au défi d’accepter notre faiblesse et notre fragilité. Comme l’exprime Léon XIV, « nous ne devons pas oublier que l’humanité s’épanouit non pas malgré ses limites, mais souvent grâce à elles ».
Dans Magnifica Humanitas, Léon XIV entend détourner l’attention des merveilles et des dangers de l’IA, pour la diriger vers la magnificence de l’humanité. Tous les regards étant aujourd’hui tournés vers la technologie, ce message est nécessaire et bienvenu. Les outils d’IA sont impressionnants, mais insignifiants comparés à la grandeur d’un être humain.
Par Michael R. Strain
JDF TV
L'actualité en vidéo
