La tour de Babel est le récit biblique racontant comment lhumanité, unie par une seule langue et une seule ambition, tente de construire une tour jusquau ciel. Le projet se solde par un échec, Dieu punissant les constructeurs pour leur orgueil en fragmentant lhumanité en différentes langues et cultures. Cette parabole, que le pape Léon XIV invoque explicitement dans sa premičre encyclique, Magnifica Humanitas, présente une ressemblance troublante avec lIA. Cette technologie sera-t-elle le salut de lhumanité, comme laffirment ses évangélistes, ou mčnera-t-elle ā la damnation, comme le craignent les sceptiques ?
La civilisation humaine est déjà bien engagée dans une course à l’armement de l’IA pour écrire le scénario de l’avenir en code. Les entreprises technologiques dépensent des milliards de dollars pour créer des systèmes qui promettent de transformer la connaissance, le travail, la guerre, la politique et peut-être même la conscience humaine elle-même. Le débat public oscille entre utopie et panique. Et aujourd’hui, l’une des plus anciennes institutions du monde s’est jointe au débat pour mettre en garde contre une course vers le bas.
Cette période ressemble à des périodes antérieures d’excès économiques. La confiance du secteur technologique rappelle celle du secteur financier avant 2008, lorsqu’un petit groupe d’initiés affirmait avoir maîtrisé un système transformateur que les profanes ne pouvaient pas pleinement comprendre. Des fortunes extraordinaires se sont bâties sur la promesse d’un avenir radicalement amélioré par l’ingénierie financière, tandis que les signaux d’alerte étaient écartés comme des preuves d’ignorance ou de peur. Parmi les rares voix de la raison figurait l’économiste Raghuram G. Rajan, qui met aujourd’hui en garde contre l’euphorie suscitée par l’IA.
Pourtant, le potentiel destructeur de l’IA est bien plus grand que celui de l’ingénierie financière de la fin des années 1990 et du début des années 2000. Comme le comprend le pape, le parallèle le plus proche est celui de la révolution industrielle elle-même. Lorsque le cardinal Robert Prevost a choisi le nom de Léon XIV l’année dernière, il a fait une déclaration. Le pape Léon précédent est entré dans l’histoire en publiant une encyclique tout aussi incisive et ambitieuse, Rerum Novarum, sur les profondes inégalités et les bouleversements sociaux engendrés par le capitalisme industriel. Les usines, les chemins de fer et la production mécanisée avaient transformé la société plus rapidement que les institutions politiques ne pouvaient s’adapter, entraînant une concentration extraordinaire de richesses parallèlement à une misère extraordinaire.
Alors que Léon XIII s’était attaqué à l’industrialisation du travail, Léon XIV s’attaque à l’industrialisation de l’intelligence. Depuis des années, le débat sur l’IA est dominé par des ingénieurs, des entrepreneurs et des investisseurs qui parlent le langage de « l’échelle », de la « disruption », de « l’efficacité », de « l’innovation » et de « l’optimisation ». Mais Léon XIV entend introduire un vocabulaire différent, axé sur la dignité du travail, la guerre, le pouvoir monopolistique et le bien commun.
C’est pourquoi le mot « dignité » apparaît 100 fois dans les plus de 42 000 mots de Magnifica Humanitas. Cette insistance révèle une différence fondamentale de vision du monde. La question centrale pour la Silicon Valley est de savoir ce que les machines peuvent faire. La question centrale pour le Vatican est de savoir ce que sont les êtres humains.
Certes, certaines figures de proue du secteur technologique s’expriment de plus en plus comme des théologiens. Comme le note l’historienne de Harvard Jill Lepore, la Silicon Valley a ses propres prophètes, missionnaires, textes sacrés, mythes fondateurs et promesses de rédemption. L’IA, prophétisent-ils, guérira les maladies, éliminera la pénurie, résoudra le changement climatique et vaincra peut-être même la mort elle-même. Mais ces promesses ne peuvent être dissociées des intérêts financiers de l’industrie.
Le Vatican, en revanche, propose une vision alternative de l’avenir de l’humanité, centrée sur la conviction que les êtres humains sont plus que de simples systèmes de traitement de l’information et que nos attributs affectifs sont aussi importants que nos capacités cognitives. Nous sommes des créatures uniques, capables d’amour, d’amitié, de conscience, de responsabilité, de souffrance, de joie et de jugement moral. Notre valeur ne peut se réduire à des indicateurs de productivité ou à des prix de marché.
Cette perspective a des implications importantes pour une préoccupation récurrente : l’avenir du travail. Alors qu’une grande partie du débat sur l’IA se concentre sur les gains de productivité et la croissance économique, le Vatican pose une question différente : que se passe-t-il lorsque les sociétés perdent de vue la dignité inhérente à un travail qui a du sens ?
Les économistes débattent depuis longtemps pour savoir si l’automatisation crée finalement plus d’emplois qu’elle n’en détruit. Pourtant, comme le montre la montée mondiale du populisme, les statistiques de l’emploi ne peuvent à elles seules rendre compte du rôle que joue le travail dans la construction d’un sentiment d’identité, d’un but, d’un sentiment d’appartenance à une communauté et de respect de soi. Le défi posé par l’IA n’est pas seulement économique, mais existentiel.
L’intervention de Léon sur l’IA arrive également à point nommé pour s’attaquer au « contrôle monopolistique » et au « colonialisme numérique ». Aucune de ces expressions ne semble exagérée. C’est tout simplement un fait qu’une poignée d’entreprises contrôlent de plus en plus les modèles, l’infrastructure informatique et les données dont dépend l’économie future de l’IA.
Mais peut-être que la véritable cible de Magnifica Humanitas n’est pas la technologie elle-même, mais son mariage contre nature avec le marché. Ici, le symbolisme s’enrichit encore davantage. Le premier pape américain est originaire de Chicago, la ville la plus associée à l’économie néoclassique. Pourtant, Léon a directement remis en cause l’idée selon laquelle on peut se fier uniquement aux marchés pour façonner l’avenir technologique de la société. Il reconnaît que l’IA soulève des questions auxquelles les prix et les profits ne peuvent répondre. Comment les sociétés doivent-elles trouver un équilibre entre innovation et sécurité ? Qui doit déterminer les utilisations acceptables des armes autonomes ? Comment les gains issus de l’automatisation doivent-ils être répartis ? Quelles obligations les entreprises technologiques ont-elles envers les communautés qu’elles bouleversent ?
Ce ne sont pas des questions d’ingénierie. Ce sont des questions morales.
Prétendre qu’une technologie doit être déployée simplement parce qu’elle existe revient à dire que, puisque l’humanité a inventé les armes nucléaires, elle est obligée de s’autodétruire. La capacité technologique n’élimine pas la responsabilité morale. L’IA est souvent présentée comme une force imparable qui entraîne l’humanité vers un avenir prédéterminé, mais Magnifica Humanitas met en garde contre un tel fatalisme.
Comme l’affirment des économistes tels que les lauréats du prix Nobel Daron Acemoglu et Simon Johnson, les résultats induits par la technologie relèvent d’un choix, et non du destin. Une nouvelle technologie ne décide pas de la manière dont elle sera utilisée. Ce sont les humains qui en décident. La bataille ne se joue pas entre le Vatican et la Silicon Valley, mais entre le pape né à Chicago et l’école de Chicago en économie. Ironiquement, Leo cherche à officier un divorce — celui entre la technologie la plus puissante au monde et la recherche du profit.
By Antara Haldar
JDF TV
L'actualité en vidéo
