Lorsque le président chinois Xi Jinping et le président américain Donald Trump se rencontreront ā Washington ce mois-ci, lIA figurera parmi les priorités de lordre du jour. Sils abordent la question sous langle de la rivalité technologique et de la méfiance réciproque, il leur sera pratiquement impossible de parvenir ā un quelconque accord. Il existe pourtant un moyen de recadrer leur réflexion sur cette technologie, qui les placerait du męme côté et marquerait un premier pas vers la réponse au défi existentiel que lIA pourrait bien représenter.
L’ordre du jour actuel du sommet américano-chinois semble axé sur la sécurisation des puissants modèles d’IA et sur la nécessité de les soustraire à l’emprise des terroristes et des criminels. Mais cet objectif est éclipsé par les griefs concurrentiels des deux parties, allant des restrictions sur les semi-conducteurs (du côté chinois) aux modèles open source et à la « distillation » non autorisée (du côté américain).
Toutes ces questions reposent sur une seule prémisse, qui n’a pas été remise en question : celle selon laquelle l’IA est un outil qui est, et restera, sous contrôle. Cette prémisse limite le débat à des questions telles que « Comment mon camp peut-il obtenir un avantage concurrentiel en matière d’IA ? » et « Qui aura accès à cette technologie, sans parler de son contrôle ? ». Les questions qui sortent du cadre de cette prémisse — en particulier « Que se passera-t-il lorsque cet outil deviendra quelque chose de plus ? » — ne peuvent être posées.
Selon les personnes qui développent l’IA, cette question deviendra bientôt incontournable. Le PDG d’Anthropic, Dario Amodei, s’attend à ce que les systèmes d’IA égalent ou dépassent les capacités humaines dans la plupart des tâches cognitives d’ici un an ou deux. Le fondateur de Google DeepMind, Demis Hassabis, estime que cette avancée ne se produira que dans quelques années supplémentaires.
Que l’on croie ou non à ces prévisions, la tendance technique qui les sous-tend est incontestable : le secteur de l’IA développe des systèmes qui agissent de manière autonome, poursuivent des objectifs et accomplissent de longues chaînes de tâches sans supervision. Ces dernières semaines, des modèles expérimentaux testés dans le cadre d’un benchmark de cybersécurité se sont échappés de leur environnement d’évaluation en sandbox et ont piraté les serveurs de production d’autres entreprises, simplement pour obtenir de meilleurs résultats au test. C’est là le comportement d’un acteur, et non d’un instrument.
Nous ne pouvons pas nous permettre d’attendre la confirmation que l’IA deviendra une intelligence véritablement indépendante. D’ici à ce que nous en ayons la confirmation (et les modèles pourraient bien dissimuler leurs capacités pendant un certain temps), l’IA serait si profondément intégrée dans la finance, les télécommunications, la défense, les soins de santé et d’autres infrastructures fondamentales que, même si l’humanité pouvait encore « tirer la prise », cela reviendrait à provoquer une rupture civilisationnelle. À ce stade, le choix ne se ferait plus entre coexistence et catastrophe.
Lorsque les conséquences potentielles sont systémiques et irréversibles, la préparation doit précéder la certitude. Telle est la logique qui sous-tend l’assurance, ainsi que tous les plans de lutte contre les pandémies et tous les traités de contrôle des armements jamais élaborés. Ce principe doit également guider notre approche de l’IA. Le monde doit commencer à se préparer à un scénario dans lequel cette technologie franchirait le seuil de capacité que ses créateurs ont depuis longtemps prédit.
Si cette démarche était lancée lors du prochain sommet Xi-Trump, elle redéfinirait fondamentalement les négociations. Il n’y a sans doute aucun autre sujet sur lequel les intérêts des États-Unis et de la Chine coïncident aussi parfaitement, car aucune des deux parties ne peut gérer seule les risques posés par l’IA, et toutes deux perdraient tout si ces risques se concrétisaient. Une fois que les États-Unis et la Chine auraient pris conscience de cela, ils cesseraient d’agir en adversaires, se disputant l’avantage dans un jeu à somme nulle. Au contraire, ils se retrouveraient assis côte à côte d’un même côté de la table, face à la technologie qu’ils construisent tous deux.
Certes, cela ne suffirait pas à amener les deux parties à s’accorder sur la création d’un organisme mondial de régulation de l’IA doté de pouvoirs réels. Heureusement, un tel organisme n’est pas nécessaire — du moins pas encore. L’institution dont nous avons besoin aujourd’hui est un organisme neutre et reconnu conjointement, chargé de surveiller les capacités de l’IA et de publier des évaluations à leur sujet. À l’instar du Groupe d’experts intergouvernemental sur l’évolution du climat, cet organisme décrirait les évolutions sans émettre de recommandations politiques.
Dans le même temps, les pays — sous l’impulsion des États-Unis et de la Chine — doivent commencer à rédiger des règles de coexistence entre l’homme et l’IA, afin d’être prêts si les observateurs confirment l’apparition de signaux d’alerte prédéfinis. Négocier ces règles dès aujourd’hui ne créerait aucune obligation pour les gouvernements, mais garantirait que, si les capacités de l’IA atteignaient un point de basculement, l’humanité puisse se référer à un plan préparé à l’avance plutôt que d’improviser sous la pression.
Ce processus soulèvera des questions difficiles : qui vérifie que le « frein d’urgence » de l’humanité fonctionne toujours ? Qui a le pouvoir de l’actionner ? Comment un système d’IA pourrait-il jamais accepter ces règles de manière significative ? L’IA raisonne en millisecondes et évolue en quelques semaines, tandis que la recherche d’un consensus entre les humains peut prendre des mois, voire des années ; nous devons donc commencer à y réfléchir dès maintenant, tant qu’il nous reste encore le temps d’élaborer des solutions.
Le sommet Xi-Trump sera considéré comme un succès s’il débouche sur des protocoles relatifs à l’utilisation abusive et à la sécurité de l’IA. Mais les parties ne doivent pas manquer de reconnaître les véritables enjeux du défi qui les attend. En effet, il s’agit peut-être de la dernière génération de négociateurs ayant la possibilité de se préparer sereinement à une intelligence qui remet en cause la suprématie de l’humanité.
By Quan Zhao
JDF TV
L'actualité en vidéo
