Lčre de lIA peut se représenter par une courbe abrupte et une pente progressive. La courbe monte presque ā la verticale : les modčles deviennent rapidement moins chers, plus puissants, plus accessibles et plus profondément intégrés dans la production, la science, léducation, la finance, ladministration, la sécurité et la guerre. En dessous, la pente sétend avec une inclinaison bien plus douce. Il sagit de la capacité de la société ā absorber le changement.
Cette pente englobe les mises à jour des cadres réglementaires, des structures juridiques et des compétences des administrations publiques. Elle inclut également les changements apportés aux programmes scolaires, aux modèles économiques, aux processus de travail et aux emplois. Et elle recouvre la capacité des citoyens à s’adapter à ce nouveau paysage — y compris leur capacité à distinguer la vérité de la simulation, la persuasion de la manipulation, et l’aide de la dépendance. C’est le métabolisme social par lequel un choc technologique est intégré dans un ordre fonctionnel.
Certes, les révolutions technologiques et industrielles précédentes pourraient également être représentées par une telle courbe et une telle pente. Les technologies ont progressé et se sont répandues plus rapidement que ne pouvaient s’adapter les réglementations, les modèles économiques, les systèmes éducatifs, les marchés du travail et les modes de vie. Les transitions ont souvent été douloureuses et n’ont jamais été automatiques. Mais l’écart entre la courbe et la pente était plus faible : en termes de vitesse et d’ampleur, la transformation induite par l’IA semble être d’une autre order.
Le débat sur la manière de gérer cette transition se résume généralement à la question de savoir dans quelle mesure la réglementation permet de trouver le « juste équilibre » entre innovation et sécurité. Nous ne voulons pas freiner le progrès par une bureaucratie excessive, pas plus que nous ne voulons laisser les sociétés absorber seules et à toute vitesse les conséquences d’une technologie qui transforme notre conception la plus fondamentale du travail, de la connaissance, du pouvoir, de la responsabilité et du jugement.
Mais cette question est trop restrictive. La réglementation a un rôle crucial à jouer, mais elle ne suffit pas à elle seule à constituer une gouvernance. Pour cela, nous devons définir les conditions nécessaires pour permettre aux sociétés de cohabiter avec l’IA sans se faire submerger par elle.
La première étape consiste à cesser de considérer l’IA comme quelque chose d’intangible — une technologie éthérée qui existerait dans le « cloud » et fournirait tout ce que l’on lui demande. L’IA repose sur d’énormes quantités de capital, des puces de pointe, des systèmes de cybersécurité, des chaînes d’approvisionnement et des talents. Elle s’appuie également sur d’immenses centres de données, qui émettent du bruit, de la lumière et de la de la chaleur, et nécessitent des terrains et des autorisations, ainsi que d’énormes quantités d’électricité et d’eau.
Les communautés qui accueillent les infrastructures physiques de cette technologie soi-disant immatérielle sont désormais contraintes de faire face à des perturbations majeures et de supporter des coûts élevés, alors que leurs terres sont rachetées, que leurs réseaux électriques sont mis à rude épreuve et que leurs réserves d’eau sont épuisées et polluées. Des décisions difficiles doivent être prises en matière d’urbanisme, de tarifs électriques et de protection de l’environnement.
Mais la gouvernance de l’IA n’est pas seulement un défi au niveau local. Cette technologie occupe une place de plus en plus centrale dans l’infrastructure du pouvoir national : ciblage militaire, cyberopérations, analyse du renseignement, découvertes scientifiques, automatisation industrielle, surveillance, modélisation financière et influence politique. Quiconque contrôle les modèles, les puces, les clusters de calcul et les talents les plus avancés détient non seulement un avantage commercial, mais aussi un avantage stratégique.
Les États-Unis et la Chine, qui se livrent une concurrence acharnée pour le leadership en matière d’IA, en sont bien conscients : chacun estime que prendre du retard le rendrait vulnérable sur les plans militaire, économique ou politique. Tout comme pour les armes nucléaires, les enjeux semblent existentiels. C’est la recette idéale pour le secret, la méfiance, la préemption et une accélération effrénée.
Ces risques sont aggravés par le fait que l’IA est plus diffuse que la technologie nucléaire, plus intégrée dans le commerce et plus largement applicable. De plus, ses résultats sont difficiles à vérifier, et une fois que les capacités sont encodées dans des logiciels, la prolifération est aisée.
La gouvernance de l’IA doit tenir compte de tous ces facteurs, depuis les besoins matériels de la technologie jusqu’à ses effets sur les individus, les communautés, les entreprises, les marchés du travail, l’environnement, la sécurité nationale et la concurrence stratégique internationale. À cette fin, une architecture globale de confiance fondée sur la vérification — plus large que la réglementation nationale en matière d’IA et plus souple qu’un traité classique — est essentielle.
L’accord de Paris sur le climat de 2015 offre un modèle utile. Il a créé un cadre évolutif englobant des engagements volontaires, une pression mutuelle, des mises à jour régulières, des mesures fiables et une large participation. Mais un accord analogue sur l’IA doit également tenir compte d’un enseignement clé tiré des régimes de non-prolifération : lorsque la confiance politique est faible, elle doit être complétée par des tests, des limites et des vérifications.
Le cadre qui en résulterait allierait la souplesse de la diplomatie climatique à la rigueur du contrôle nucléaire. L’évolution des engagements s’accompagnerait de mécanismes permettant d’évaluer la crédibilité et l’impact de ces engagements. L’action des États s’accompagnerait de responsabilités pour les entreprises.
Un « Accord de Paris sur l’IA » fournirait des définitions communes pour les modèles de pointe ; des seuils pour un contrôle renforcé ; l’obligation de signaler les incidents ; des normes d’évaluation partagées ; la protection des poids des modèles ; des règles de déploiement dans les secteurs sensibles ; et des tests indépendants des systèmes présentant des risques pour la cybersécurité, la sécurité biologique, les infrastructures critiques ou la prise de décision militaire. Chacun de ces éléments serait régulièrement réexaminé et renforcé au fil du temps, par des instances techniques maîtrisant l’évolution de la technologie et par des instances politiques capables d’imposer des sanctions en cas de non-respect des engagements.
Bien sûr, toutes les applications ne nécessitent pas le même traitement. Un outil à usage restreint utilisé dans des contextes à faible risque ne nécessite qu’une surveillance limitée. En revanche, un modèle de pointe susceptible d’affecter la cybersécurité, la conception biologique, les opérations militaires ou l’autonomie des systèmes critiques doit être soumis à des exigences plus strictes et, dans les cas extrêmes, à une intervention.
Certains pourraient faire valoir que cela étoufferait l’innovation. Mais personne ne monterait à bord d’un avion ni ne prendrait un nouveau médicament si la sécurité dépendait uniquement de la bonne volonté des fabricants. Dans ces domaines, la réglementation n’élimine pas le risque ; elle rend le risque socialement supportable. Il en va de même pour l’IA.
Un tel cadre ne peut être présenté comme un projet européen, un instrument américain ou une alliance visant à contrer la Chine. Sa légitimité dépendrait de l’inclusion, en donnant la parole aux pays à la pointe technologique, aux « puissances moyennes » et aux économies en développement. Les universités, les entreprises et les organisations de la société civile devraient également y être associées.
La courbe ne cessera de s’accentuer. Nous ne pouvons ni l’aplatir par décret, ni la masquer par des discours. Mais nous pouvons décider si elle s’élève de manière incontrôlée ou au sein d’une architecture capable de suivre le rythme.
By Ana Palacio
JDF TV
L'actualité en vidéo
