La décision du président américain Donald Trump, de confier au secrétaire au Trésor Scott Bessent la mise en uvre de son récent décret sur la supervision de lIA, marque un tournant majeur dans lapproche américaine de la gouvernance technologique. Un tel changement avait peu de chances de venir du secteur de lIA ou des régulateurs sectoriels, qui restent attachés au discours habituel selon lequel la réglementation étouffe linnovation et la priorité politique absolue est de battre la Chine en développant les modčles dIA les plus avancés au monde y compris, ā terme, la superintelligence.
La décision du président américain Donald Trump, de confier au secrétaire au Trésor Scott Bessent la mise en œuvre de son récent décret sur la supervision de l’IA, marque un tournant majeur dans l’approche américaine de la gouvernance technologique. Un tel changement avait peu de chances de venir du secteur de l’IA ou des régulateurs sectoriels, qui restent attachés au discours habituel selon lequel la réglementation étouffe l’innovation et la priorité politique absolue est de battre la Chine en développant les modèles d’IA les plus avancés au monde – y compris, à terme, la superintelligence.
Même si Bessent partage sans doute la détermination de l’administration à vaincre la Chine, le fait de placer le département du Trésor au cœur de la supervision de l’IA aux États-Unis apporte une perspective institutionnelle bienvenue. Considérée sous l’angle de la sécurité nationale, de la cybersécurité, de la stabilité financière et des infrastructures critiques, l’IA exige une philosophie réglementaire très différente de l’approche non interventionniste et libérale qui a défini jusqu’à présent la politique de Trump en matière d’IA.
La dernière proposition de Bessent est le signe le plus clair de ce changement. Selon Bloomberg, l’administration Trump pourrait bientôt créer une agence calquée sur la Financial Industry Regulatory Authority (FINRA), un organisme d’autorégulation, financé par le secteur, qui supervise les courtiers-négociants dans un cadre autorisé par le Congrès et supervisé par la Securities and Exchange Commission.
La bonne nouvelle, c’est que, pour la première fois, une administration américaine envisage sérieusement la création d’un organisme dédié à la protection de l’intérêt public, chargé d’évaluer les modèles d’IA de pointe avant leur mise sur le marché. Le problème est que l’agence proposée s’inspire de la FINRA, qui est dirigée et financée par le secteur même qu’elle réglemente. Il n’est donc guère surprenant que Demis Hassabis, PDG de Google DeepMind, défende depuis longtemps cette approche.
Au-delà du conflit d’intérêts évident, ce modèle présente toutefois une faille plus fondamentale : il n’est pas conçu pour détecter les risques systémiques. Cette faiblesse a été mise à nu lors de la crise financière mondiale de 2008, dont le coût pour l’économie américaine est estimé à 22 000 milliards de dollars et qui a donné lieu aux réformes Dodd-Frank, notamment la création du Conseil de surveillance de la stabilité financière.
Un modèle de type FINRA est mal adapté à la surveillance de l’IA. Les gouvernements devraient plutôt se doter de leur propre expertise en matière d’IA, en s’appuyant sur les mécanismes de surveillance publique mis en place après l’émergence de l’IA générative. L’un de ces dispositifs a été le décret de l’ancien président américain Joe Biden, qui oblige les développeurs de modèles d’IA de pointe à partager les résultats de leurs tests de sécurité avec le gouvernement fédéral avant leur mise sur le marché. La même année, le Premier ministre britannique Rishi Sunak a lancé le Sommet sur la sécurité de l’IA, commandé le premier Rapport international sur la sécurité de l’IA et ouvert la voie à la création des Instituts de sécurité de l’IA.
À la suite de la présentation de Mythos par Anthropic – le modèle de pointe le plus puissant à ce jour – Trump a publié son propre décret. Mais celui-ci est insuffisant, laissant facultative l’évaluation préalable à la mise sur le marché. Cela crée un profond déséquilibre : les systèmes d’IA d’aujourd’hui, de plus en plus puissants, exigent des institutions publiques indépendantes dotées de l’expertise et de l’autorité voulues pour les superviser, et le décret de Trump n’offre ni l’une ni l’autre.
Cette même asymétrie transparaît dans la manière dont les gouvernements abordent les risques liés à l’IA. Ils ont tendance à considérer l’IA avant tout comme un enjeu de sécurité nationale, tout en consacrant bien moins de ressources à la gestion de ses effets sur l’emploi, les soins de santé, l’éducation et d’autres aspects de la vie quotidienne. Même le règlement européen sur l’IA (AI Act), bien qu’il exige des évaluations de ces risques sociétaux, met davantage l’accent sur la cybersécurité.
Une exception notable est la prise de conscience croissante des risques que l’IA fait peser sur les enfants en ligne, ce qui a conduit à des mesures législatives et judiciaires dans de nombreux pays, y compris aux États-Unis. Mais ses conséquences sociétales plus larges – telles que ses effets sur le développement cognitif, les perspectives économiques des femmes et la vie privée – n’ont pas encore donné lieu à une réponse stratégique cohérente.
Ces priorités déséquilibrées trouvent leur origine dans la conception du développement de l’IA comme une course géopolitique. Or, la primauté technologique n’a guère de sens si elle se fait au détriment de la santé des travailleurs, de la résilience sociale et de la capacité des individus à mener une vie qui ait du sens. Un pays qui développe les modèles d’IA les plus performants au monde tout en laissant sa main-d’œuvre déqualifiée et son débat public pollué par la désinformation n’a rien gagné qui vaille la peine d’être gagné.
Relever ces défis sociétaux n’est pas incompatible avec la compétitivité. Au contraire, cela est essentiel tant pour la compétitivité que pour la sécurité nationale. En fin de compte, ce qui détermine le succès à l’ère de l’IA, ce ne sont pas seulement les capacités des modèles de pointe d’un pays, mais aussi la solidité des institutions qui protègent le bien-être de ses citoyens : écoles et universités, systèmes de santé et d’aide sociale, ainsi qu’un pouvoir judiciaire indépendant.
Ce sont pourtant précisément ces institutions qui peinent à suivre le rythme des évolutions technologiques. Dans les domaines de l’éducation et du marché du travail, l’OCDE a constaté que les avantages de l’IA se répartissent de manière inégale, renforçant ainsi les inégalités existantes : les élèves déjà favorisés sont mieux placés pour tirer parti de l’apprentissage assisté par l’IA, tandis que les travailleurs qualifiés s’adaptent plus facilement que ceux qui possèdent moins de qualifications.
Des tendances similaires s’observent dans les soins de santé, la protection sociale et le système judiciaire. À mesure que la prise de décision est déléguée à l’IA à grande échelle, les erreurs deviennent plus difficiles à contester, en particulier pour les personnes les moins à même de le faire. Une base de données sur les « hallucinations de l’IA », gérée par Damien Charlotin de HEC Paris, a recensé plus de 1 800 cas à travers le monde dans lesquels des juges ont identifié des documents fabriqués de toutes pièces par l’IA, souvent présentés par des justiciables se représentant eux-mêmes qui n’avaient pas les moyens de faire appel à un avocat.
Les implications pour l’intégrité judiciaire sont considérables. Les tribunaux dépendent de leur capacité à vérifier les faits et les preuves, mais l’IA rend cette tâche de plus en plus difficile, la charge pesant de manière disproportionnée sur ceux qui sont déjà défavorisés. En juillet, par exemple, la Cour suprême indienne a annulé deux décisions rendues par des tribunaux sur la base d’une jurisprudence inexistante, avertissant que le recours à des précédents non vérifiés générés par l’IA « porte atteinte à l’État de droit ».
Certes, bon nombre des effets sociétaux de l’IA ne peuvent pas être évalués avant le déploiement comme peuvent l’être les risques de cybersécurité. Mais c’est une raison supplémentaire pour assurer un contrôle public continu.
Au lieu d’une nouvelle agence dirigée par le secteur, ce dont les États-Unis et d’autres pays ont besoin, c’est l’équivalent, dans le domaine de l’IA, du Conseil de surveillance de la stabilité financière : un organisme de régulation chargé d’identifier les risques systémiques pesant sur l’éducation, la santé, les marchés du travail et le système judiciaire. Nous avons déjà mis en place de tels organismes pour préserver la stabilité financière et la sécurité nationale. Il est temps d’en faire de même pour les institutions dont dépend la société.
Par Gabriela Ramos et Emilija Stojmenova Duh
JDF TV
L'actualité en vidéo
