Il arrive parfois qu'un événement mondial majeur exige une réponse particuličre de la part de nombreuses disciplines universitaires, industries et administrations publiques. Ce fut le cas lors de la Seconde Guerre mondiale, avec les armes nucléaires et la guerre froide, et c'est ā nouveau le cas aujourd'hui avec l'IA générative.
Pourtant, trop souvent, les discussions sur l'IA sont trop spécialisées ou cloisonnées entre les technologues, les économistes et d'autres disciplines, telles que les sciences politiques, la psychologie, la sociologie, le droit et les études militaires. Cela pose problème, car les technologues ont certainement raison de dire que l'IA va tout changer, rapidement, et que le monde politique traditionnel n'arrive pas à suivre. Mais tout comme la guerre est trop importante pour être laissée aux généraux, l'IA est trop importante pour être contrôlée uniquement par ceux qui l'inventent, aussi brillants soient-ils.
La plupart des technologues et des entrepreneurs spécialisés dans l'IA sont extrêmement optimistes. Ils anticipent des avancées révolutionnaires dans le domaine médical, la suppression des travaux physiques pénibles, une croissance radicalement accélérée de la productivité et une abondance universelle. Ils s'attendent à de tels résultats en partie parce qu'il y a de l'argent à gagner, mais aussi parce qu'ils croient sincèrement au potentiel de cette technologie.
Mais la sincérité s'accompagne souvent de naïveté, comme je le sais trop bien. Il y a trente ans, j'ai fondé la start-up qui a développé le premier outil logiciel permettant à quiconque de créer un site web, et j'ai complètement adhéré à cette idée. Nous nous sommes dit que notre produit permettrait aux personnes honnêtes et innovantes de contourner les gardiens, libérant et éclairant tout le monde. Les réseaux sociaux feraient bien sûr de même, et ensemble, nous créerions un paradis décentralisé et égalitaire où la vérité serait diffusée sans filtre. Comme nous avions tort.
Quand je regarde le paysage de l'IA, fortement peuplé de fondateurs extrêmement jeunes, je vois la même naïveté. J'ai récemment discuté avec un jeune PDG brillant dont la start-up spécialisée dans l'IA est déjà évaluée à plusieurs milliards de dollars. Quand je lui ai demandé si le problème des deepfakes et de la désinformation liés à l'IA l'inquiétait, il m'a répondu (pour paraphraser) : « Bien sûr que non. Il suffit de vérifier que quelque chose provient d'une source fiable. C'est facile.
Vraiment ? Comment ces sources fiables sauront-elles ce qui est réel lorsque quelqu'un leur enverra une photo, un document, un enregistrement audio ou une vidéo ? Que feront-elles lorsque des milliers d'images ou de vidéos arriveront, chacune contredisant les autres ? Comment saurons-nous si quelque chose publié sur les réseaux sociaux est réel ? Comment les sources d'information peuvent-elles rester actuelles et rentables si elles doivent vérifier laborieusement la réalité de absolument tout ?
Si les technologues sont trop optimistes, les économistes souffrent quant à eux d'un autre type de vision étroite. Ils ont tendance à tout voir comme un équilibre harmonieux de marchés qui s'ajustent d'eux-mêmes. Ils prédisent des améliorations substantielles mais graduelles de la productivité, écartant les scénarios extrêmes et négligeant à la fois les opportunités radicales et les problèmes potentiellement graves.
« Calmez-vous, nous sommes les adultes dans la pièce », disent les économistes. En fait, l'économie contemporaine, obsédée par ses modèles, s'est trop souvent trompée, s'est éloignée de la réalité, voire a été compromise par la corruption.
Prenons l'exemple de Larry Summers, qui est récemment devenu un paria en raison de sa correspondance avec Jeffrey Epstein, un délinquant sexuel condamné. Le tollé contre lui était certes justifié, mais il méritait d'être mis au ban bien plus tôt pour avoir mené tout au long de sa carrière des politiques économiques désastreuses qui ont dévasté la vie de millions de personnes.
Rappelons le rôle de premier plan joué par Summers dans la déréglementation financière lorsqu'il était au département du Trésor sous l'administration du président Bill Clinton. Même lorsqu'il a été confronté à la crise financière asiatique et à la bulle Internet à la fin des années 1990, Summers, avec Robert Rubin, qui l'avait précédé au poste de secrétaire au Trésor, et Alan Greenspan, président de la Réserve fédérale, a joyeusement fait adopter l'abrogation de la loi Glass-Steagall (qui séparait les banques d'investissement des banques de détail). Ils ont également interdit la réglementation des produits dérivés, qui allait devenir l'une des principales causes de la crise financière de 2008.
Plus tard, alors qu'il travaillait dans l'administration Obama, Summers a préconisé le sauvetage des banques sans insister sur des sanctions ou des poursuites contre les banquiers, malgré des preuves évidentes de fraude massive. Il a ensuite gagné des millions en donnant des discours dans des banques et lors de conférences bancaires. Mais plus précisément, Summers n'était pas un cas exceptionnel. L'économie dominante a un bilan désastreux, puisqu'elle nous a dit que la mondialisation profiterait à tous, que la politique industrielle ne fonctionne jamais, que la déréglementation ne pouvait pas provoquer de crise financière, que l'économie du développement résoudrait les problèmes de l'Afrique et que nous n'avions pas à nous inquiéter des monopoles.
Il y a ensuite le problème de la corruption dans cette discipline. Les revenus de nombreux économistes éminents pendant ces années provenaient principalement de paiements versés par des entreprises. En 2004, Goldman Sachs a persuadé Glenn Hubbard, alors doyen de la Columbia Business School, de co-rédiger un article avec William Dudley, alors économiste en chef de Goldman, dans lequel ils affirmaient que les produits dérivés non réglementés rendaient le système financier plus sûr. Quatre ans plus tard, la crise de 2008 a révélé que ces produits dérivés étaient extrêmement dangereux. L'année suivante, Dudley est devenu président de la Banque fédérale de réserve de New York. Rarement une promotion après un échec a été aussi flagrante.
Bien sûr, il y a des exceptions. Parmi les technologues, le PDG d'Anthropic, Dario Amodei, s'est montré particulièrement perspicace et honnête tant sur les opportunités que sur les dangers de l'IA. En économie, le lauréat du prix Nobel Simon Johnson a écrit ce qui est peut-être le meilleur article sur la manière dont le secteur financier américain s'est emparé de la politique fédérale et a provoqué la crise de 2008. Mais le bilan global de la discipline économique n'inspire pas confiance, et aujourd'hui, trop d'économistes (dont la plupart connaissent très peu l'IA) semblent sous-estimer cette technologie, tant ses avantages potentiels que ses dangers.
J'ai le sentiment que les sciences politiques, la psychologie, le droit, l'éducation, la sociologie et les études militaires obtiennent de meilleurs résultats. Elles ont tendance à privilégier la réalité plutôt que les modèles et à prendre en compte des questions que les technologues et les économistes ont souvent tendance à ignorer. Mais elles aussi sont intégrées dans une matrice institutionnelle (universités, groupes de réflexion et agences gouvernementales) qui n'est plus adaptée à son objectif. Pour réguler l'IA, nous avons besoin d'une coopération entre toutes ces disciplines, et nous en avons besoin rapidement.
Je trouve frappant que bon nombre des meilleurs fondateurs d'IA que je rencontre soient des diplômés ou même des étudiants ayant abandonné leurs études (en fait, la bourse Thiel Fellowship, d'un montant de 200 000 dollars,exige que les bénéficiaires n'aient pas de diplôme universitaire). En revanche, l'élaboration des politiques conventionnelles (aux États-Unis et en Europe) repose sur un système bureaucratique rigide dont les rouages grinçants ne font pas le poids face à l'IA.
Bien sûr, nous ne devons pas supprimer les universités, les groupes de réflexion ou l'élaboration des politiques gouvernementales. Mais des circonstances extraordinaires exigent des réponses extraordinaires. Pour de nombreuses questions politiques, une approche lente et conventionnelle est probablement acceptable. Mais pas pour l'IA.
By Charles Ferguson
JDF TV
L'actualité en vidéo
