Au milieu des années 1960, le mathématicien et cryptographe de Bletchley Park I. J. Good a proposé une expérience de pensée qui est depuis devenue le credo séculier de la Silicon Valley. Si nous construisions une Ŧ machine ultra-intelligente ŧ, affirmait-il, celle-ci pourrait alors concevoir des machines encore meilleures, déclenchant une explosion dintelligence qui laisserait la cognition humaine loin derričre. La premičre machine de ce type serait donc Ŧ la derničre invention que lhomme aurait jamais besoin de faire ŧ.
Aujourd’hui, cette prophétie, qui relevait autrefois de la science-fiction, est devenue l’objectif central des institutions les plus puissantes du monde. Demis Hassabis, de Google DeepMind, parle par exemple de « résoudre l’intelligence » afin de « tout résoudre ». C’est une histoire séduisante. Même si l’on suppose, pour les besoins de l’argumentation, que les systèmes futurs puissent apprendre, expérimenter et générer des solutions véritablement novatrices bien au-delà des modèles actuels, la thèse de la « dernière invention » repose néanmoins toujours sur de multiples hypothèses discutables.
La première est que l’innovation s’apparente à un sprint sans friction, de l’idée à l’impact. Ce n’est pas le cas. Le processus de découverte ressemble plutôt à une chaîne, dont la solidité dépend de son maillon le plus faible.
Ces maillons faibles définissent en grande partie le progrès humain. En 1986, la navette spatiale Challenger s’est désintégrée 73 secondes après son lancement, non pas à cause d’une défaillance de ses moteurs ou de ses logiciels de classe mondiale, mais parce qu’un petit joint en caoutchouc a cédé sous l’effet des basses températures atmosphériques (comme l’a brillamment révélé le physicien et lauréat du prix Nobel Richard Feynman lors des audiences sur la catastrophe). Depuis, le « joint torique » est devenu une métaphore pour désigner les goulots d’étranglement critiques capables de faire échouer même les systèmes les plus sophistiqués.
La découverte fonctionne de la même manière. L’intelligence artificielle générale (Artificial general intelligence - AGI), généralement comprise comme un modèle capable d’accomplir n’importe quelle tâche cognitive, peut accélérer considérablement la recherche médicale à un stade précoce, mais si elle ne peut pas gérer les essais cliniques, produire à grande échelle ou obtenir l’autorisation réglementaire, la « percée » ne deviendra jamais une invention qui améliore la vie des gens. Lorsque les premières étapes de la découverte sont automatisées, le rôle de l’humain ne disparaît pas ; il se déplace simplement vers les goulots d’étranglement restants, où le jugement, la connaissance tacite et le savoir-faire pratique sont ce qui compte.
Cette complication nous conduit à une autre, encore plus grande : l’AGI ne devrait pas seulement surpasser les humains ; elle devrait surpasser les humains utilisant l’AGI. Pour que le scénario de la dernière invention tienne la route, les humains devraient devenir inutiles, même en tant que partenaires ou superviseurs des IA.
L’intelligence n’est toutefois pas une quantité : « plus » ne remplace pas simplement « moins ». Même une IGA très performante pourrait être d’une nature différente de celle d’un humain : exceptionnelle en matière de rapidité et de reconnaissance de schémas, mais fragile face à des cas rares. Des forces différentes impliquent des angles morts différents, et lorsque ceux-ci ne se recoupent pas, la combinaison du jugement humain et de celui de la machine continuera de surpasser chacun d’entre eux pris isolément.
Le jeu de Go offre un rappel utile. Après qu’AlphaGo, de Google DeepMind, eut battu Lee Sedol 4 à 1 en 2016, sa supériorité sur les joueurs humains semblait établie. Mais en 2023, des chercheurs ont montré qu’en amenant les meilleurs moteurs dans des positions inhabituelles, hors de leur cadre d’entraînement, un amateur humain doté de compétences informatiques modestes pouvait battre de manière fiable les meilleurs programmes. Une suprématie apparente peut encore cacher des faiblesses systématiques, et c’est souvent là que l’apport humain apporte le plus de valeur.
Un troisième problème concerne la connaissance elle-même. La thèse de la dernière invention part du principe que toutes les informations pertinentes peuvent être codifiées, mais ce n’est généralement pas le cas. Peu d’inventions ont autant changé le monde que la Ford Model T, qui a transformé l’automobile en un produit de grande consommation. La réussite d’Henry Ford ne résidait cependant pas seulement dans un nouveau design. Ce qui était plus important, c’était son approche de l’organisation de la production.
C’est pourquoi des délégations venues d’Italie, d’Allemagne, d’Union soviétique et d’ailleurs se sont rendues sur place pour étudier les usines de Ford. Le savoir-faire essentiel ne pouvait être tiré d’aucun plan. Il était ancré dans les routines, l’enchaînement des tâches, l’outillage et la résolution quotidienne des problèmes par les ouvriers. De même, le système de production allégée de Toyota était difficile à reproduire car il est ancré dans les routines et la culture humaines, et non dans un schéma.
Une intelligence accrue ne résout pas automatiquement le « problème de la connaissance » – le fait que ce qui fait fonctionner les systèmes complexes, ce sont des informations dispersées, locales et souvent tacites. Si la connaissance était transférable sans friction, les industries ne se regrouperaient pas de manière aussi intense, comme dans la Silicon Valley ou la City de Londres.
Les partisans de l’IA pourraient rétorquer : « Très bien, installons des capteurs, des caméras et des microphones partout, et nous codifierons les connaissances manquantes. » Cette stratégie suppose toutefois que les personnes surveillées communiqueront ouvertement et partageront les connaissances qu’elles génèrent, et elle fait abstraction de la politique et du droit. Enregistrer « tout, partout » entrerait en conflit avec le Règlement général sur la protection des données (RGPD) de l’Union européenne, qui est devenu un modèle pour la réglementation de la vie privée à l’échelle mondiale.
De plus, la loi européenne sur l’IA ne donne pas carte blanche aux déploiements à forte intensité de surveillance qui seraient nécessaires pour collecter le savoir-faire humain à grande échelle. Même si c’était le cas, on ne peut pas supposer que tout le savoir-faire humain, sans parler du jugement, soit si facilement numérisable.
En fin de compte, l’AGI pourrait bien automatiser l’intelligence. Le processus d’invention dépend néanmoins de bien plus que cela. Souvent, le plus difficile n’est pas de trouver une solution, mais de la mettre en pratique. Il faut un savoir-faire local, des routines éprouvées, des chaînes d’approvisionnement et des capacités institutionnelles pour faire fonctionner quelque chose de manière fiable dans le monde réel. Une intelligence accrue ne produit pas automatiquement ces éléments complémentaires.
L’AGI va transformer la découverte en rendant l’expertise moins coûteuse et l’expérimentation plus rapide. « La dernière invention de l’humanité » est cependant une affirmation bien plus forte. Pour qu’elle soit vraie, il faudrait un monde où le savoir-faire pratique serait entièrement transférable par des canaux numériques et où la responsabilité pourrait être automatisée au même titre que la cognition. Ce n’est pas le monde dans lequel nous vivons.
À mesure que l’intelligence deviendra moins coûteuse, les actifs qui auront le plus de valeur changeront. L’avantage ira à ceux qui peuvent produire des résultats. Les humains ne deviennent pas superflus ; ils deviennent les goulots d’étranglement les plus décisifs au monde.
By Carl Benedikt Frey
JDF TV
L'actualité en vidéo
