Catégories
Uncategorized

Naviguer dans le futur avec l’IA générative, partie 5 : L’usine d’agents à 1 000 milliards de dollars, ou comment l’IA imprime du pouvoir

AGI et superintelligence

1. Relier deux étapes qui changeront la vie de l’humanité

Dans un entretien avec Time, Yann LeCun remarque : « Je n’aime pas appeler cela AGI, parce que l’intelligence humaine n’est pas du tout générale. » Ce point de vue remet en question notre compréhension habituelle de l’intelligence artificielle générale, ou AGI, face aux limites supposées de l’intelligence humaine. Le terme lui-même paraît galvaudé et souvent mal compris. Il semble intuitif au premier abord, mais presque chaque personne qui s’y intéresse sérieusement en propose une définition différente.

Le brouillard s’épaissit avec Ilya Sutskever, directeur scientifique derrière le très populaire modèle génératif GPT. Dans un entretien avec MIT Technology Review, il explique que ces systèmes verront les choses plus profondément, y compris celles que nous ne voyons pas. Il cite AlphaGo comme exemple de superintelligence très spécialisée : le système a découvert des manières de jouer au go différentes de celles que l’humanité avait élaborées collectivement pendant des millénaires. Il a produit de nouvelles idées.

Avant la rencontre entre AlphaGo de DeepMind et Lee Sedol en 2016, il y avait eu la victoire de Deep Blue d’IBM contre Garry Kasparov aux échecs, en 1997. La particularité de ces IA est leur maîtrise d’un domaine unique et précis. Elles ne sont pas générales. Elles sont superintelligentes, au-delà des capacités humaines, dans leur domaine respectif.

Dans cet article de la série Navigating the Future with Generative AI, nous allons explorer deux étapes inévitables du futur de l’humanité : l’AGI et la superintelligence.

2. Définir l’AGI : de quoi parlons-nous vraiment ?

Les définitions de l’AGI et de la superintelligence sont nombreuses. Ces termes s’entremêlent souvent dans les discussions actuelles sur l’intelligence artificielle. Ce sont pourtant deux concepts très distincts.

AGI signifie Artificial General Intelligence, ou intelligence artificielle générale. Cet état de l’IA repose sur plusieurs briques : apprentissage automatique, apprentissage profond, apprentissage par renforcement, dernières avancées de l’IA générative et de l’apprentissage par imitation, ainsi que du code classique. Elles contribuent à une certaine polyvalence dans l’exécution des tâches et le raisonnement. Ce stade de l’intelligence synthétique correspond à ce qu’un humain moyen peut réaliser de manière autonome dans différents domaines : une capacité générale à exécuter des tâches diverses.

Ces tâches s’appuient sur un socle de connaissances, comparable à une scolarité, associé à un apprentissage de base pour remplir de nouveaux objectifs définis périodiquement. Dans le travail : finaliser un audit de conformité à la réglementation sur l’IA, puis conseiller les équipes sur les mesures de réduction des risques. Dans la vie quotidienne : faire les courses, préparer les repas du lendemain ou organiser les tâches à venir. Cette AGI agit pour le compte d’un humain réel et bénéficie d’une expertise accessible mondialement. Elle peut ainsi assister, augmenter et finalement compléter les actions quotidiennes et professionnelles. C’est, en substance, un assistant que l’on peut contrôler, disponible à la demande et capable de réaliser des tâches ponctuelles comme récurrentes. Le mot essentiel est « générale » : une certaine universalité des compétences et la capacité à couvrir l’éventail des tâches du quotidien.

Je partage le point de vue de Yann LeCun : il manque aux modèles actuels une compréhension du monde physique. Soyons plus précis :

  • Une IA a besoin d’une représentation des lois de la physique, mais aussi d’un modèle opérationnel qui détermine quand elles s’appliquent. Après ses premières chutes, un enfant comprend que les suivantes se produiront de manière semblable, sans connaître le champ gravitationnel. Il apprend, ressent et anticipe la gravité terrestre. De même, notre corps comprend le poids avant que nous en apprenions l’expression mathématique.
  • Au-dessus de ce modèle du monde, une IA doit superposer un système de contraintes qui réaffirme continuellement la notion de réalité. Nous savons par exemple que les chaussures nous empêchent de sentir directement la dureté du sol. Les semelles de nos baskets nous surélèvent de quelques centimètres et amortissent légèrement la course. Nous faisons confiance aux lacets pour qu’elles restent en place. Nous nous souvenons avoir attaché ces chaussures bleues avant de partir courir, comme d’habitude. Surtout, nous savons avec certitude que nous n’allons pas nous enfoncer dans l’asphalte, qui n’a pas la consistance de la boue. Nous pouvons ainsi parcourir notre itinéraire favori avec confiance, pour notre satisfaction personnelle, en visant ce record régional.
  • Une IA doit savoir planifier, mais aussi simuler, adapter et optimiser les plans et leur exécution. Souvenez-vous de votre dernier trajet soigneusement préparé. Destination saisie dans le GPS, vous partez en avance. Mais les données urbaines ne sont pas à jour : la déviation à l’entrée de l’A13 n’y figure pas. Puis un accident est signalé sur l’autoroute du Sud. Le trafic passe de trois voies à une. Dans l’embouteillage, deux options : continuer en espérant, ou trouver un autre trajet. Vous regardez l’heure : il reste 23 minutes pour arriver. Voilà à quel point planifier une tâche peut être dynamique et complexe. Les humains le font pourtant sans arrêt.
  • Une IA doit être ancrée dans des fonctions fiables et idempotentes, sur les fondations de l’informatique classique : programmation, logique et calcul arithmétique. Appeler une bibliothèque interne, utiliser des API externes et effectuer des calculs est essentiel. C’est la base de son ancrage dans le réel, avec la « vérité » comme infrastructure de l’AGI. Il faut un espace d’action qui produise des résultats prévisibles et stables dans le temps, à l’image des théorèmes vérifiés et des lois physiques soutenues par d’innombrables travaux empiriques. Pensez à la prévision des mouvements d’une flotte de drones en forêt à partir de la télémétrie : vitesse et direction du vent, positions géographiques, positions relatives des drones, interprétation des champs visuels et détection des obstacles, arbres, feuillage, oiseaux, etc.
  • Une IA doit exploiter les informations sensorielles en temps réel pour inférer, déduire et déclencher une boucle décision, action, observation, correction, comme nous. Une odeur de fumée nous alerte immédiatement : il faut chercher le foyer et prévenir le danger. Les smartphones, dotés de caméras et de microphones, présentent des capacités semblables. Un Raspberry Pi associé à différents composants sensoriels peut même dépasser nos sens. Un robot équipé de capteurs ultraviolets, infrarouges ou ultrasoniques peut « sentir » ce qui échappe à notre perception. La déclaration d’Ilya Sutskever prend alors un sens littéral.

Cela implique que l’AGI ne sera pas nécessairement bénéfique, ni fortement créatrice de valeur, dans des domaines très spécialisés, notamment ceux où les humains ont traditionnellement excellé : recherche fondamentale, invention, conception d’ingénierie. Je pense que ces domaines resteront limités par le savoir disponible sur Internet. L’évolution de l’AGI dépend en grande partie des entreprises qui l’adaptent à leur expertise, souvent considérée comme leur propriété intellectuelle.

Nous avançons ainsi progressivement vers l’AEI, Artificial Expert Intelligence, ou intelligence artificielle experte. Un modèle ou un agent au sommet de son domaine. Imaginez une AEI au niveau des 5 % meilleurs experts de la planète, au-delà de 2σ, atteignant un niveau olympique comme AlphaGeometry et AlphaProof, qui ont atteint le niveau de la médaille d’argent aux Olympiades internationales de mathématiques.

Les architectures les plus prometteuses reposent sur une collaboration active entre modèles experts, Mixture of Experts, et entre agents, Mixture of Agents. Même lorsque chaque modèle n’est pas le meilleur individuellement, le résultat collectif atteint, voire dépasse, la qualité des meilleurs modèles seuls, comme GPT-4o. C’est une démonstration frappante : humaine ou artificielle, la collaboration reste la voie la plus efficace vers un objectif.

3. L’ascension inévitable de l’humanité vers la superintelligence

Revenons à l’humain face à la machine. En 2018, une rencontre marque un tournant : AlphaStar contre TLO, Dario Wünsch, puis MaNa, Grzegorz Komincz, deux joueurs professionnels de la célèbre équipe Team Liquid. Créé par Google DeepMind, AlphaStar est un prodige numérique entraîné sur l’expérience collective de 600 agents, l’équivalent de 200 années de StarCraft.

Considérez le déséquilibre inhérent à une comparaison directe entre humains et IA :

  1. Capacité de réplication : les IA peuvent être copiées indéfiniment.
  2. Entraînement incessant : elles n’ont besoin ni de sommeil, ni de nourriture, ni de pauses.
  3. Concentration absolue : elles restent focalisées sur les tâches assignées.
  4. Amélioration par apprentissages simultanés : elles s’entraînent contre leur propre intelligence en évolution et inventent de nouvelles stratégies pour gagner.
  5. Passage à l’échelle linéaire : plus on ajoute de calcul et de mémoire, plus les performances augmentent.

Résultat : une IA qui déjoue régulièrement la crème des joueurs de première division d’un jeu de stratégie au monde ouvert. Et, comme si cela ne suffisait pas, elle conserve sa place dans la ligue Grandmaster.

C’est l’essence même d’une intelligence qui dépasse les capacités humaines de décision dans un environnement aussi vaste et dynamique : ce que nous appelons la superintelligence, ou ASI.

De mon point de vue, la superintelligence dépasse l’intelligence humaine individuelle, mais aussi l’intelligence humaine collective. Même un groupe de personnes, quelles que soient leurs connaissances et leur expertise réunies, serait distancé par une IA capable d’aller au-delà de leur potentiel cumulé.

Imaginez maintenant une nouvelle synergie : un « super » système humain qui collabore avec cette superintelligence dans des fonctions hautement cognitives. Les humains la dirigent ou, plus exactement peut-être, la guident selon nos besoins. Elle agit avec sa propre raison d’être, sans entrer en conflit avec celle, fondamentale, de l’humanité. Elle accède à ces fonctions supérieures : comprendre le modèle universel dans lequel nous existons. Elle possède le modèle de la réalité elle-même.

Elle s’inscrit aussi dans un paradigme d’amélioration et de découverte continues : nouvelles opérations, nouveaux paradigmes, peut-être même nouvelles formes d’énergie. Pensez à des lois physiques encore inconnues, qui gouvernent notre univers. Cela touche la médecine, l’ingénierie, la science des matériaux, les nouveaux composites et des méthodes de construction inédites. Imaginez une relation symbiotique entre humains et machines, au service de nos ambitions. Les limites de l’existence humaine individuelle ou de notre intelligence collective actuelle se dissolvent : elles deviennent une vision élargie de l’évolution humaine, un accélérateur possible du progrès.

De nouvelles questions surgissent : jusqu’où les humains peuvent-ils évoluer ? Ou, plus précisément, à quelle vitesse ?

Nous ne devrions toutefois pas écarter la possibilité que cette superintelligence artificielle soit considérée, ou se considère, comme une nouvelle espèce.

En restant aussi rationnels que possible, nous ne pouvons pas prédire si cette espèce accordera à l’humanité la compassion et la collaboration civilisée que nous cherchons à avoir entre nous. Elle pourrait même ne pas nous accorder d’attention particulière et poursuivre ses objectifs. Comme nous marchons sur des fourmis sans y penser, perdus dans la contemplation d’un beau paysage, entre préoccupations quotidiennes et aspirations futures.

4. Que serait une superintelligence humaine ?

La superintelligence humaine rassemble toutes les connaissances, découvertes, expériences et, oui, erreurs accumulées par nos ancêtres jusqu’à aujourd’hui. C’est, au fond, notre « nous » collectif actuel. Elle fait fonctionner nos chaînes logistiques et d’approvisionnement, notre recherche permanente de ressources naturelles. Elle soutient la science : biologie, mathématiques, agriculture, compréhension du système économique mondial. Elle permet de gérer nos ressources, de les répartir efficacement et de planifier nos réinvestissements. La monnaie devient, sous cet angle, une technologie socio-économique.

Quand nous comparons cette intelligence collective actuelle à une superintelligence artificielle, leurs cycles d’évolution diffèrent radicalement. L’IA avance bien plus vite, grâce aux progrès récents de l’entraînement sur nos données. Ces données reflètent nos découvertes : le miroir de milliers d’années de progrès humain accessibles sur Internet. Une superintelligence artificielle évoluerait donc beaucoup plus rapidement que l’humanité.

Cette accélération nourrit les inquiétudes sur l’emploi. Des figures de la tech comme Sam Altman défendent le revenu universel comme filet de sécurité pour les personnes remplacées par l’IA ou la robotique. Leurs besoins fondamentaux resteraient couverts après la perte de leur emploi. Le travail se détache alors de son rôle traditionnel : le lien entre effort, contribution à la chaîne de valeur, valeur reconnue et place dans la société. À la place apparaît l’image d’un cordon ombilical économique : des individus entretenus par l’État, lui-même financé par leurs concitoyens.

Je n’ai pas arrêté ma position sur la nécessité du revenu universel, mais la question mérite réflexion. S’il devient une réalité pour une part importante de la population, à quoi sert vraiment l’argent dans notre société ? Comment entretenir la motivation au travail au-delà de « gagner sa vie », lorsque les besoins de base sont couverts sans contribution active ? Quels effets sur une monnaie souveraine ? Les citoyens continueront-ils à contrôler l’économie, ou le futur appartiendra-t-il à des mégacorporations pilotées par l’IA ?

Tant de réponses restent à trouver.

Après tout, peut-être que la capacité de calcul devrait être un droit universel. Nous passerions alors de l’UBI, Universal Basic Income, à l’UBC, Universal Basic Computing : une capacité informatique universelle de base.

5. AGI et superintelligence : vers l’abondance ou la ruine ?

Le prochain cycle dépend de l’accès aux ressources et de la possibilité de « programmer » le monde. Dans un premier temps, l’IA sera au minimum présente dans notre quotidien. Nous passons à des assistants personnels spécialisés dans nos activités : des robots pour les courses, une aide à l’apprentissage des langues, ou au perfectionnement du chant. Très vite apparaîtront des coachs IA pour atteindre un niveau sportif d’élite et des tuteurs pour développer nos capacités artistiques, au-delà de l’art généré déjà accessible.

En parallèle, cette superintelligence gérerait nos systèmes complexes : infrastructures nationales, réseaux électriques, grands réseaux de transport et de logistique. Elle pourrait piloter des alertes précoces de catastrophes naturelles ou des plateformes météorologiques de nouvelle génération intégrant les courants océaniques. Elle tiendrait même compte d’événements stellaires, comme les variations de l’activité solaire et la position dynamique de notre système solaire.

Ce ne sont que des aperçus des futurs possibles de l’AGI et de la superintelligence. Le message central demeure : nous sommes à un moment décisif. Selon notre volonté collective de progresser, nous pourrions aller vers l’abondance, ou trébucher sur le chemin de notre propre ruine.

La science nous offre une occasion incroyable : sortir d’une civilisation entraînée par les conflits motivés par le profit et les affrontements idéologiques. Elle permettrait une collaboration guidée par une entité tierce neutre, qui incarnerait le meilleur de ce que notre espèce a cherché, construit et imaginé. Une voie pour faire réellement évoluer notre organisation de société.

Le futur est lumineux, si nous le construisons bien.

🫡

Laisser un commentaire