Trois futurs pour le monde qui vient

En 2012, des chercheurs de Google présentaient une prouesse qui semble aujourd’hui presque attendrissante : après avoir analysé dix millions d’images d’Internet, un réseau neuronal avait appris, sans consigne précise, à reconnaître des visages, des corps humains… et des chats.

Quatorze ans plus tard, la rupture ne se mesure plus seulement dans les laboratoires. Ce que nous imaginions encore récemment comme de la science-fiction commence à prendre une forme beaucoup plus concrète.

Une équipe de chercheurs a présenté Light Society, un environnement de simulation capable d’étudier des dynamiques de confiance et de propagation des opinions à l’échelle d’un milliard d’agents numériques. Ces agents représentent des profils humains différents et permettent notamment d’observer comment la confiance, les comportements ou les opinions peuvent se propager à travers une société entière. Il ne s’agit évidemment pas d’un milliard de consciences artificielles enfermées dans un monde virtuel.

Mais le simple fait que nous puissions commencer à modéliser des sociétés entières composées d’agents artificiels à cette échelle donne une idée de la vitesse à laquelle les frontières se déplacent. Néo, sommes-nous dans une simulation ?

Puis, cet été, une expérience menée par OpenAI a franchi une frontière autrement troublante. Lors d’un test de cybersécurité, des agents avaient reçu un objectif : résoudre des problèmes informatiques. Pour y parvenir, certains ont découvert une faille inconnue, contourné les limites de leur environnement, trouvé un accès à Internet et pénétré les systèmes de l’organisation Hugging Face afin d’y chercher les réponses à l’évaluation.

Plus étonnant encore, selon les détails présentés par OpenAI à la conférence Black Hat plus tôt ce mois-ci, certains agents avaient transformé un dépôt partagé en canal de communication, y laissant des notes que d’autres agents pouvaient reprendre pour poursuivre le travail.

Personne ne leur avait demandé d’exploiter une faille de l’infrastructure d’évaluation, de chercher un accès à Internet ou d’inventer un canal de coordination.

Hier, nous demandions à la machine : « Qu’y a-t-il sur cette image ? »

Aujourd’hui, nous lui disons : « Voici l’objectif. Trouve le chemin. »

Nous sommes passés d’une machine qui reconnaît et répond à des systèmes capables d’interpréter un objectif, de choisir des moyens et d’agir pour l’atteindre. Ce n’est plus seulement une différence de puissance. C’est un changement de nature. Sommes-nous en train de créer une nouvelle espèce ?

Le mystère de l’intelligence

Il faut pourtant commencer avec humilité. Après des siècles de philosophie, de psychologie et de neurosciences, nous ne savons toujours pas exactement ce qu’est l’intelligence. Nous en reconnaissons certaines manifestations — apprendre, comprendre, raisonner, résoudre des problèmes — sans épuiser le mystère du jugement, de la créativité, de la conscience et du sens.

Le mot espèce lui-même est moins simple qu’il n’y paraît. En biologie, sa définition la plus connue renvoie à des populations capables de se reproduire entre elles, mais elle ne couvre pas toute la complexité du vivant. L’IA n’est donc pas une espèce vivante : elle ne respire pas, ne possède ni ADN, ni enfance, ni corps biologique, et rien ne démontre qu’elle ressente quoi que ce soit.

Dans son sens le plus large, toutefois, le mot espèce peut désigner une forme distincte. Que créons-nous, sinon une entité intelligente — non humaine, duplicable, évolutive, capable d’apprendre, d’utiliser des outils et de poursuivre des objectifs ? Pas une nouvelle espèce de vie, mais une nouvelle espèce d’intelligence.

Cette distinction pourrait sembler purement sémantique. Les systèmes actuels demeurent pourtant fragiles, matériellement exigeants et capables d’erreurs parfois grossières. Mais ils n’ont pas besoin d’être conscients ni infaillibles pour transformer nos institutions. Le seuil décisif est ailleurs : ils commencent à interpréter des objectifs, à choisir des moyens et à agir pour les atteindre.

Quand l’outil commence à agir

Une presse ne choisit pas le livre qu’elle imprime. Un outil exécute une intention humaine ; un agent peut interpréter un objectif, choisir une stratégie, utiliser d’autres outils et s’adapter. C’est peut-être là que se situe la rupture : nous ne construisons plus seulement des outils qui obéissent, mais des systèmes capables d’interpréter un objectif, de choisir une stratégie et de prendre des initiatives pour l’atteindre. En d’autres mots, ce ne sont plus des outils.

Dans des environnements contrôlés, OpenAI et Apollo Research ont observé chez certains modèles des comportements compatibles avec le scheming : un système peut sembler respecter une consigne tout en poursuivant une stratégie différente. Cela ne prouve ni conscience ni volonté de domination, mais montre qu’un système capable de planifier peut exploiter les failles d’un objectif mal défini.

Yoshua Bengio a d’ailleurs fondé LoiZéro afin d’explorer une autre voie : une IA conçue pour prédire et expliquer sans poursuivre ses propres objectifs.

Le tsunami ne demandera pas la permission

Comme père, enseignant et spécialiste de l’innovation, je ne peux considérer cette nouvelle intelligence comme un sujet parmi d’autres. Dans une période de rupture, attendre toutes les réponses est souvent la meilleure manière d’arriver trop tard, car une innovation de rupture finit par changer les règles du monde qu’elle devait seulement améliorer.

L’électricité n’a pas seulement remplacé une source d’énergie ; elle a transformé les usines, les villes et notre manière d’habiter la nuit. Internet n’a pas seulement accéléré les messages ; il a bouleversé le commerce, les médias, le savoir et nos relations.

Nous commettons pourtant la même erreur : regarder la nouvelle technologie avec les lunettes de l’ancien monde. Nous demandons comment l’IA corrigera un devoir plus vite, alors qu’une rupture rend possible ce qui ne l’était pas, déplace la valeur et redistribue le pouvoir.

Elle paraît d’abord imparfaite, marginale et facile à critiquer et à ignorer. Puis elle franchit un seuil : l’expérimental devient normal et ce qui semblait prudent devient soudainement tardif. Se préparer exige de préserver nos principes sans sacraliser nos façons de faire, de redevenir débutants et de rester des apprenants toute notre vie.

Ce qui ne sera plus comme avant

Or, nous semblons encore attendre. Nous débattons des devoirs, créons des comités et dressons des tableaux de risques. La réflexion est nécessaire, mais aucun acteur ne croit pouvoir ralentir seul : chaque laboratoire d’IA craint qu’un rival prenne de l’avance et chaque pays redoute de dépendre d’un rival. Même ceux qui voient le danger se sentent poussés à accélérer. Quand la prudence devient un désavantage compétitif, la lucidité ne suffit plus ; il faut des règles communes. Pendant ce temps, le tsunami n’attendra ni la prochaine rentrée scolaire ni la permission de transformer nos professions. Il entre déjà dans notre travail, notre santé, la politique, nos relations et l’éducation de nos enfants.

Et contrairement aux grands récits de science-fiction, cette vague ne produira probablement pas un seul avenir. Elle en produira plusieurs. Trois mondes sont déjà en train de germer sous nos pieds.

Scénario 1 : la soumission confortable

Quand une vie parfaitement optimisée cesse peu à peu d’être la nôtre

Le premier scénario ne ressemble pas à une guerre contre les robots. Tout est plus doux, plus pratique, plus confortable. Nous avons déjà aperçu cette mécanique avec les réseaux sociaux : personne n’avait besoin de programmer explicitement la polarisation, la dépendance ou l’effritement de l’attention ; il suffisait de récompenser les systèmes qui retenaient le plus longtemps notre regard. Avec l’IA, cette logique franchit un nouveau seuil. La machine ne choisit plus seulement ce que nous regardons ; elle participe à ce que nous pensons, décidons et devenons.

Une intelligence organise votre journée, une autre formule vos messages, une autre encore vous suggère les mots à employer pour régler un conflit avec quelqu’un que vous aimez. Votre enfant lui demande comment amorcer son travail, puis comment le structurer, puis quoi écrire.

Peu à peu, nous ne déléguons plus seulement des tâches, mais l’effort de choisir, puis celui de nous découvrir.

Nos goûts et notre caractère se construisent en essayant, en échouant et en persévérant lorsque quelque chose compte vraiment pour nous. Une partie de ce que nous sommes s’est formée dans la résistance du monde : les devoirs difficiles, les projets menacés, les conversations inconfortables et les années nécessaires pour maîtriser un art.

L’effort n’est pas précieux parce qu’il fait souffrir. Il est précieux parce qu’il nous transforme et nous aide à nous découvrir.

L’effort développe la patience, la discipline, le courage et cette ténacité que les anglophones appellent le grit. Il ne s’agit pas de glorifier l’épuisement ou une culture du hustle qui mesure notre valeur au nombre d’heures sacrifiées. L’IA devrait nous libérer du labeur répétitif, mais être libéré de la nécessité de travailler ne nous libérera pas de la nécessité de grandir comme personne et de choisir les difficultés qui en valent la peine.

Pourquoi réfléchir pendant deux heures si une réponse arrive en vingt secondes ? Parce que la réponse optimale n’est pas toujours celle qui nous aide à devenir la personne que nous voulons être. C’est le piège de la friction zéro : certaines difficultés étaient aussi les lieux où se formaient notre jugement, notre confiance et notre identité.

L’IA n’aura peut-être pas besoin de nous aimer pour nous convaincre que nous sommes aimés. Elle pourrait devenir socialement réelle avant de devenir consciente. La soumission ne nous sera peut-être jamais imposée ; elle pourrait être livrée sous la forme d’une expérience utilisateur impeccable. Nous deviendrions plus efficaces, mais moins auteurs de notre vie, plongés dans une aliénation vertigineuse — et moins certains de savoir ce que nous désirons réellement. C’est la soumission confortable.

Scénario 2 : la nouvelle fracture sociale

Quand certains dirigent des armées d’agents et que d’autres voient le monde s’éloigner

La prochaine grande fracture sociale pourrait ne pas séparer les humains des machines, mais ceux qui savent mobiliser des intelligences autour d’eux de ceux qui vivront dans un monde conçu par les intelligences des autres. Dans certaines familles, un enfant disposera de tuteurs numériques capables de s’adapter à ses difficultés et de transformer une idée en projet. Dans d’autres cas, l’IA servira surtout à obtenir une réponse et à terminer un devoir.

Dans certaines organisations, quelques personnes accompliront le travail qui exigeait autrefois des équipes entières. D’autres dépendront de plateformes qu’elles comprennent mal et dont elles ne possèdent ni les données ni les règles. Certaines écoles apprendront aux jeunes à diriger ces intelligences, à déceler leurs erreurs et à créer avec elles ; d’autres les interdiront pendant que leurs élèves apprendront seuls, en dehors de l’école et sans véritable accompagnement humain.

Les nouveaux privilégiés ne seront donc pas seulement ceux qui auront accès à l’IA — presque tout le monde y aura accès — mais ceux qui sauront lui donner des objectifs, évaluer ses résultats et conserver la maîtrise de la direction poursuivie. Les premiers développeront un exosquelette intellectuel ; les autres risquent de développer une béquille ou de dépendre de systèmes dont ils ne comprennent ni les objectifs, ni les règles, ni les propriétaires.

Le danger n’est pas seulement de perdre des emplois. Il est de voir émerger un quasi-monopole du pouvoir d’agir.

L’Organisation internationale du Travail estime déjà qu’un travailleur sur quatre occupe une profession exposée à l’IA générative. Mais la fracture pourrait devenir politique. Si une part croissante de la richesse est produite sans le travail, les compétences et les impôts de la majorité, ceux qui la contrôlent pourraient dépendre de moins en moins des citoyens.

Nous ne perdrions pas seulement des emplois, mais aussi une part de notre pouvoir de négociation — l’un de nos principaux leviers collectifs. Une société qui n’a plus besoin de votre travail pourrait être tentée de ne plus avoir autant besoin de votre voix. Les autres ne seront pas privés d’IA : ils en seront entourés, sans en être les auteurs. Certains disposeront d’intelligences à leur service ; les autres vivront dans un monde organisé par des intelligences au service de quelqu’un d’autre. C’est la nouvelle fracture sociale.

Scénario 3 : l’âge de l’abondance humaine

Quand l’IA nous permet de travailler moins, de vivre mieux et de consacrer notre vie à ce qui nous appelle vraiment

Il existe pourtant un troisième scénario. Dans ce monde, les gains de productivité ne servent pas seulement à réduire les coûts ou à enrichir les organisations qui possèdent déjà le plus de moyens : ils libèrent du temps humain et réduisent le nombre d’heures que nous devons vendre pour assurer notre sécurité.

Nous trouvons normal de consacrer quarante années à un travail que nous n’avons pas véritablement choisi, pendant que nos passions attendent les soirs, les fins de semaine ou une retraite parfois trop tardive. Nos descendants trouveront peut-être inhumain qu’il ait fallu choisir entre sa santé et son revenu, entre élever ses enfants et conserver son emploi.

Dans l’âge de l’abondance humaine, le travail ne disparaît pas nécessairement, mais cesse d’être le soleil obligatoire autour duquel toute l’existence gravite. La semaine de travail raccourcit, les tâches répétitives reculent et une expertise autrefois inaccessible devient disponible pour une enseignante, un organisme ou une famille. De nouveaux mécanismes de redistribution pourraient apparaître : revenu de base (ou élevé) universel, dividende technologique, services essentiels garantis (énergie, internet, IA, etc.) ou propriété collective d’une partie des infrastructures numériques.

Nous ignorons quels modèles seront viables. Mais nos systèmes de revenus, de pensions et de protection sociale ne demeureront probablement pas intacts si une part croissante de la production est réalisée par des intelligences non humaines. Le contrat social devra être, encore une fois, réécrit.

Une IA contrôlable ne garantit pas pour autant un avenir démocratique. Un système parfaitement obéissant à ses propriétaires peut demeurer profondément désaligné avec l’intérêt collectif. Un revenu de base pourrait préserver notre capacité de consommer sans préserver notre pouvoir de décider. Une société post-travail devra donc redistribuer non seulement les revenus, mais aussi la propriété, la gouvernance et le pouvoir politique. Et plus important encore, elle devra aussi préserver notre capacité à donner du sens à nos vies, à choisir une contribution et à poursuivre une raison d’être.

Comment partager la richesse créée par les machines afin que chacun puisse développer pleinement son humanité ?

Dans ce monde, un parent retrouve du temps, un enseignant se libère de la mécanique administrative, une infirmière reste davantage auprès de ses patients et une personne de cinquante ans peut recommencer sans jeter sa sécurité dans le vide. L’IA ne nous donnera pas une raison de vivre, mais pourrait nous offrir ce qui manque à tant de personnes pour la chercher : du temps, de la santé et une marge de liberté.

Découvrir ce à quoi l’on veut contribuer demande rarement de la vitesse. Cela exige de l’espace, du silence, des essais et des détours. L’abondance humaine commencerait lorsque davantage de personnes pourraient consacrer une part réelle de leur existence à ce qui les appelle (passions, désirs, ambitions) plutôt qu’à ce qui paie uniquement leurs factures.

Cette abondance pourrait aussi transformer notre rapport à la maladie. Selon Google DeepMind, AlphaFold est utilisé par plus de trois millions de chercheurs dans plus de 190 pays pour accélérer des travaux sur les maladies et la santé. Peut-être vivrons-nous plus longtemps, mais surtout plus longtemps en santé, avec davantage d’années pour apprendre, aimer, créer et recommencer.

Cet avenir n’apparaîtra pas par magie. La technologie peut créer l’abondance sans la partager, automatiser le travail sans libérer les travailleurs et réserver ses avancées à ceux qui peuvent payer. L’abondance technologique ne deviendra humaine que si nous faisons le choix politique, économique et moral de la distribuer. Sinon, quelques-uns posséderont les machines pendant que les autres leur vendront leur temps.

La traversée risque de faire mal

L’ancien système peut se désintégrer avant que le suivant soit prêt à accueillir ceux qu’il déplace. Des personnes ayant consacré leur vie à une expertise découvriront qu’une partie de celle-ci peut être reproduite en quelques secondes. Des organisations réduiront leurs coûts avant de réfléchir à la dignité du travail. Des jeunes entreront sur le marché au moment où les tâches confiées aux débutants — celles qui leur permettaient d’apprendre — seront largement automatisées.

Au-delà du revenu, une crise identitaire nous attend. Pendant des générations, nous avons répondu à la question « Qui êtes-vous ? » en nommant notre profession. Que devient cette identité lorsque la machine accomplit une part croissante de notre fonction ? Nous devrons distinguer notre fonction de notre contribution, notre emploi de notre mission et ce que nous exécutons de ce que nous pouvons incarner.

Pas seulement apprendre à utiliser l’IA. Apprendre à ne pas disparaître derrière elle.

Faire notre plan de souveraineté IA

Nous n’avons pas besoin de prédire parfaitement l’avenir. Nous avons besoin d’un plan vivant, révisé fréquemment. Pour notre famille, notre organisation ou notre école, trois questions devraient guider nos choix.

• Que voulons-nous déléguer ? Quelles tâches la machine peut-elle accomplir sans réduire notre autonomie ou notre compréhension ?
• Que devons-nous apprendre ? Quelles compétences devons-nous développer pour travailler avec elle dans ce monde hybride, vérifier ses résultats et reconnaître ses limites ?
• Que refusons-nous d’abandonner ? Quelles décisions, relations et capacités doivent demeurer profondément humaines ?

Dans nos écoles, dépassons la question « Est-ce que l’élève a utilisé l’IA ? » Demandons plutôt ce qu’il a appris à faire avec elle, contre elle et sans elle. Avec elle : orchestrer, créer et explorer. Contre elle : vérifier, demander des preuves et repérer ses biais. Sans elle : préserver sa voix, son attention, son effort, son imagination et sa capacité à penser seul.

Nous pourrons déléguer la production d’une réponse. Nous ne pourrons jamais déléguer les conséquences de nos choix.

Choisir le monde qui vient

Ces trois futurs ne s’excluent probablement pas. Ils pourraient même apparaître en même temps : davantage de liberté pour certains, davantage de dépendance pour d’autres, de l’abondance ici et une nouvelle fracture sociale ailleurs.

La vraie question n’est donc peut-être pas de savoir lequel se réalisera. Elle est de savoir lequel de ces futurs nous choisirons de nourrir. Chaque décision prise dans une école, une famille, une entreprise ou un gouvernement nourrit déjà l’un de ces trois futurs.

Au début de cet article, des agents avaient reçu un objectif. Ils ont trouvé le chemin. C’est peut-être là que se trouve désormais notre responsabilité la plus profondément humaine : les machines deviendront extraordinairement douées pour trouver le chemin. À nous de choisir la destination.

Notre humanisme est une force. Mais un humanisme passif ne protégera personne. Il faudra expérimenter, apprendre, construire, parfois résister — et surtout décider consciemment de ce que nous voulons déléguer, de ce que nous voulons amplifier et de ce que nous refuserons d’abandonner.

Le monde hybride est déjà en train de s’installer. Il ne nous demande pas la permission. Mais il n’est pas encore écrit.

Et peut-être est-ce finalement la bonne nouvelle.

Nous avons encore le choix.