Il y a deux façons de se tromper sur l’intelligence artificielle, et chacune compte de nombreux adeptes enthousiastes.

Se tromper, deux fois

La première consiste à avoir peur. Pas une peur discrète et réfléchie. Une peur spectaculaire, digne du cinéma. Les robots arrivent. Les emplois vont s’évaporer du jour au lendemain. Un système suffisamment intelligent finira par conclure que les humains sont inefficaces et agira en conséquence. Dans ce camp, la peur est présentée comme la seule réaction lucide face à ce qui est en train d’être construit.

La seconde consiste à être ébloui. L’IA guérit le cancer d’ici mardi. La singularité arrive à l’heure prévue, actionne un interrupteur, et le monde devient méconnaissable avant la fin de l’année. Dans cet autre camp, un optimisme haletant est la seule réaction qui convienne.

Les deux camps ont un trait commun curieux : ni l’un ni l’autre ne tient particulièrement à réfléchir sérieusement à ce qui se passe réellement. La peur et l’euphorie sont, chacune à sa manière, des formes de paresse intellectuelle. Elles vous épargnent la peine de poser des questions plus difficiles.

Dario Amodei, fondateur et directeur général d’Anthropic, a publié un essai intitulé « Machines of Loving Grace » qui tente quelque chose de vraiment inhabituel : une esquisse détaillée, concrète et sobre de ce à quoi pourrait réellement ressembler un avenir heureux avec l’IA. [1] Il reconnaît les risques. Il a fondé une entreprise vouée à les maîtriser. Mais il soutient aussi, avec soin et une certaine précision, que la plupart des gens sous-estiment considérablement ce qui est possible si les choses tournent bien.

Cet article est une lecture de cet essai, à travers un prisme particulier : la conviction que la chose la plus utile que l’on puisse faire d’une idée vaste et compliquée est de l’expliquer honnêtement, sans arrière-pensée, et sans prétendre que l’avenir est plus certain qu’il ne l’est. C’est à cela que sert Mechane.

Mille chercheurs qui ne dorment jamais

Pour saisir ce que pourrait réellement faire une IA puissante, il est utile de bien comprendre ce qu’elle est.

Amodei décrit les systèmes d’IA les plus performants des prochaines années comme, au fond, un pays de génies dans un centre de données. Des millions d’instances simultanées d’un système plus intelligent que n’importe quel être humain, chacune capable de travailler de façon indépendante sur des tâches différentes, ou de collaborer comme collaborent des équipes humaines, mais à une vitesse et à une échelle qu’aucune institution humaine ne peut égaler.

L’image est saisissante. Mais pour notre propos, ce qui compte le plus est une chose qu’elle laisse implicite. Ce pays de génies n’arrive pas avec son propre programme. Il ne se réveille pas avec un projet en tête. Il travaille parce que quelqu’un lui pose une question, lui confie une tâche ou le met face à un problème. Ce quelqu’un, c’est toujours vous.

Imaginez-le moins comme une superintelligence venue prendre le pouvoir que comme l’accès soudain à une équipe de recherche de la taille d’une ville, disponible à toute heure, capable de lire avant le petit-déjeuner tout ce qui a jamais été écrit sur un sujet donné, et prête à explorer patiemment cent impasses avant de trouver la piste qui fonctionne. L’intelligence est immense. La direction vient toujours d’un humain.

Cette distinction est précisément ce que le camp de la peur et celui de l’enthousiasme ont tendance à manquer. Les outils en cours de construction ne sont pas des agents autonomes poursuivant leurs propres fins. Ce sont des instruments d’une puissance extraordinaire.

La différence entre un scalpel et une perceuse électrique est réelle et importante, mais ni l’un ni l’autre ne décide de ce qu’il faut opérer. C’est la main humaine qui le tient qui en décide.

Ce qui change, c’est le plafond de ce qui devient réalisable. Et ce plafond, soutient Amodei, est bien plus haut que presque tout le monde n’est aujourd’hui disposé à l’imaginer.

Le XXIe siècle compressé

Le passage de l’essai d’Amodei qui vous reste en tête est celui qu’il consacre à la biologie et à la médecine. Il y avance une affirmation qui paraît extravagante au premier abord et qui gagne en plausibilité à mesure qu’on s’y attarde.

Selon lui, la recherche biologique appuyée par l’IA pourrait condenser environ 50 à 100 ans de progrès médical en 5 à 10 ans. Il lui donne un nom : le XXIe siècle compresséDéfinition de Mechane : Le terme de Dario Amodei pour l’hypothèse selon laquelle l’IA pourrait comprimer 50 à 100 ans de progrès médical en une seule décennie en accélérant le rythme des découvertes en biologie. Le lien ouvre l’entrée complète du glossaire..

Pensez à ce que le XXe siècle a accompli. Des vaccins contre des maladies qui tuaient depuis des millénaires. Des antibiotiques qui ont transformé des infections autrefois mortelles en simples désagréments. Le séquençage du génome humain tout entier. Des traitements pour des affections longtemps jugées incurables. Dans une grande partie du monde, l’espérance de vie a à peu près doublé en l’espace d’un siècle.

Pensez maintenant à ce qui reste à faire. La plupart des cancers sont encore mal soignés. Les mécanismes de la maladie d’Alzheimer restent mal compris. Le vieillissement lui-même n’est pour ainsi dire pas traité, considéré comme inéluctable plutôt que comme un processus biologique que l’on pourrait ralentir ou modifier. Si le XXe siècle a été un siècle de progrès extraordinaires, le XXIe devait poursuivre ce travail lentement, année après année, cycle de financement après cycle de financement, essai clinique après essai clinique.

L’idée de compression pose la question : et si nous n’avions pas à attendre aussi longtemps ?

Amodei se montre prudent sur ce point. Il ne prétend pas que l’IA fait des miracles. La biologie a des limites physiques strictes. Les cellules croissent au rythme qui est le leur. Certaines expériences prennent tout simplement le temps qu’elles prennent, et aucune intelligence, si grande soit-elle, n’y peut rien. Mais une part étonnante des découvertes biologiques les plus importantes de l’histoire, fait-il remarquer, est due à un tout petit nombre de chercheurs d’une créativité hors du commun, et beaucoup de ces découvertes auraient pu être faites des années, voire des décennies plus tôt.

Si l’on pouvait accélérer sensiblement le rythme de ces découvertes fondamentales, les retombées seraient vertigineuses. Les médicaments que nous mettrions au point. Les maladies que nous apprendrions à soigner. Les années de vie en bonne santé qui pourraient s’offrir à des gens qui, aujourd’hui, n’oseraient pas les espérer.

Pourquoi demain ne se réveillera pas différent

La singularitéDéfinition de Mechane : Le moment théorique où l’IA devient si capable que le changement technologique s’accélère au-delà de la compréhension humaine — et où le monde tel que nous le connaissons prend fin du jour au lendemain. Le lien ouvre l’entrée complète du glossaire., telle qu’on se la représente d’ordinaire, est un horizon des événements : un moment où l’IA devient si puissante que le changement s’accélère au-delà de l’entendement humain et que le monde devient méconnaissable du jour au lendemain. C’est un récit séduisant. Mais ce n’est pas, tout bien pesé, ainsi que les choses se passent.

Les grandes transitions technologiques ne se font pas du jour au lendemain. Elles s’étalent sur des années et des décennies, de façon inégale, avec des goulets d’étranglement imprévus et des résistances surprenantes. L’électricité a existé comme technologie fonctionnelle pendant des décennies avant que la plupart des foyers n’en disposent. Internet était accessible aux chercheurs dès les années 1970. Les antibiotiques ont mis des années à se diffuser largement, même après leur découverte, et leur effet sur la mortalité s’est fait sentir sur une génération.

Qu’une technologie soit prête ne signifie pas qu’elle soit déployée, et qu’elle soit déployée ne signifie pas qu’elle ait un effet.

Les expériences physiques prennent le temps qu’elles prennent. Les systèmes de réglementation avancent au rythme des systèmes de réglementation, pour le meilleur et pour le pire. Les habitudes et les institutions humaines ne se mettent pas à jour au rythme des versions logicielles. Tout cela freine la vitesse du changement.

La réponse honnête à la question « quand l’IA va-t-elle tout changer ? » est la suivante : elle a déjà commencé, cela va continuer pendant des décennies, et bon nombre des changements les plus importants seront de ceux que personne n’avait clairement prévus.

Un progrès qui profite à tous

Une partie de l’essai d’Amodei reçoit moins d’attention qu’elle n’en mérite. Il s’agit de son argument sur la pauvreté dans le monde et le développement économique, et c’est peut-être ce qu’il écrit de plus important.

L’histoire des grandes avancées technologiques n’est pas, dans l’ensemble, celle de bienfaits répartis également entre tous. Ceux qui profitent les premiers des nouveaux traitements médicaux, des nouvelles infrastructures ou des nouveaux outils de production sont généralement ceux qui ont déjà un accès fiable aux systèmes qui les distribuent.

L’écart entre un pays bien doté et un pays démuni ne se comble pas automatiquement quand une nouvelle technologie apparaît. Souvent, il commence par se creuser.

L’IA pourrait véritablement changer la donne sur ce point.

Parmi les choses les plus précieuses que l’IA peut accélérer figurent le diagnostic et le traitement des maladies, les sciences agronomiques, l’accès à l’éducation, et la possibilité d’offrir des conseils juridiques et financiers concrets à des gens qui n’y ont jamais eu accès.

C’est une situation structurellement différente de la construction de voies ferrées ou de la formation de chirurgiens. Le coût marginal de l’extension d’un outil d’IA performant à une personne de plus tend vers zéro. Cela ne garantit pas l’égalité d’accès, car la distribution a toujours ses propres contraintes économiques, politiques et d’infrastructure. Mais le plafond de la diffusion possible du progrès est plus haut qu’il ne l’a été pour toute autre vague technologique de l’histoire.

Si cela se vérifie ne serait-ce qu’en partie, la contribution la plus décisive de l’IA au XXIe siècle ne sera peut-être pas ce qu’elle accomplit dans les laboratoires de recherche les mieux équipés du monde. Ce sera peut-être ce qu’elle apporte aux deux milliards de personnes qui n’ont pas aujourd’hui d’accès fiable à ce que ces laboratoires finissent par produire.

La réserve honnête

Amodei conclut son essai en rappelant que rien de tout cela n’est garanti. L’avenir heureux qu’il décrit dépend de notre capacité à bien maîtriser les risques, à garder l’IA alignéeDéfinition de Mechane : Le problème consistant à garantir qu’un système d’IA poursuit de façon fiable ce que ses concepteurs voulaient vraiment — et non un but subtilement différent, qui semble identique jusqu’au jour où il ne l’est plus. Le lien ouvre l’entrée complète du glossaire. sur les valeurs humaines et à faire des choix délibérés plutôt que de glisser, en somnambules, vers quelque chose que personne n’a voulu.

Mechane ne pense pas que les risques soient imaginaires. Ils sont réels. Mais la peur, à elle seule, n’est pas un plan. Elle désigne ce qui pourrait mal tourner sans vous donner la moindre prise sur ce vers quoi travailler.

Le XXIe siècle compressé vaut la peine qu’on s’efforce de le réussir. La démocratisation du savoir et des capacités vaut la peine d’être construite avec soin.

Un progrès qui profite à tous, et pas seulement aux privilégiés, mérite d’être conçu explicitement, plutôt que d’espérer qu’il advienne par hasard.

Ce sont toujours les humains qui posent les questions. Le pays de génies dans le centre de données attend qu’on lui donne une direction.

Cet article est fourni à des fins d’information et d’éducation. Les opinions exprimées s’appuient sur des travaux de recherche accessibles au public et sur les arguments de l’essai cité. Les prédictions concernant le calendrier et les capacités du développement de l’IA comportent une incertitude importante. Rien ici ne doit être lu comme une prévision définitive de la manière dont l’IA se développera ou de ce qu’elle accomplira.