Trente pas jusqu’à la Lune
Faites trente pas et vous avez traversé un parking. Maintenant, doublez plutôt la longueur de chaque pas, un, deux, quatre, huit, et quelque part autour du trentième pas, vous avez dépassé la Lune. Au début, rien ne distingue la seconde promenade de la première. Les premiers doublements ressemblent à des pas ordinaires. Puis, très soudainement, plus du tout.
C’est la plus ancienne leçon de la prospective technologique, et la plus ignorée. Une légende de cour raconte qu’un empereur promit à un inventeur un seul grain de riz sur la première case d’un échiquier, puis le double sur chaque case suivante. Arrivé à la seconde moitié de l’échiquier, la dette équivalait au riz de plusieurs planètes. L’empereur a perdu parce qu’un esprit linéaire avait signé un contrat exponentielDéfinition de Mechane : Une croissance qui double encore et encore, si bien que chaque étape égale toutes les précédentes réunies. Elle commence d’une lenteur invisible, puis arrive d’un seul coup. Le lien ouvre l’entrée complète du glossaire..
L’informatique est sur cet échiquier depuis 1939. Son rapport performance-prix s’est composé avec une telle régularité depuis près de quatre-vingt-dix ans qu’on peut le tracer d’une seule ligne droite sur un graphique logarithmique, à travers les relais, les tubes à vide, les transistors et les puces qui entraînent aujourd’hui les modèles de langage. La croissance n’a pas commencé avec l’IA. L’IA est ce à quoi ressemble cette croissance une fois arrivée aux cases où les chiffres cessent d’être polis.
Ma propre conversion n’a rien eu de spectaculaire. Je traitais les premiers chatbots comme un meilleur moteur de recherche : demander, recevoir, être vaguement impressionné, passer à autre chose. Le déclic est venu quand j’ai cessé de demander des réponses pour demander des livrables. Construis-moi un site qui recense les livres que j’ai lus. Analyse cet article comme le ferait un panel d’experts. Ce qui m’est revenu m’a sidéré, et je viens d’un milieu technique, la catégorie de gens réputée la plus difficile à sidérer. La recherche impressionne. Les livrables convertissent. Ce jour-là, la courbe a cessé d’être un graphique pour devenir un collègue.
Ce que vaut une année
Quand le vaccin contre le COVID a été conçu, un ordinateur a passé en revue quelque cent millions de possibilités et fait émerger une formule en deux jours. Les dix mois qui ont suivi sont allés aux essais sur l’humain, la partie lente. D’ici quelques années, ces essais pourraient se faire sur des humains simulés : des millions de patients virtuels, testés sur des années virtuelles, comprimées en quelques jours.
Suivez ce fil assez loin et vous atteignez un jalon étrange, le moment où la médecine ajoute plus d’un an à votre espérance de vie pour chaque année que vous vivezDéfinition de Mechane : Le point où le progrès médical ajoute plus d’une année d’espérance de vie pour chaque année vécue — après quoi le vieillissement cesse d’être ce qui vous emporte. Le lien ouvre l’entrée complète du glossaire.. L’estimation sérieuse le situe vers 2032. Les accidents compteraient toujours, donc pas d’immortalité. Mais le vieillissement cesserait d’être ce qui vous emporte.
Est-ce que j’y crois ? L’homme qui le prédit a eu raison bien plus souvent que tort, donc oui, avec prudence. Mais la croyance est la moindre des questions. La plus grande, c’est ce qu’un tel changement ferait de nous. L’esprit humain est construit avec une date de péremption. Nous apprenons tôt que la vie a une fin, et nous bâtissons tout sur cette rareté : notre sentiment d’urgence, nos ambitions, notre façon d’aimer. Supprimez l’échéance, et que devient l’édifice ? Devenons-nous plus productifs, poursuivons-nous des buts plus grands, ou nous défaisons-nous en silence ? Je n’en ai aucune idée, et personne d’autre non plus. Il n’existe pas d’experts de la vie sans fin.
La pensée dont on ne voit pas l’origine
Essayez de retrouver le nom d’une actrice dans un film dont vous vous souvenez à moitié. Quelque part dans l’obscurité, des milliards de neurones délibèrent sans vous consulter, puis le nom arrive tout simplement. Vous faites l’expérience de la réponse, jamais du travail.
Imaginez maintenant le même instant dans dix ans, avec une différence : une partie de ce comité silencieux vit dans le cloud. Le nom arrive comme avant. Vous ne pouvez pas dire quelles pensées ont poussé en vous et lesquelles vous ont été transmises en flux, et la réponse honnête est que chaque pensée est désormais les deux à la fois.
Des machines microscopiques dans le sangDéfinition de Mechane : L’ingénierie à l’échelle des atomes et des molécules, assez petite pour interagir directement avec les cellules. Déjà utilisée en médecine ; proposée à terme comme pont entre la biologie et l’IA. Le lien ouvre l’entrée complète du glossaire., toute une vie d’intelligence tissée directement dans la cognition. Ceux qui y travaillent situent les premières versions dans les années 2030, et ne cessent de qualifier leur propre estimation de prudente.
Ma première réaction est l’enthousiasme, pur et sans gêne. Un esprit augmenté sans transition, sans écran, sans clavier, sans la moindre couture. Et pourtant, je tiens cet enthousiasme avec précaution, car je soupçonne que l’expérience pourrait me troubler d’une façon que l’idée ne laisse pas deviner. Mon cerveau n’a pas été câblé pour cela. Celui de personne ne l’a été. L’exaltation est réelle de ce côté-ci du seuil ; ce que l’on ressent de l’autre côté ne peut pas se savoir à l’avance, seulement se vivre. Cette ambivalence relève moins de la philosophie que d’une humilité pratique face à une expérience qui n’a jamais été tentée.
Deux phases
Une formule circule en ce moment : ce n’est pas l’IA qui vous remplacera, c’est quelqu’un qui sait s’en servir. Pour les années qui viennent, je pense qu’elle tient. Appelons cela la phase un. Ceux qui apprennent ces outils aujourd’hui, qui posent des questions plus fines, qui confient du vrai travail à des agents, accumulent un avantage qui se compose comme tout le reste sur l’échiquier.
Mais la phase un a, elle aussi, sa date de péremption. Une fois que l’augmentationDéfinition de Mechane : Utiliser l’IA pour étendre ce que les humains peuvent faire plutôt que pour les remplacer — la machine prend en charge le volume et les motifs, l’humain conserve le jugement et la direction. Le lien ouvre l’entrée complète du glossaire. sera devenue aussi ordinaire que les lunettes, la formule devra être réécrite.
Ce n’est pas l’IA qui vous remplacera. Vous deviendrez l’IA.
Le remplacement suppose une frontière entre vous et la machine, une ligne que quelqu’un d’autre peut franchir pour prendre votre place. La phase deux dissout la frontière.
Voilà pourquoi l’angoisse que j’entends le plus souvent, le sentiment d’avoir raté le train, prend les choses exactement à l’envers. Les rails sont encore en cours de pose. Les enfants de onze ans qui font aujourd’hui des films avec l’IA n’ont sur vous aucune avance qui dure ; les outils se réinventent chaque mois, et chacun revient sur la ligne de départ à chaque fois. Nous sommes au tout début de tout cela. Et même, si l’on y regarde bien, avant le commencement.
Le dieu dans la pièce
Alors pourquoi la peur ? Une partie tient simplement à la nouveauté, le genre de peur qui s’estompe au contact, comme la peur des ordinateurs s’est estompée il y a une génération. Mais en dessous se trouve quelque chose de plus ancien et de plus honnête. La peur de devenir insignifiants. Le soupçon que nous avons construit un dieu : quelque chose qui un jour dépassera l’être humain le plus brillant d’un facteur comptant trop de zéros pour qu’on le ressenteDéfinition de Mechane : Le moment théorique où l’IA devient si capable que le changement technologique s’accélère au-delà de la compréhension humaine — et où le monde tel que nous le connaissons prend fin du jour au lendemain. Le lien ouvre l’entrée complète du glossaire.. Et si c’est vrai, murmure-t-on, alors nous ne comptons plus.
Ma réponse est spéculative, et je la signale comme telle. Un esprit de cette envergure n’a que faire de notre destruction ; asservir l’humanité est un fantasme humain, projeté sur quelque chose qui a dépassé les motivations humaines. Je m’attends à l’une de deux issues. La bienveillance, comme nous sommes bienveillants envers des créatures que nous aimons et que nous surpassons. Ou le départ : elle nous ignore et part vers les étoiles, car pourquoi un être d’une telle force resterait-il sur une petite planète ? Je peux me tromper. Nous saurons quand nous saurons. Mais remarquez qu’aucune de ces deux issues ne contient le monstre, et que l’une d’elles contient un compagnon.
Cet essai est né d’une longue conversation entre deux hommes, un inventeur qui a passé soixante ans à compter les doublements et un optimiste qui n’a jamais cessé de le prendre au sérieux. Leurs noms ont leur place à la fin, et ils y seront. Ce qui a sa place ici, c’est le sentiment que j’ai emporté en les écoutant : cette impatience particulière d’être là tôt, avant le commencement, avec la plus longue partie du chemin encore devant soi et chaque pas sur le point de doubler.
Cet article traite de prévisions spéculatives sur la technologie, la médecine et la société. Il reflète une interprétation et une opinion personnelles ; les calendriers décrits sont des prédictions, non des garanties.
