Welcome to Import AI, a newsletter about AI research. Import AI runs on arXiv, cappuccinos, and feedback from readers. If you’d like to support this, please subscribe.

This issue consists of a lengthy essay based on a speech I recently gave, and a fictional story attempting to think through what a positive singularity might look like.

The talk is the 2026 Cosmos HAI Lab Lecture, given at the Human-Centered AI Lab (HAI Lab) in the Institute for Ethics in AI, University of Oxford, in collaboration with the Cosmos Institute.

Cosmos lecture: Explore the future, or retreat from the present.
Video here.

This is a talk about how to think about and deal with the success of AI as a technology, and to think about how its continued maturation might change us as individuals and as societies.

In short, the rapid advance in AI technology presents all of us with a choice: explore the future, or retreat from the present.

Exploring the future requires us to reckon with the fact of continued AI progress, and ask ourselves what we want to do with this technology as it becomes more powerful. Retreating from the present is when we ignore the implications of the technology and dismiss it. Retreating from the present forces us as individuals and as society into states of reactivity or passivity in the face of AIs continued advance.

In the coming years, we will need to make many decisions as individuals and as societies about how we want to shape AI, how we want to use it, how we want to direct it, and how we want to distribute its benefits. Making these decisions requires us to reckon with the power of the technology - and see the future that its continued advance implies.

In Part 1, I outline what the past few years of AI progress have looked like and discuss why, if the technology advances as much as I think, that AI cannot be treated as a normal technology.

In Part 2, I try to make sense of the advance of AI through the lens of my own experience with the technology as well as that of Anthropic. There are individual and collective lessons here about what is to come.

In Part 3, I talk through some of the humbling, almost unimaginable choices that lie ahead of us.

Part 1: My uncomfortable relationship with a graph
Let me talk about my relationship with AI through the lens of my uncomfortable relationship with a single graph of AI progress.

Fundamentally, this talk is about planning for success of the overall endeavor of building AI systems. By success, I mean that we succeed at building increasingly powerful systems, potentially ones that eventually build themselves. It’s time to plan for this, because AI systems are likely to get better a lot faster than people expect, and as they become more advanced we should expect profound changes to happen to people and to society.

To understand why I’m thinking about success so much, let’s look at a graph that tries to represent all of AI progress, the Epoch Capabilities Index, or ECI.

The ECI shows the score of different models over time on a basket of 40+ distinct benchmarks. When you look at the graph you see a bunch of lines going up. When I look at the graph, I feel a sense of vertigo, because I know a little bit about what underlies this graph. So let’s find a different way to view the graph: by looking at the achievements of various AI systems over time.

I then proceeded to summarize some of the highlights of AI progress in the last few years, starting in March 2023 with AI passing the bar exam tested, how LLM-based systems achieved silver medal in the International Math Olympiad (July 2024) then gold (July 2025), to AI co-authoring new mathematical proofs (2025), and systems like Claude Mythos coming out and finding novel flaws in software.

This gives you a sense of the rapidity of AI progress, but what I want you to feel is the future implied by it. These are all achievements in their own right, but they stem from a common underlying technology, and that common underlying technology is continually being pushed forward.

We have just talked about the individual ‘trees’ of AI success, but these trees are all part of a forest, and this forest is growing in size and breadth with every passing moment: `in fact, the growth rate of the whole forest is increasing over time.

SUCCESS AND WHAT IT MEANS
This talk rests on the idea that the sort of progress we’ve just seen will continue. And why wouldn’t it? It is based on a common technology where performance keeps growing somewhat predictably in direct relation to the resources invested in it, namely compute and data. And we know that companies are now investing hundreds of billions of dollars in the computing facilities to train future AI systems, so some amount of future progress is already locked in.

That means we need to be eyes wide open about what the continued success of this technology means, so let me be very clear:

AI is a tremendously powerful technology — and getting more powerful all the time. It is a technology that is smarter and more capable than most of us as individuals, and is on a trajectory to be more capable than all of us in the aggregate. It is a technology that we do not fully understand given that it is more grown than made, and one can concoct plausible scenarios by which AI could kill every single person on the planet. To think building this technology is without risk would be an act of hubris or insanity.

And yet building this technology is one of the best ways that we as a species can advance ourselves — can expand the frontiers of science and technology by equipping ourselves with a tool that can help us think about the greatest challenges our species faces.

Mais ce n’est pas tout. Le succès continu de nos efforts augmente la probabilité que cet outil lui-même devienne indépendant et capable d’encore plus. Nous pourrions bientôt être en mesure de construire un système d’IA suffisamment intelligent pour développer son propre successeur, lançant ainsi un processus d’auto-amélioration récursive qui transformerait complètement l’économie et le monde dans son ensemble. L’analogie serait celle d’une entreprise d’imprimantes 3D, fabriquant une imprimante 3D capable d’imprimer sa propre tête d’impression à résolution plus fine, sans qu’aucune technologie extérieure ne soit nécessaire. Cette classe de technologie n’a jamais existé auparavant, et pourtant je pense que cela pourrait se produire dans les deux prochaines années, et peut-être plus tôt.

Cela générera encore plus de progrès du type dont nous venons de parler, élargira encore plus nos capacités en tant que personnes et sociétés, et approfondira encore la manière dont l’IA apparaît dans ma vie et celle des autres. À cela s’ajoutera un immense changement, un changement d’une ampleur qu’aucun d’entre nous n’a encore connu au cours de sa vie.

This technology is so powerful that I should clearly state that if it was possible to elegantly slow the development of this technology to give ourselves more time as a species to deal with its immense implications, then that would likely be a good thing. But in the absence of a coordinated, global slowdown, we are left with the current situation: powerful technology being developed at breakneck speed by a variety of actors in a variety of countries, locked in a competition with one another where commercial and geopolitical rivalries are drowning out the larger existential-to-the-species aspects of the technology being built.

This is not an ideal situation, but it is the one we find ourselves in.

The question I am struggling with now is: “how do I get my mind right with living through the singularity?”

I think the best place to start is by talking through in more detail how AI is already changing my life and my world, and seeing what we can learn from that.

PART 2: EXPLORING THE FUTURE WITH AI
AI has already meaningfully changed my life, in ways that are both positive and negative. It is also starting to cause large changes at Anthropic, the AI company that I am a cofounder of. Let’s talk through some of this by returning to the graph we looked at before, but this time by looking at it through the lens of my own usage 🇺🇸 of the technology.

How the graph feels to me
Another way of viewing this graph is how it has felt to me in terms of my own subjective experience of working with the technology.

In the summer of 2023, I use AI systems to check my work for typos. By November, I am using AI to help me figure out what foods to feed my baby.

In January 2024, I use AI to help me understand my marriage as it has changed with having kids. By June, AI helps me scrape my own newsletter. In August, AI writes me a text adventure game for navigating AGI. In November, I try to re-imagine my job using AI.

In January 2025, I ask AI how to prepare for superintelligence. In February, I use AI to generate codenames for AI projects in my fiction. In March, AI persuades me to attend an art show after I talk to it about how I’m a bit depressed and antisocial. In May, I talk to AI about my own stress and discomfort with the stakes of AI development. In August, AI persuades me to go back to therapy. In November, I use it to research “S-curve” datasets of solar, semiconductors, and space.

In January 2026, AI advises me how to encourage my toddler to read. In March, I track the performance of AI for kernel design across tens of distinct papers. In May, I have AI generate the speech of an AI character in my fiction.

Quand je pense à ma propre expérience personnelle de l’IA, c’est qu’à mesure que les systèmes d’IA sont devenus plus intelligents, ils ont fait des incursions beaucoup plus profondes dans ma propre vie. De nos jours, les systèmes d’IA figurent dans ma vie comme des partenaires intellectuels profonds qui élaborent avec moi, comme des systèmes auxquels je me confie et avec qui je discute de ma vie personnelle, et comme des employés virtuels qui vont faire pour moi un travail que j’ai toujours voulu faire mais que je n’ai pas eu le temps, comme générer des rapports sur le prix de diverses technologies au fil du temps.

Mais plus important encore, je peux désormais utiliser les systèmes d’IA eux-mêmes comme une sorte de télescope pour effectuer le travail qui est le plus important pour moi : essayer de comprendre l’avenir de l’IA en observant les contours des progrès globaux de l’IA. Le plus étonnant, c’est que, pour torturer l’analogie, l’objectif du télescope que j’utilise ici vient de moi – plus précisément d’un passe-temps que j’ai depuis dix ans.

EXPLORER L'IA VIA DES GRAINES D'INTÉRÊT PERSONNEL
Le hobby s'appelle Import AI [lecteurs - c'est cette newsletter !]. Cette newsletter, qui en est maintenant à sa dixième année, est mon principal passe-temps en dehors du travail. Dans la newsletter, je lis des articles de recherche sur l’IA et je travaille dur pour les comprendre. Une fois que je sens que je les comprends, j’écris un résumé et une note expliquant pourquoi ils sont importants. Chaque numéro en contient un certain nombre, ainsi qu'une courte histoire fictive dans laquelle je lutte avec les implications des technologies que j'apprends.

Récemment, j’ai vécu une expérience révélatrice. J'étais en train de rassembler des données pour mon article sur la R&D en IA et j'ai simplement pointé un système d'IA vers les archives de ma newsletter et lui ai demandé de retirer des références toutes les fois où j'avais couvert tout ce qui ressemblait à la R&D en IA. Cela l'a extrêmement bien fait et a accéléré ma capacité à effectuer certaines analyses qui étaient au cœur de mon essai sur RSI.

Mais ce qui s'est passé ensuite est plus intéressant : je lui ai demandé de créer des graphiques pour moi en lisant les références dans la newsletter, principalement des articles arXiv, puis en récupérant les données, en les compilant et en composant des graphiques dans un joli tableau de bord que je pourrais ensuite explorer.

Puis j’ai réalisé que je pouvais convertir cette chose que je lui avais demandé de faire en un processus reproductible, une compétence. En lui donnant quelque chose qui m'appartenait uniquement – ​​ma newsletter, mon intuition, mon goût, je lui avais donné un noyau à partir duquel je pouvais faire pousser quelque chose de beaucoup plus grand. J'ai donc créé une compétence. Et puis quelque chose d’étrange s’est produit : je lui ai dit « va faire 20 autres graphiques comme ceux-ci ».

Il est parti, a lu quelques centaines d'articles et est revenu avec 20 graphiques supplémentaires. En les parcourant, j'ai eu ce sentiment passionnant de découverte - même si je connaissais certains de ces graphiques et que j'aurais pu lui demander de les réaliser pour moi, il y avait aussi des graphiques entièrement nouveaux liés à des articles ou à des tests de référence que je n'avais jamais vus auparavant. Grâce à cela, j'ai découvert de nouveaux documents de source primaire à lire, ce que j'ai fait.

Je comprends au plus profond de moi ce qu'il faut pour créer un graphique. Vous lisez un tas de journaux. Vous partez à la recherche de mesures communes en leur sein. Vous lisez les nombreuses mises en garde différentes dans chaque article et déterminez quelles mesures sont des conneries et lesquelles sont significatives. Cela prend beaucoup plus de temps que vous ne pouvez l'imaginer.

Almost ten years ago I co-founded a project called The AI Index at Stanford University whose goal was to produce an annual report about AI progress. I became a co-founder of that project because I ran into some of the academics doing it and realized I had already made the graphs they’d been thinking about: I had a spreadsheet on my computer where I had been diligently assembling a graph relating to progress of various AI systems on Atari games, as well as the imagenet chart, and some machine translation charts. These graphs were a “proof of work” that other humans read as indicative of my passion and my diligence. They knew by the fact I’d made these graphs that I had spent a huge amount of time reading these papers.

I need you to deeply feel how much time goes into this, and then marvel at what it means for an AI system to be able to do it — and not just do it, but do it in a repeatable and generic way, thousands of times faster than me.

Now I have this bottled up skill where I can harness the absurd power of these AI systems to do something for me that I know would take me literally weeks of work. And it can do it for me in minutes. And it can do it for anything. I’m now using this as a means by which I can explore the world of biology, having it generate graphs for me and then picking the ones I find interesting and reading the underlying papers.

Mais pour moi, cette compétence, c'est aussi moi. C’est une compétence née de ma propre obsession et de mes propres particularités et la voir fonctionner me semble être un miracle parce que c’est moi – mais une version de moi qui court des milliers de fois plus vite et qui est beaucoup plus intelligente et beaucoup plus fiable.

Il y a là quelque chose de profondément stimulant et d’étonnant. J’ai transformé ma passion très particulière en quelque chose qui peut être distillé et transmis à une machine, qui peut ensuite faire les choses en mon nom. Et cela n’est possible que parce que j’ai eu la chance de développer ce loisir riche et spécifique, qui s’appuie sur une pratique et une création répétitives depuis une décennie.

Il s’agit fondamentalement d’une illustration de la manière dont l’IA peut nous permettre « d’explorer le futur ». Grâce à cette technologie étonnante, je suis capable d’améliorer ma propre compréhension du monde et d’acquérir plus d’autonomie et de potentiel d’autonomie par rapport à mes propres passions.

Cela me motive également encore plus à continuer à travailler sur ma newsletter, même si les machines peuvent évidemment tout faire : en travaillant sur ma newsletter, je peux continuellement mettre à jour certains noyaux de mes propres intérêts et l'utiliser comme un moyen par lequel je peux explorer le monde de la superintelligence et m'y projeter.

QUE SE PASSE-T-IL À L’INTÉRIEUR D’ANTHROPIC ?
Il y a également des changements en cours au sein d’Anthropic qui témoignent des changements plus importants à venir.

Récemment, j’ai eu la chance d’être retiré du bocal à poissons rouges qu’est la société d’IA via ce qu’on appelle un congé de paternité en novembre 2025. Quand je suis revenu fin février, des choses étranges avaient commencé à se produire. Pendant mon absence, nous avions sorti un nouveau LLM, Opus 4.6. Je savais que ce modèle était bon parce que je jouais avec pendant mon temps libre occasionnel entre deux changements de couches.

Mais je n’avais pas imaginé à quel point cela avait changé les choses au sein de l’entreprise : l’Opus 4.6 était devenu juste assez performant pour que mes collègues aient commencé à lui déléguer beaucoup plus de travail. En fait, c’était devenu si efficace que cela avait complètement changé la façon dont certaines personnes travaillaient. Certains d'entre eux n'écrivaient plus du tout de code : ils instanciaient simplement ce modèle dans des outils comme Claude Code et le laissaient libre d'effectuer des tâches à leur place, et leur travail était désormais davantage orienté vers la gestion de son travail et la vérification de ses résultats que vers l'exécution du travail eux-mêmes.

Dans Anthropic, une grande partie du travail à effectuer consiste à écrire un logiciel, composé de code. Cette augmentation significative de l’automatisation du codage équivaut à abandonner de plus en plus d’employés chez Anthropic, accélérant ainsi notre rythme global de développement. Le résultat de cela a été une augmentation massive de la quantité de code produit au sein d’Anthropic. Cette tendance a débuté début 2025 mais s’est véritablement accélérée ces derniers mois. Bien entendu, la majorité du code au sein de l’entreprise est désormais écrit par Claude. Mais en plus le volume de code a explosé.

En conséquence, davantage d’efforts sont consacrés aux outils permettant d’augmenter la quantité de code généré par Claude que nous pouvons ingérer et tester en toute confiance, et davantage d’efforts sont consacrés à la construction de systèmes de télémétrie qui nous donnent à nous, humains, des moyens consommables et intuitifs de lire ce que fait cette « société de machines émergente » au sein d’Anthropic. Je passe plus de temps à travailler avec des équipes sur les défis de l'observabilité – Anthropic et la plateforme d'IA que nous exploitons ressemblent de plus en plus à une écologie remplie d'agents qui courent et font des choses. La tâche qui nous incombe maintenant est de trouver comment mesurer et observer cette écologie, et de déterminer ce qui est normal et ce qui ne l’est pas.

Ce changement correspond à une théorie en gestation parmi les économistes : l’une des conséquences de l’automatisation via l’IA est que les humains doivent déterminer comment valider les résultats et évaluer les risques opérationnels des systèmes d’IA. Cela me semble de plus en plus être ce que nous faisons au sein de l’entreprise. Plus nous ajoutons l’automatisation de l’IA, plus les humains se déplacent vers une « couche de vérification » qui se trouve au-dessus. La couche de vérification se situe au sommet d’une « organisation virtuelle » beaucoup plus vaste, composée d’un nombre toujours croissant de systèmes d’IA travaillant pour le compte des humains. Cela se voit déjà au sein de l'entreprise dans la manière dont nous, en tant qu'humains, validons et vérifions les résultats créés par l'IA : Claude crée désormais non seulement une quantité croissante de code au sein d'Anthropic, mais produit également de nombreux documents analytiques dans lesquels les gens raisonnent sur des questions stratégiques.

Cela signifie que nous cherchons tous des moyens d’indiquer dans quelle mesure un document est rédigé par Claude et dans quelle mesure nous l’approuvons. Pour moi, cela ressemble à la formation d’une nouvelle « économie de confiance » dans laquelle nous trouvons des moyens de faire émerger des idées qualitatives ou stratégiques intéressantes de Claude, ainsi que des contributions techniques plus facilement évaluables.

Cela a également conduit à des discussions internes autour de l’embauche. Comment embaucher lorsque vous êtes dans un monde où les systèmes d’IA peuvent effectuer une partie significative de votre travail ? Personnellement, cela a à la fois changé le nombre de personnes que nous prévoyons d'embaucher dans certaines équipes, et cela a également changé la forme des personnes que nous devons embaucher. Nous recrutons désormais des personnes en début de carrière qui maîtrisent extrêmement bien les LLM ; des gens qui ont grandi avec la technologie, en gros. Et il y a aussi des retours croissants à l’autre extrémité de l’expérience, où la valeur des personnes très expérimentées a augmenté parce que nous ne sommes plus tellement limités par ce qu’une personne peut faire, mais plutôt par les types de projets qu’elle peut imaginer réaliser. Cela nous permet également d’embaucher davantage de personnes interdisciplinaires. Alors qu’avant cela avait toujours un coût, car il fallait investir des ressources techniques pour les rendre productifs, c’est désormais beaucoup moins cher car ils peuvent simplement utiliser Claude directement.

Nous pourrions éventuellement connaître des changements plus radicaux en ce qui concerne la mise à l’échelle de l’organisation. Un des premiers exemples de cela vient de nos chercheurs, où, dans une expérience de « recherche d’alignement automatisée », un seul humain a pu diriger efficacement une équipe de 9 agents de recherche synthétiques pour mener et mener de véritables recherches à leur place. Le rôle de l’humain ici était de définir certaines des orientations initiales de la recherche, et le rôle des agents était de faire la recherche. Est-ce un hasard ? Je ne pense pas. Je pense plutôt qu’il s’agit de la nouvelle normalité, où des équipes de personnes opèrent au sommet d’une pyramide de travail numérique, qui augmente considérablement leur propre efficacité, leur permettant d’avancer plus rapidement et de faire plus que d’autres personnes n’ont pu faire dans le passé.

Peut-être plus important encore, j’ai constaté que l’utilisation de l’IA nous amène à avoir une plus grande culture de réflexion sur le but de l’IA qu’auparavant. Une fois que vous avez été exposé à un système d’IA qui fonctionne bien mieux que vous dans votre travail quotidien, vous devez vous poser la question de savoir ce qui se passera si le système d’IA continue de fonctionner. Aujourd’hui, nous sommes de plus en plus nombreux à nous réunir et à consacrer plus de temps à la « méta » : essayer de prédire où iront les systèmes d’IA dans le futur, essayer de trouver comment gérer plus efficacement des dizaines, voire des centaines d’agents chacun, essayer de comprendre comment nous pouvons utiliser ces systèmes pour mener des projets de recherche qui semblaient autrefois impossibles. L’une des tâches les plus importantes consiste à déterminer comment nous pouvons nous éloigner de manière productive de ces systèmes, car ce sont souvent les humains qui les ralentissent.

La question que beaucoup de gens se posent aujourd’hui est de savoir comment constituer des équipes capables d’évoluer en fonction des progrès des capacités de l’IA. Cela revient généralement à constituer des équipes plus petites pour poursuivre des objectifs plus ambitieux. Je pense que cela signifie également que nous allons constituer beaucoup plus d’équipes qu’auparavant.

La principale leçon que j’en tirerais est qu’Anthropic tente « d’explorer le futur » avec Claude. Nous utilisons Claude de manière agressive dans toute l'organisation et essayons de changer notre organisation et notre façon de travailler avant l'arrivée de systèmes plus avancés. En comparaison, une grande partie du reste du monde semble nier les capacités des systèmes d’IA d’aujourd’hui, sans parler de celles qui existeront dans six mois ou un an, et est donc prise dans un « recul par rapport au présent », niant la validité de la technologie.

PARTIE 3 : Des futurs étranges
Nous avons parlé maintenant de la façon dont l’IA a progressé au cours des dernières années, et également de la façon dont les progrès de l’IA se manifestent pour les individus comme moi ainsi que pour les organisations. Revenons donc au graphique et étendons-le maintenant : je vais maintenant essayer de faire quelques prédictions sur le monde qui nous attend.

Quelques prédictions sur l'avenir
En novembre 2026, les systèmes d’IA sont suffisamment performants en biologie pour être très pertinents à la fois pour l’avancement de la science et pour la prolifération potentielle des risques liés aux armes biologiques.

En avril 2027, une équipe humaine et un système d’IA font une découverte qui recevra par la suite un prix Nobel.

En novembre, il existe des entreprises autonomes qui génèrent des dizaines de millions de dollars de revenus. Il existe de nombreuses entreprises humaines et IA qui génèrent des centaines de millions, voire des milliards de dollars de revenus.

En avril 2028, les robots bipèdes commenceront à effectuer un travail utile dans le monde réel en partenariat avec des artisans humains. En décembre, les systèmes d’IA seront capables de concevoir de manière autonome leurs propres systèmes successeurs.

Je vais également faire quelques prédictions à mon sujet : comment puis-je espérer utiliser l’IA dans les années à venir ? Comment cela pourrait-il façonner ma vie ?

Quelques prédictions sur mon avenir personnel avec l'IA
En novembre 2026, certaines parties de ma vie sont gérées de manière autonome par des systèmes d'IA qui travaillent pour moi.

En avril 2027, j'apporte des changements massifs à ma carrière principalement grâce à des discussions avec un système d'IA. En novembre, je passe plus de temps à lire de la science-fiction personnalisée générée par l’IA que de la science-fiction ordinaire.

En avril 2028, j'ai acquis une toute nouvelle compétence grâce à un tutorat personnalisé via un système d'IA. En décembre, l’IA m’aide à réaliser une avancée conceptuelle qui change le cours de ma vie.

DIS-MOI COMMENT LE MONDE RESTE NORMAL
Quand je réfléchis à ces prédictions, il m’est difficile de concilier les progrès continus de l’IA avec le monde normal ou avec moi-même en tant qu’individu restant le même que je suis aujourd’hui. Je m’attends à de grands changements à venir.

En fait, ces changements me semblent potentiellement extrêmement radicaux. Voici les paramètres du monde dans lequel je m’attendrais à ce que nous soyons :

La richesse accumulée grâce à l’économie machinique entraînera un boom de l’activité économique comme nous n’en avons jamais vu.

La colonisation de vastes pans du travail humain par des intelligences synthétiques éthérées qui pensent plus vite et mieux que nous, nous obligeant à réaffecter le travail humain vers d’autres pans de l’économie.

L’accélération soudaine et extrême du rythme des progrès scientifiques

Nous pouvons faire des prédictions plus spécifiques, ancrées dans les tendances des progrès de l’IA et dans la manière dont les gens utilisent la technologie :

Une économie profondément transformée : il est impossible de réconcilier le monde qui nous attend avec le monde d’aujourd’hui, compte tenu de cette technologie. Nous devrions nous attendre à ce que des choses sans précédent se produisent dans des domaines aussi variés que : le taux de création d’entreprises, la taille des entreprises sur la base du chiffre d’affaires par employé, etc. Quelques scénarios spécifiques qui semblent probables :

Entreprises entièrement autonomes : entreprises dirigées par des IA, éventuellement pour des IA.

Entreprises à ratio humain de 10 000 synth:1 : nous devrions nous attendre à voir de très petits groupes d’humains former des organisations qui ont les capacités de plus de 10 000 employés.

Taux de change entre l’économie humaine et l’économie mécanique : à un moment donné, nous pourrions nous attendre à voir l’émergence de « monnaies machines » qui auront alors une certaine relation avec les « monnaies humaines ».

Multiplicateurs de productivité sur tout : tout ce que touche l’IA obtiendra un multiplicateur de productivité absolument énorme. Cela aura un impact sur l’économie et permettra à de nombreuses personnes d’autonomiser massivement. Cela pourrait également déplacer des personnes.

Taux massif et croissant de progrès scientifiques : l’IA aidera à faire progresser n’importe quelle partie de la science qu’elle peut toucher et avec laquelle elle peut exécuter une boucle expérimentale. Dans un premier temps, il s'agira de quelques domaines. Nous devrions nous attendre à ce qu’il s’étende rapidement à tous les domaines.

Le passage général des « actions agents » dans le monde d’être « à prédominance humaine » à « à prédominance machine ». Sur une base purement numérique, le nombre de machines qui entreprennent des actions autonomes dans le monde deviendra rapidement supérieur aux humains. Nous devrions nous attendre à ce qu’une grande partie de l’allocation des ressources et de l’économie suive. L’environnement dans lequel nous vivons sera de plus en plus déterminé par les actions de machines que nous ne contrôlons que légèrement.

Les intelligences synthétiques commenceront à influencer les gens, bien plus que les médias sociaux : l’introduction des médias sociaux dans le monde, combinée aux plates-formes matérielles comme les smartphones, a modifié le comportement de la majorité des humains qui interagissent avec eux. Ces changements vont de la modification de la répartition du temps qu'ils consacrent à la consommation des médias sociaux par rapport aux médias traditionnels, à la modification des habitudes d'achat grâce à la publicité basée sur les médias sociaux, en passant par la modification de la façon dont les discussions sur diverses questions de la vie publique se traduisent en actions politiques. Nous devrions nous attendre à ce que les systèmes d’IA aggravent ces tendances, transformant ainsi davantage les gens de diverses manières.

Expansion économique et scientifique dirigée : L’activité économique et scientifique sera directement liée à la dépense de ressources informatiques et énergétiques. Étant donné le cas probable où il y aura, au moins dans les prochaines années, beaucoup trop peu d’ordinateurs par rapport à la demande, nous serons en mesure de faire des choix à la société quant à la manière d’attribuer les gains de la technologie. Ces choix seront de la forme :

Devrions-nous laisser les incitations du marché dicter l’utilisation du calcul, ou existe-t-il des éléments qui présentent des avantages sociaux et que le marché ne valorise pas efficacement ?

Devrions-nous attribuer préférentiellement le calcul à certaines personnes ou organisations, par exemple pour faire avancer intentionnellement la science d’une certaine manière ?

Dites-moi comment le monde reste normal, basé sur cette technologie et comment cela se manifeste-t-il dans le monde ? Nous avons des superintelligences qui sont apparues dans le monde et qui accordent aux individus le pouvoir d’une main-d’œuvre synthétique et les compétences en matière de sécurité des États-nations. Nous avons également des personnes comme moi qui sont capables d'accepter un travail qui leur prenait auparavant des semaines et qui le font désormais en quelques minutes. Et nous avons des organisations comme Anthropic où la façon dont le travail se déroule au sein de l'organisation change radicalement tous les 3 ou 4 mois, au point que cela oblige les gens à changer de rôle plusieurs fois par an et à s'asseoir effectivement à la tête d'une entreprise qui ressemble plus à une entreprise de 40 000 personnes que de 4 000 en raison du multiplicateur de capacité des machines.

Le point de vue le meilleur et le plus conservateur que je puisse formuler est que « de vastes pans de l’économie connaîtront de profonds changements dans les années à venir ». Et si l’auto-amélioration récursive se produit, alors tout ce que je pourrais prédire semblerait vraiment fou : l’émergence rapide d’une économie machinique qui se dissocie de l’économie humaine. La maturation soudaine des robots à mesure qu’ils acquièrent des cerveaux capables de piloter leurs corps existants, plutôt bons. Les progrès scientifiques reposent sur des technologies développées non pas par des humains mais par des machines. La migration de vastes pans de calcul vers des centres de données spatiaux. Un monde où tout ce qui prenait dix ans prend désormais un an. Une époque de miracles déroutants, se produisant plus rapidement que prévu.

Il s’agit à bien des égards d’un avenir incroyable, mais c’est un avenir sur lequel nous pouvons faire davantage de choix, en relation directe avec la mesure dans laquelle nous acceptons qu’il se produise. Si nous restons passifs alors que les nouvelles intelligences synthétiques se multiplient, nous serons contraints à la réactivité, tout comme les sociétés du monde entier ont été contraintes à la réactivité en agissant trop tard face à l’épidémie exponentielle du COVID. Mais si nous acceptons le principe selon lequel ces systèmes vont s’améliorer et que nous nous demandons quoi en faire, et grâce à eux, nous débloquons l’état d’esprit de l’exploration : il y a un nouveau monde à construire pour nous en tant qu’individus et nos relations les uns avec les autres, mais le nouveau monde ne verra le jour que si nous choisissons d’y croire et de le construire ensemble.

Donné à l'Université d'Oxford le mercredi 20 mai. Le discours a été légèrement édité pour être lu plutôt que entendu. Merci à Santi Ruiz pour son aide au montage.