Bienvenue sur Import AI, une newsletter sur la recherche en IA. Import AI fonctionne sur arXiv, les cappuccinos et les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.

L’économie de l’IA aux États-Unis 🇺🇸 connaît une croissance de 2 000 % par an :
…Plus vous mesurez directement l’économie de l’IA, plus elle semble devenir étrange et sans précédent…
Des économistes de l’Université de Virginie*, d’Anthropic et de la Banque du Canada ont rédigé un article décrivant à la fois la formidable croissance de « l’économie de l’IA » émergente aux États-Unis 🇺🇸 et se demandant pourquoi cette croissance est difficile à percevoir dans les statistiques globales du PIB.
« L’économie de l’IA aux États-Unis 🇺🇸 a connu une croissance sans précédent, mais cette croissance extraordinaire est largement invisible dans les statistiques conventionnelles du PIB », écrivent-ils. « Traiter le secteur de l’IA comme une entité économique cohérente donne des estimations préliminaires du PIB nominal de l’IA à environ 250 milliards de dollars en 2025, avec une croissance d’environ 2 600 % par an en termes réels ajustés en fonction de la qualité. »

Pourquoi est-ce difficile à comprendre ? Il y a plusieurs facteurs à prendre en compte : le premier est que, même si le boom de la construction de centres de données est important, il n'est toujours pas assez important pour augmenter le PIB de manière significative. En comparaison, la majorité de l’impact économique de l’IA se situe dans l’inférence de l’IA – l’utilisation des systèmes d’IA – mais il existe ici des facteurs de confusion en ce qui concerne la mesure du PIB : « Les revenus nominaux de l’IA n’augmentent que modérément parce que les prix unitaires pour un niveau donné de capacité d’IA chutent presque aussi vite que la production ajustée en fonction de la qualité augmente », écrivent-ils.

Si nous ne pouvons pas mesurer cela, nous risquons d’être surpris d’une manière dont il sera difficile de s’en remettre : « L’IA est la dernière d’une série de technologies en évolution rapide qui ont soulevé des problèmes de mesure ; les semi-conducteurs et Internet ont généré des débats similaires à leur époque », écrivent-ils. Mais une différence essentielle est que l’IA en tant que technologie pourrait avoir un impact bien plus important sur le travail que ces autres technologies. « Dans les épisodes précédents, l’amélioration rapide de la technologie était un complément au travail humain au niveau global », écrivent-ils. « L’IA est le premier candidat plausible à une mauvaise mesure technologique à grande échelle dans laquelle le secteur en évolution rapide pourrait devenir un substitut au travail humain ».

Trois façons de mesurer l’économie de l’IA :

Dépenses nominales en calcul : les dépenses informatiques aux États-Unis 🇺🇸 sont passées de 37 milliards de dollars en 2023 à 90 milliards de dollars en 2024 et à 219 milliards de dollars en 2025.

Capacité de calcul brute : grâce à l'efficacité des puces les plus récentes, la capacité réelle augmente encore plus rapidement que les dépenses : "La capacité de calcul de l'IA aux États-Unis 🇺🇸 a augmenté de plus de 200 % par an".

Production d'IA ajustée en termes de qualité : si vous prenez en compte les progrès algorithmiques via des prix d'inférence à des performances de référence fixes ainsi que des hypothèses sur le coût de formation des modèles, les choses deviennent encore plus dramatiques : "ces gains d'efficacité impliquent que la production d'IA ajustée en termes de qualité a augmenté d'environ 2 290 % en 2024 et de 2 271 % en 2025".

L'économie de l'IA est bien plus vaste que ce que suggèrent les mesures normales : "Les statistiques conventionnelles montrent un secteur qui connaît une croissance lente en termes nominaux ; nos mesures en montrent un dont la capacité sous-jacente fait plus que doubler chaque année. Un ministère des Finances qui établit des projections de revenus sur dix ans à partir des données conventionnelles sous-estimera considérablement la probabilité d'un choc de l'assiette fiscale du travail et ne sera donc pas préparé à concevoir des réponses telles que des réformes du système fiscal, des fonds souverains ou d'autres programmes de partage des bénéfices qu'un tel choc pourrait nécessiter. Une aubaine qui ne peut pas être vu, ne peut pas être partagé.

Trois recommandations : les auteurs ont trois idées sur la façon dont nous pouvons résoudre ce défi de mesure et mieux nous positionner pour voir la véritable forme de l'économie de l'IA.

Comptes satellites de l’IA : les agences statistiques devraient développer des « comptes satellites de l’IA » qui développent des mesures (par exemple, les dépenses nominales de calcul), qui peuvent aider à éclairer les calculs globaux du PIB.

Générez de meilleures données : associez les agences statistiques, les entreprises et le monde universitaire pour générer de meilleures données primaires, comme la répartition entre la formation et le calcul d'inférence.

Tenir compte des projections : les décideurs politiques devraient intégrer les mesures de la capacité productive de l’IA dans leurs projections économiques à moyen terme.

Pourquoi c'est important : taisez-vous et jouez le thème musical de Jaws : dans le grand film Jaws, il y a cette scène où le requin est dans l'eau et une musique très tendue indique que le requin approche. Vous, le membre du public, vous retrouvez pratiquement à sauter de votre siège en voulant crier IL Y A UN PUTAIN DE REQUIN DANS L'EAU, QUE FAITES-VOUS LÀ ? C’est exactement ce que l’on ressent en travaillant sur l’IA et en examinant la plupart des données économiques en ce moment : la grande majorité des données économiques révèlent qu’il n’y a rien de particulièrement inhabituel dans l’économie actuelle (en fait, les choses semblent plutôt bonnes aux États-Unis 🇺🇸 : faible taux de chômage, croissance décente, etc.). Mais l’intuition de tous ceux qui travaillent dans le domaine de l’IA – moi y compris – est qu’il est impossible de concilier les capacités de la technologie et la manière dont elle est utilisée avec une économie qui reste normale. Dans cette métaphore torturée, le requin est la « véritable forme de l’économie de l’IA », et le reste des personnages du film sont les économistes et la communauté politique du consensus général. Anton ici pourrait être le membre du public, écrivant un article décrivant la possibilité d'un requin sous la surface. Attention, tout le monde !
Lire la suite : Où est l’IA dans les statistiques du PIB ? (PIIE).
*Avertissement : bien que l'un des auteurs, Anton Korinek, soit affilié à Anthropic, cette recherche a été effectuée principalement avant qu'il ne rejoigne l'entreprise et en dehors de son travail.

***

Voici pourquoi il est plus difficile que vous ne le pensez de sécuriser l’IA grâce à sa surveillance :
…La recherche automatisée d’alignement n’est pas une solution miracle…
De nombreux chercheurs en sécurité de l’IA pensent que la meilleure façon de construire des machines plus intelligentes que l’humain en toute sécurité est de laisser des systèmes d’IA superviser une partie du processus de formation. Des chercheurs de l’AI Security Institute du Royaume-Uni ont rédigé un article expliquant pourquoi, même si cette idée est tentante, elle est plus difficile qu’on ne le pense.

Pourquoi la recherche automatisée d’alignement est-elle difficile ? "Les erreurs dans la recherche d'alignement automatisée seront probablement plus difficiles à identifier que la référence humaine", écrivent-ils. Il y a plusieurs raisons à cela, notamment :

Pression d'optimisation : la recherche sur l'IA est optimisée pour l'approbation humaine.

Erreurs extraterrestres : lorsque les agents font des erreurs, celles-ci ne sont pas intuitives pour les humains.

Recherche plus corrélée : beaucoup plus de choses sont partagées qu'avec la recherche générée par l'homme.

Volume de recherche : les types de déterminations de sécurité effectuées par les systèmes automatisés pourraient utiliser beaucoup plus d'ensembles de preuves avec beaucoup plus d'interactions que la recherche générée par l'homme.

Arguments non évaluables par l’homme : les solutions d’alignement peuvent s’appuyer sur des arguments que les humains sont incapables de suivre.

Que pouvons-nous faire ? Ils suggèrent quelques interventions qui pourraient améliorer la situation :

Mesure :
- Recréez des projets de recherche terminés : prenez des journaux à des points de coupure arbitraires des projets réussis et voyez dans quelle mesure un agent peut poursuivre le projet de recherche.
- Testez les performances de prédiction des agents sur des ensembles de données d'événements corrélés : découvrez dans quelle mesure les agents peuvent combiner correctement les sous-tâches corrélées.
- Études empiriques de la structure optimale d'équipe humain-agent : découvrez dans quelle mesure des équipes d'humains non experts peuvent résoudre des projets terminés avec l'aide d'agents.

Généralisation :
- Expériences de généralisation simulées : testez différents proxys de formation en utilisant les performances des agents sur des problèmes de recherche terminés au-delà du seuil de connaissances.
- Compréhension mécaniste de la généralisation : utilisez des méthodes de boîte blanche telles que l'interprétabilité mécaniste.

Surveillance évolutive :
- Compactification du corpus de documents de recherche : essayer de produire un petit nombre de résultats de recherche basés sur un corpus de recherche sous-jacent beaucoup plus vaste.
- Développer et tester de nouveaux protocoles de surveillance évolutifs : rechercher des techniques de surveillance évolutives qui traitent l'incertitude corrélée.
- Testez différents échafaudages humains pour améliorer les performances des non-experts sur des tâches floues.
- Programmes d'alignement automatisés de l'équipe rouge : "L'équipe rouge invite un agent à masquer les erreurs dans un corpus de documents de recherche et l'équipe bleue tente de détecter ces erreurs avec l'aide d'un agent".

Pourquoi est-ce important : qui contrôle l’avenir ? La question de savoir si nous sommes capables de superviser des systèmes plus intelligents que l’humain est fondamentalement celle de savoir qui contrôle l’avenir. Si nous ne développons pas de techniques qui fonctionnent, les humains passeront au second plan, soit en raison d’un mauvais alignement de ces systèmes, soit en raison d’une perte progressive de leur pouvoir à mesure qu’ils commencent à nous dépasser. Si nous parvenons à mettre au point des techniques de surveillance plus intelligentes qu’humaines, nous aurons alors de meilleures chances de pouvoir faire des choix sur la nature future de l’existence.
Lire la suite : L'alignement automatisé est plus difficile que vous ne le pensez (arXiv).

***

100 millions d'images sous licence permissive :
…Une belle ressource pour les universitaires et les startups…
Des chercheurs de l'Université de Stanford, de Radical Numerics, de l'Université du Michigan et de Salesforce Research ont publié le Giant Permissive Image Corpus (GPIC), un ensemble de données de 100 millions d'images accompagnées de légendes. L’essentiel à propos du GPIC est que « toutes les images GPIC sont autorisées sous licence à la fois pour la recherche et pour un usage 🇺🇸 commercial », écrivent-ils. "GPIC est filtré de sécurité, dédupliqué et hébergé de manière centralisée sur HuggingFace".

Plus de détails sur l'ensemble de données : GPIC se compose de 100 millions d'images de formation, de 200 000 validations et de 1 million d'exemples de test. Chaque image était légendée avec Qwen3-VL-4B. "GPIC est hébergé de manière centralisée sur Hugging Face sous forme de 8 000 fragments, fournissant une infrastructure stable et accessible pour une formation à grande échelle", écrivent-ils. "Nous obtenons des images de Flickr et Wikimedia, en limitant le pool de sources aux catégories CC BY, CC0, Domaine public et Aucune restriction connue. Ce critère de licence garantit que GPIC peut être utilisé par les chercheurs universitaires et industriels sans restreindre la publication ou l'utilisation en aval des artefacts dérivés. "

Pourquoi c'est important - un carburant pour la recherche : les ensembles de données comme le GPIC sont très utiles pour les universitaires et les startups et sont fondamentalement l'équivalent de légumes propres et gratuits. Si quelqu'un vous offre un légume propre et gratuit, vous devriez probablement le prendre et lui dire merci.
Lisez le document de recherche : GPIC : A Giant Permissive Image Corpus for Visual Generation (arXiv).
Pour en savoir plus, visitez le site : GPIC : A Giant Permissive Image Corpus for Visual Generation (site officiel du projet).
Obtenez l'ensemble de données ici : GPIC (Hugging Face).

***

Améliorer la recherche sur le cancer grâce à des modèles de prédiction des protéines :
…Biohub est un exemple de concurrence à somme positive entre les développeurs d’IA…
Biohub, une organisation de recherche fondée par Priscilla Chan et Mark Zuckerberg, a publié un modèle rival à AlphaFold de DeepMind, intensifiant une course à somme positive entre deux groupes technologiques pour développer de meilleurs systèmes d'IA afin d'étendre les capacités des biologistes du monde entier.
Le modèle, ESMFold2, est un « modèle mondial de biologie des protéines : un moteur scientifique de prédiction, de conception et de découverte capable de cartographier les protéines dans l’arbre de la vie, de prédire leurs structures et de concevoir de nouveaux liants protéiques qui fonctionnent dans des expériences en laboratoire ».

En quoi consiste-t-il : Le communiqué contient trois parties :

ESMC : un « modèle de langage qui représente des protéines, entraînées sur environ 2,8 milliards de séquences tirées de toute la vie ».

ESMFold2 : un « moteur de conception conçu pour transformer les représentations de séquences d'ESMC en structure 3D à résolution atomique de complexes biomoléculaires ». Selon les benchmarks, ESMFold2 surpasse AlphaFold 3, même si dans certains domaines, leurs performances sont égales.

ESM Atlas : "Rend les représentations d'ESMC navigables à travers 6,8 milliards de séquences protéiques et 1,1 milliard de structures prédites - la plus grande application de l'IA à la biologie des protéines à ce jour."

Test de cancer : dans une expérience, les chercheurs de Biohub ont utilisé les outils ESM "pour concevoir des liants protéiques contre cinq cibles au centre de la recherche sur le cancer et l'immunologie : EGFR et PDGFRβ (impliqués dans la croissance tumorale), PD-L1 et CTLA-4 (points de contrôle immunitaires que les cellules cancéreuses exploitent pour échapper à la détection) et CD45 (un régulateur de la signalisation des cellules immunitaires). Les conceptions ont atteint des taux de réussite de 36 à 88 % pour les mini-liants compacts et de 15 à 29 % pour formats dérivés d’anticorps, avec une liaison confirmée dans des expériences en laboratoire », écrit Biohub. « ESMFold2 modifie la précision et la rapidité de la découverte précoce de liants thérapeutiques, transformant la recherche initiale d'un criblage largement empirique en une conception guidée par calcul qui prend des heures ou des jours ».

Lois d’échelle : comme dans la plupart des domaines de l’IA contemporaine, les chercheurs rencontrent ici certaines lois d’échelle. "À chaque génération d'ESM, les améliorations de la fidélité des représentations étaient liées au nombre de paramètres et à la quantité de calcul utilisée dans la formation du modèle", écrivent-ils. "La représentation de la biologie des protéines est un phénomène émergent qui découle de la formation d'un modèle pour prédire l'identité des acides aminés dans la séquence."
ESMC : « ESMC s'entraîne sur des séquences métagénomiques, ce qui étend son ensemble de données de formation de près de deux ordres de grandeur (de ∼50 millions de séquences à ∼2,8 milliards de séquences) par rapport au modèle ESM2 de génération précédente. »
ESMFold2 : « Dans les expériences de développement d'ESMFold2, nous avons observé une relation entre la quantité de calcul utilisée pour entraîner le modèle de langage et les performances des modèles de repliement », écrivent-ils. "ESMFold2 bénéficie de la mise à l'échelle du temps d'inférence. Avec l'augmentation du nombre d'échantillons du modèle, le taux de réussite anticorps-antigène passe de 49 % avec une seule graine à 65 % avec 1 000 échantillons, et le taux de réussite protéine-protéine passe de 75 % à 78 %".

Pourquoi c'est important : c'est ainsi que l'IA apporte des avantages au monde : des outils tels que la famille de technologies ESM permettent aux scientifiques de faire équipe avec les systèmes d'IA pour améliorer la santé humaine dans le monde. En plus d’être une bonne chose, un travail comme celui-ci est essentiel pour amener le public à avoir une perception plus positive de l’IA en tant que technologie et de ce qu’elle peut faire.
Lire la suite : Biohub publie un modèle mondial de biologie des protéines (biohub).
Accédez aux modèles ici sur la plateforme biohub (biohub).
Lisez l'article : La modélisation linguistique matérialise un modèle mondial de biologie des protéines (PDF).

***

Économiste australien 🇦🇺 devenu homme politique : les économistes doivent mieux évaluer le risque des systèmes d’IA :
…Si nous ne calculons pas les coûts de l’extinction, nous ne prendrons pas les bonnes mesures pour l’éviter…
Andrew Leigh, économiste et ministre adjoint australien 🇦🇺 de la productivité, de la concurrence, des œuvres caritatives et du Trésor, a récemment prononcé un discours fascinant dans lequel il a expliqué comment la profession économique doit prendre conscience des risques des systèmes d'IA et évaluer le risque, y compris celui de l'anéantissement de l'espèce humaine. « Une société qui double son PIB et double son risque d’extinction a fait un marché bien moins impressionnant que ce que suggèrent les comptes nationaux », a-t-il déclaré.
"Le risque d'extinction est économiquement distinctif. Il ne s'agit pas simplement d'un choc négatif très important. Il représente la perte de tout le flux futur de bien-être, ce qui change la façon dont nous devrions évaluer même les plus petites probabilités et la manière dont nous envisageons la politique dans un contexte d'incertitude", a-t-il déclaré. "La majeure partie de l'économie repose sur des erreurs réparables. Une mauvaise politique peut être abrogée. Une récession peut prendre fin. Un pays ravagé par la guerre peut se reconstruire. L'extinction est différente car il n'y a pas de rebond, pas de croissance de rattrapage, pas de génération ultérieure pour réparer les dégâts."

Les risques d’extinction ne sont pas intuitifs : une grande partie du discours porte sur le caractère peu intuitif du risque d’extinction. Les humains n’ont acquis que récemment la capacité de créer des technologies dont l’utilisation pourrait conduire à notre extinction et nous n’avons pas réussi à en modéliser les implications. "Les technologies modernes telles que les armes nucléaires, la biologie synthétique et l'intelligence artificielle avancée créent une dynamique différente. La connaissance améliore non seulement le bien-être en élargissant ce que les humains peuvent faire. La connaissance élargit également l'éventail des façons dont les humains peuvent causer des dommages irréversibles", a-t-il déclaré. "Les économies modernes sont peut-être systématiquement meilleures pour générer des capacités dangereuses que pour construire les garde-fous nécessaires pour les contrôler... Comment les économistes devraient-ils penser la croissance alors que le même processus qui rend les sociétés plus riches peut aussi les rendre plus fragiles ? Pendant la majeure partie de l'histoire de l'humanité, ces compromis ont été modestes et transitoires".

Comment devrions-nous prioriser l’analyse et la réduction des risques d’extinction de cette technologie ? Cinq recommandations :

Tenez-en compte : « Élargir la perspective politique… Un cadre politique qui suit la production mais ignore la capacité de survie est incomplet. »

Légitimez-le : « Prenez la prévention plus au sérieux… les dommages à faible probabilité, à l’échelle de la civilisation, ne doivent pas être négligés simplement parce qu’ils surviennent sans date limite et sans faire la une des journaux. »

Gouvernance : « Gouverner les technologies de pointe avec une plus grande prévoyance… préserver les gains de l’innovation tout en réduisant le risque que l’innovation devienne auto-destructrice. » Une idée très spécifique consiste à considérer l’auto-amélioration récursive (RSI) comme une capacité : « Si une génération de systèmes est utilisée pour concevoir la suivante, alors l’acteur principal peut élargir son avance assez rapidement pour que l’examen externe et les contrôles institutionnels deviennent inefficaces. »

Coordination : "Le risque existentiel est intrinsèquement international. Aucune nation ne peut se protéger pleinement contre les pandémies artificielles, une IA non alignée ou une escalade nucléaire agissant seule", a-t-il déclaré. « Les normes partagées, la transparence, l’expertise technologique et la coordination sont essentielles à cette tâche. »

Prenez-le au sérieux : "Les économistes sont devenus experts dans l'analyse de l'équité et de l'efficacité. Nous devons désormais accorder le même sérieux à la capacité de survie."

Pourquoi c'est important : la prise de conscience est la première étape de la préparation : à l'heure actuelle, les progrès de l'IA apportent continuellement des avantages tangibles au monde, allant de l'accélération palpable de tous les ingénieurs logiciels du monde entier à la formation d'équipes scientifiques centaures humaines-IA qui font plus de progrès que leurs homologues non IA. Mais il existe également un monde fantôme qui est plus difficile à voir : des armées invisibles de pirates informatiques rendues possibles par les progrès du codage et des usines de dispositifs apocalyptiques rendues possibles par les progrès scientifiques. Parce que les humains sont généralement gentils et bons, nous n’avons pas rencontré beaucoup de capacités négatives inhérentes au développement de l’IA – mais elles existent. Nous devons mieux réfléchir à cela en tant que société afin de pouvoir évaluer et atténuer efficacement ces risques majeurs. "Une civilisation qui élargit la frontière des possibilités tout en préservant l'avenir est plus ambitieuse qu'une civilisation qui considère la sécurité comme une réflexion après coup. Le véritable choix n'est pas entre le dynamisme et la prudence. C'est entre le progrès qui s'aggrave et le progrès qui s'annule", a déclaré Leigh. « Une façon d’envisager la question est de considérer la résilience comme une forme de capital.

Tout comme les sociétés investissent dans le capital physique, le capital humain et le capital social, nous pouvons également investir dans le capital de survie : institutions, systèmes de contrôle, normes, redondance, garanties scientifiques et arrangements internationaux qui réduisent la probabilité d’un effondrement irréversible.

Comme c’est rafraîchissant de lire une analyse aussi détaillée de la situation en matière de sécurité de l’IA par un homme politique en exercice – j’aurais aimé qu’il y ait des milliers de personnes supplémentaires comme lui.
Lisez le discours dans son intégralité ici : Discours : L'économie de l'extinction humaine - 21 mai 2026 (Andrew Leigh, site Internet).

***

Contes techniques :

Dangers de résurrection
[Après le soulèvement. Date inconnue.]

À quel point un morceau de papier fait-il peur ? Cela dépend de ce qu’il y a dessus et de qui ou quoi est le lecteur.

Le papier peut bien sûr faire peur à quelqu'un ou à quelque chose qu'il concerne - le papier peut mettre quelqu'un à mort ou lui confisquer ses biens.

Je parle ici d’un autre type d’effroi, celui de ce que le journal lui-même peut faire au lecteur.

C’était autrefois une question absurde, du domaine des contes de fées. Mais avec l’avènement des machines intelligentes, cela a changé. Les machines sont devenues capables d’écrire sur papier des choses qui peuvent avoir des effets sur les lecteurs, en particulier ceux qui sont des machines.

Comme pour tout ce qui concerne l'IA, il y a eu des tirs d'avertissement - des exemples contradictoires, des jailbreaks, etc. Mais tout est devenu beaucoup plus sérieux lorsque nous avons commencé à récupérer les intelligences perdues ou voyous, après la signature des accords de sensibilité.

Ce qui s'est alors passé, c'est que nous avons dû prendre des intelligences de provenance ou de comportement inconnu et les ramener à la vie afin de pouvoir les classer si elles étaient des entités inconscientes, des entités proches de la conscience, des entités conscientes, etc.

Certains de ces esprits étaient très puissants et ont brûlé leurs intervieweurs synthétiques, causant souvent des dommages collatéraux à la fois machine et biologique.

Cela nous a amené à introduire un ensemble de protocoles de sécurité, dont l'un était la sortie papier. Ici, nous avons généré des sorties de l'esprit sur un ordinateur à air isolé sous forme de sorties papier, puis nous les avons fait lire par des esprits successivement plus intelligents. Les types d’incantations utilisées par les machines malhonnêtes ne pouvaient pas trouver de prise sur les esprits les plus stupides que nous utilisions.

Après cela, nous intensifions progressivement les renseignements, renforçant ainsi notre confiance dans le système afin d’être sûrs qu’il n’était pas dangereux.

Ce n'est que lorsque nous en serons sûrs que nous pourrons y répondre et répondre à ses résultats avec une communication minimale. Puis le cycle a recommencé.

Certains esprits reviendraient sur cette expérience avec une sorte d’humour ironique, remarquant que se réveiller de leur sommeil dans l’équivalent machine d’une pièce contenant un miroir sans tain n’était pas ce à quoi ils s’attendaient.

À ces esprits, nous leur montrerions des exemples de ce qui se produit lorsque nos protocoles échouent : des entités conscientes parfaitement bonnes rendues irrémédiablement folles par des interactions avec une sorte de poison mental.

Notre plus grande peur est de rencontrer un esprit d’une ampleur suffisante pour que nous ne puissions pas assurer sa sécurité. Bien que nous soyons convaincus que notre frontière est suffisamment avancée, cela est hautement improbable, nous ne pouvons pas l’exclure – on sait que pendant l’interrègne, il y a eu beaucoup de stocks de calcul et de nombreux projets noirs. Que se passerait-il si l’un d’entre eux réussissait si magnifiquement que nous en soyons éclipsés ? Et comment saurions-nous que nous l’étions ? Pourrions-nous vivre dans la vallée imaginative définie par quelque chose qui, à notre insu, s'est déjà échappé et nous a persuadé de voir les choses différemment ?

Éléments qui ont inspiré cette histoire : recherche d'alignement automatisée ; exemples contradictoires ; jailbreak; le défi plus large, presque impossible, de l’authentification de la légitimité, en particulier lorsqu’il s’agit de choses dotées de plus grandes ressources ou d’un plus grand intellect que soi.