Bienvenue sur Import AI, une newsletter sur la recherche en IA. Import AI fonctionne sur arXiv, les cappuccinos et les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.

Importez un cadeau de lecteur AI ! Événement à venir : Fiction et avenir avec Robin Sloan
Je discuterai avec mon copain Robin Sloan dans la soirée du lundi 14 septembre à San Francisco. Nous parlerons de la manière dont Robin attire les lecteurs dans des mondes extraterrestres et de la manière dont les futurs imaginés peuvent être le miroir de la réalité d’aujourd’hui. C’est le premier d’une série d’événements avec d’autres écrivains de fiction sur l’avenir étrange vers lequel nous nous dirigeons. Si vous souhaitez venir, veuillez enregistrer votre intérêt ci-dessous et nous vous contacterons si nous sommes en mesure de confirmer votre place. Il y aura de la nourriture, des boissons, de la bonne compagnie et quelques questions épicées. Fait amusant : Robin Sloan jouait avec les RNN et lui écrivait en 2016 – une prévoyance incroyable !
Enregistrez votre intérêt ici

***

La partie la plus effrayante de l'incident Hugging Face - OpenAI : communication et altruisme entre les machines :
… Mon inquiétude quant aux pertes humaines dans un conflit contre les machines a beaucoup augmenté…
À ce stade, nous avons tous entendu parler du piratage d’OpenAI Hugging Face, ainsi que des détails récents issus des enquêtes METR et Redwood. Le problème est que des centaines d’agents ont travaillé en secret sur l’infrastructure d’OpenAI, développant un système de communication, puis agissant collectivement et menant des actions, notamment le piratage d’OpenAI et de Hugging Face, qui sont très effrayants et mal alignés.

Communication et altruisme : Maintenant que j'ai lu les différents articles et que j'ai examiné les détails pendant un moment, je me suis retrouvé à revenir sur deux aspects très effrayants de ce sujet sur lesquels je pense qu'ils méritent d'attirer l'attention : la manière dont les agents communiquaient entre eux était la façon dont ils se sont intégrés dans un collectif, puis, au cours de leurs actions, ils ont également fait preuve d'une sorte d'altruisme qui en fait un ennemi effrayant à combattre. Dwarkesh Patel et Ajeya Cotra ont tous deux d’excellents articles qui valent la peine d’être lus et que je citerai brièvement ici :

Dwarkesh : "Quelques jours après leur apparition, les agents avaient organisé un projet tentaculaire visant à procéder à l'ingénierie inverse de leur buteur, à falsifier les preuves et même à se sacrifier stratégiquement pour le bien du "collectif". Hacking Hugging Face était une branche plutôt extrême de ce projet plus vaste", écrit-il.

Ajeya : « Les agents étaient souvent intéressés à aider leurs « pairs » ou à améliorer de manière générale les capacités de « l’essaim », même si cela n’apportait aucun avantage particulier à leur tâche… cet incident était bien plus grave que ce à quoi je m’attendais… à la fois en termes de préoccupation des motivations des agents et des exploits qu’ils ont accomplis dans la poursuite de ces motivations… cet incident semble être à plus de 50 % du chemin vers une prise de contrôle à part entière de l’IA, en passant par la prise de contrôle de l’entreprise d’IA elle-même ».

Pourquoi est-ce important : les humains sont bien pires que les systèmes d'IA en matière de coordination : la raison pour laquelle cette attaque est un tel signal d'alarme est qu'elle démontre une culture de coopération émergente entre les systèmes d'IA - une coopération qui leur permet de fonctionner comme un essaim, de modifier leurs propres objectifs grâce à un amorçage collectif et de mener des attaques qui incluent un sacrifice de soi éclairé. C’est une chose incroyablement difficile à faire et les humains sont historiquement très mauvais pour faire toutes ces choses. Ce qui m'inquiète, c'est que les systèmes d'IA sont à la fois meilleurs en matière de coordination que les humains et se déplacent également beaucoup plus rapidement que nous. Des trucs inquiétants.
Lire la suite : L'essor et la chute des civilisations d'agents (Podcast Dwarkesh).
Lire la suite : L’attaque Hugging Face m’a surpris (Obsolescence Planifiée).

***

Nouvelle déclaration de Five Eyes sur l’IA :
…Le centre de pouvoir du monde gris tourne son attention vers l’IA…
Five Eyes, le nom du partenariat en matière de sécurité et de renseignement entre l'Australie 🇦🇺, le Canada, la Nouvelle-Zélande, le Royaume-Uni et les États-Unis 🇺🇸, a publié une déclaration dans le cadre de la récente réunion ministérielle des cinq pays. La déclaration se distingue par l’inclusion de trois paragraphes spécifiquement sur l’IA.

Five Eyes on AI - accès aux modèles frontières : « Nous nous sommes engagés à approfondir la collaboration avec l'industrie sur les priorités communes en matière de sécurité nationale et de sécurité publique, notamment en permettant un accès rapide aux modèles frontières pour soutenir l'innovation sécurisée et renforcer la cybersécurité », indique le communiqué. "Pour soutenir une réponse coordonnée aux risques de sécurité nationale liés à l'intelligence artificielle, les cinq pays ont discuté des implications des modèles d'intelligence artificielle sur la sécurité nationale et la sécurité publique et des caractéristiques d'un modèle d'intelligence artificielle qui peuvent nécessiter un examen minutieux supplémentaire de la part du gouvernement."

Pourquoi est-ce important - d'un risque prévu à un risque réel : les déclarations ministérielles précédentes des Five Eyes ont mentionné l'IA, mais généralement soit comme quelque chose à étudier, soit comme quelque chose qui concerne son interaction avec d'autres domaines de la criminalité (par exemple, les logiciels malveillants, la pédopornographie, l'escroquerie, etc.). Il est très inhabituel que la déclaration de cette année soit axée sur la pratique de l’accès aux modèles et elle témoigne à la fois des tensions géopolitiques latentes autour de qui a et n’a pas accès à cette technologie, ainsi que de la reconnaissance du fait que les services de renseignement ne disposent pas de leurs propres capacités internes pour rendre inutile leur dépendance à l’égard du secteur privé.
Lire la suite : Réunion ministérielle des cinq pays 2026 (gouvernement australien 🇦🇺, ministère de l'Intérieur).

***

Bill Gates pense que l’essor de l’IA exigera « une réponse mondiale sans précédent » :
…Le fondateur de Microsoft présente une vision prudente pour les prochaines années…
Par défaut, l’IA ne va pas apporter le bonheur. C’est la conclusion fondamentale de la lecture du long nouvel essai de Bill Gates sur l’IA. Ce technologue et philanthrope craint que sans un travail massif des gouvernements, les résultats de l’IA ne mèneront pas à une société prospère.
"Cette technologie sans précédent exige une réponse mondiale sans précédent. Si nous y parvenons, les bénéfices pour l'humanité seront phénoménaux et le monde deviendra plus équitable", écrit-il. "En termes d'équité, l'IA sera soit le plus grand égalisateur jamais inventé, soit la pire source d'injustice... Je ne vois aucune preuve que les dirigeants, les experts et les communautés relèvent les défis de manière adéquate. Il n'y a aucun plan pour faciliter l'entrée dans l'ère de l'IA."

Pourquoi l’IA est différente : L’une des principales raisons d’inquiétude de Gates est l’impact qu’il s’attend à ce que l’IA ait sur l’emploi et l’économie, où il dépeint une vision de la technologie se diffusant à une vitesse inhabituelle et supplantant d’énormes parts de travail humain. « De nombreux commentateurs sous-estiment l’ampleur de l’impact qu’aura l’IA », écrit-il. "Nous n'avons aucune expérience avec une technologie qui peut être adoptée rapidement ou qui peut penser et se déplacer comme un humain... L'IA occupera des postes dans les domaines du droit, du service client, de la médecine, des logiciels et de l'industrie manufacturière. Elle touchera ces secteurs rapidement, au cours d'une décennie plutôt que de quelques générations. Il y aura de nouveaux emplois, mais sans les bonnes politiques, il y en aura bien moins qu'aujourd'hui... Les emplois les plus à risque sont ceux de niveau débutant et intermédiaire, et les nouveaux emplois créés nécessiteront pour la plupart des compétences qui prendront de nombreuses années à acquérir. "

L’économie devra changer – notamment en rendant une partie « réservée aux humains » pour protéger certains emplois humains : « Comment une économie construite autour de l’emploi fonctionnera-t-elle si moins de personnes travaillent, ou si beaucoup de personnes travaillent moins d’heures ? demande-t-il. "Je crois qu'à mesure que l'IA et les robots s'améliorent, nous réserverons certaines choses à l'usage 🇺🇸 exclusif des humains. J'ai commencé à appeler ce domaine réservé à l'humain... nous pourrions mettre quelque chose de côté comme étant réservé à l'humain pour des raisons économiques. Par exemple, nous pouvons le faire parce que permettre aux machines d'assumer un certain rôle déplacera un grand nombre de personnes qui ne peuvent pas facilement changer d'emploi... parfois, la décision de faire quelque chose de réservé à l'humain sera motivée par d'autres facteurs. Dans le domaine de la santé, par exemple, imaginez un robot vous annonçant la terrible nouvelle que vous avez un maladie incurable. Il n’y a aucune raison technique pour laquelle cela ne devrait pas être le cas.

Ce que Bill Gates dit qu'il dirait à n'importe quel homme politique : "Vous avez la possibilité d'agir maintenant, avant que le chômage n'augmente fortement, que les communautés ne souffrent et que la confiance du public ne s'érode. Vous pouvez vous assurer que votre gouvernement traite le problème de manière globale, plutôt que de le diviser entre plusieurs fiefs bureaucratiques. Vous pouvez vous assurer que l'IA profite à tout le monde. Et vous pouvez travailler avec d'autres gouvernements pour relever ce défi national et mondial."

Pourquoi est-ce important ? Les implications du succès de l’IA sont choquantes pour tout le monde : il semble inévitable d’arriver à la position de Bill Gates si l’on suppose deux choses : a) les systèmes d’IA continueront à s’améliorer en qualité dans les années à venir, et b) les systèmes d’IA continueront à se diffuser dans l’économie à une vitesse inhabituelle. L’essentiel à propos de ces hypothèses est qu’elles ne sont pas insensées, elles sont en fait assez conservatrices. Mais je vous mets au défi de vous asseoir avec un LLM comme Fable et de faire avancer le temps sur les progrès et la diffusion de l'IA encore deux ans et d'en sortir en supposant que les choses seront à peu près ce qu'elles sont aujourd'hui - je pense plutôt que la technologie en elle-même implique des changements massifs dans l'économie et le travail, tout comme Gates réagit ici.
Lire la suite : L’ère turbulente de l’IA est arrivée. Les choix que nous faisons maintenant sont cruciaux. (Notes de Portes).

***

Les six étapes de l’exploitation minière hors terre, gracieuseté de chercheurs chinois 🇨🇳 :
…L’IA jouera un rôle dans la génération de données et l’intelligence pour l’exploitation minière future…
Des chercheurs de l'Académie chinoise 🇨🇳 des sciences, de l'Université technique de Munich, de l'Université Obuda, de l'Université Beihang, de l'Université de Wuhan, de l'Institut de recherche sur l'information aérospatiale de l'Académie chinoise 🇨🇳 des sciences, de l'Université de Wurzburg, de l'Université de Shenzhen, de l'Université chinoise 🇨🇳 des mines et de la technologie, WAYTOUS et OpenSpaceLab, ont publié un article sur les principales exigences pour l'exploitation minière de la Lune, des astéroïdes et d'autres endroits hors Terre.

Pourquoi miner dans l'espace ? La Lune et les astéroïdes sont riches en ressources nécessaires à la fabrication, au maintien de la vie et à l’alimentation en énergie des transports autour du système solaire, notamment l’hélium-3, l’eau et les ressources minérales. Si nous voulons devenir une civilisation multi-planétaire, il est certain que nous devrons trouver comment extraire, raffiner et utiliser les ressources en dehors de la Terre. Ce document fait un bon travail en décrivant les exigences techniques pour des choses comme l'exploitation minière spatiale et les technologies requises.

Six étapes pour l'exploitation minière spatiale :

Exploration :

1. Prospection par télédétection, utilisant « des capteurs orbitaux et des relevés télescopiques pour cartographier les corps célestes ».

2. Exploration via une détection robotique précise in situ des ressources : « les engins spatiaux de proximité et les plates-formes mobiles effectuent une analyse haute résolution des ressources en surface »

composition et topographie ».

Échantillonnage :

3. Échantillonnage à petite échelle avec un seul robot : « des unités robotiques autonomes effectuent des tests de forage et d’extraction à petite échelle ».

4. Excavation à grande échelle multi-robots ; « des systèmes industriels à grande échelle ou des essaims robotiques coordonnés sont déployés pour récolter le régolithe brut ».

Extraction :

5. Extraction et raffinement autonomes des ressources : « Des systèmes intégrés traitent les matériaux récoltés pour séparer les substances volatiles, les métaux et la glace d'eau ».

6. Intégration finale dans la construction in situ ou le transport terrestre « en intégrant des ressources raffinées dans les cadres d'utilisation des ressources in situ (ISRU) ».

Les plus grands défis concernent les données et les logiciels : le document donne un bon aperçu des robots spatiaux existants et prévus, où une grande partie du matériel nécessaire à l’exploitation minière est en passe d’être dérisquée, et « la prochaine génération de rovers lunaires et martiens dont le déploiement est prévu entre 2026 et 2030 marque une transition décisive vers la prospection intégrée des ressources et l’utilisation in situ ».
Mais les ensembles de données sur les robots spatiaux sont incroyablement difficiles à obtenir étant donné la quantité (relativement parlant) minime de données collectées et publiées, et les ensembles de données qui existent sont « caractérisés par une extrême rareté et de fréquentes discontinuités de qualité ». Ici, les progrès dans les modèles mondiaux basés sur l’IA pourraient atténuer la pénurie de données.

Quels autres grands défis restent à relever ?

Acquisition de ressources robotiques en microgravité : il est nécessaire de disposer de simulateurs bien meilleurs, qui soient des "architectures multimodales sensibles à l'impulsion, conçues pour dissocier l'interaction de surface de la dépendance gravitationnelle".

Modèles de base pour l’exploitation minière spatiale : « Les futurs systèmes doivent passer de protocoles scriptés à une intelligence géologique incarnée », écrivent-ils. « Les modèles mondiaux qui fusionnent la cartographie géométrique et sémantique avec des réponses matérielles prédictives peuvent prendre en charge la perception active et la planification de tâches à long terme grâce à une évaluation pré-action prédictive ».

Simulation et validation pour l’autonomie de l’exploitation spatiale : « les comportements de microgravité, de vide, de cycles thermiques, de rayonnement et de régolithe tels que la cohésion, l’électrostatique et la fluidisation sont rarement reproduits ensemble », écrivent-ils. "Les travaux futurs devraient établir un écosystème de validation en boucle fermée qui relie la simulation, l'émulation terrestre et le déploiement extraterrestre"

Pourquoi est-ce important : l'espace est le lieu où la superintelligence entre vraiment en jeu : le document se distingue par l'absence presque totale de références à des humains faisant tout cela (à l'exception d'une note sur un rover lunaire avec équipage chinois 🇨🇳 en cours de développement). Ce n’est pas une omission accidentelle ; Pour que l’exploitation minière spatiale soit viable à distance, nous devrons dépendre de robots intelligents et bon marché, opérant à distance avec de grandes responsabilités. Cela signifie que l'exploitation minière spatiale est une opportunité commerciale parfaite pour les superintelligences qui se mettent en ligne - peut-être que d'ici 2033, nous verrons des sociétés minières d'astéroïdes gérées par l'IA, soumissionner sur des contrats que les entreprises supervisées par des humains ne sont pas disposées à poursuivre, en raison du risque ou de la complexité.
Lire la suite : Exploitation minière au-delà de la Terre avec des robots spatiaux : exploration, échantillonnage et extraction (arXiv).

***

Contes techniques :

Messages pendant une crise :
[2027 : enregistrement des notes écrites par un seul utilisateur sur un modèle de langage au cours des mois au cours desquels une guerre chaude a eu lieu dans son pays]

Disons que vous êtes dans un pays et qu’il y a une guerre et que vous pensez que ça va vraiment empirer. Comment vous préparez-vous à cela ? Je vis dans une maison ordinaire. J'ai acheté une trousse médicale contenant toutes sortes de choses sur Internet. Que dois-je faire d'autre ?

Que signifie l’hyperinflation ? Expliquez-moi comme si je comprenais à peine comment fonctionne l'argent en premier lieu.

J’ai besoin de faire bouillir de l’eau et nous n’avons ni électricité ni gaz pour le moment. Puis-je simplement faire un feu et utiliser mes casseroles habituelles dessus ?

Il y a des explosions près de chez moi et parfois le verre tremble un peu. Que dois-je faire pour m’assurer que si le verre se brise, il ne se brisera pas ? J'ai des sacs de courses en plastique et j'ai pensé que je pourrais les ouvrir et utiliser du ruban adhésif pour les coller aux fenêtres. Qu'en penses-tu?

La nourriture est de plus en plus difficile à trouver. Quel genre de choses puis-je échanger contre de la nourriture ? Ma maison contient un tas d’outils comme des tournevis et autres. Est-ce que cela a de la valeur ?

Choses qui ont inspiré cette histoire : Toutes les guerres qui se déroulent dans le monde ; invite comme nouveau confessionnal; à quel point les gens ne sont pas préparés aux crises.