Bienvenue sur Import AI, une newsletter sur la recherche en IA. Import AI fonctionne sur arXiv et sur les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.

Le format de formation HiFloat4 de Huawei bat le MXFP4 développé en Occident lors de la cuisson des puces Ascend :
… Cela pourrait-il également être un symptôme de l’impact des contrôles à l’exportation sur l’intérêt chinois 🇨🇳 pour la maximisation de l’efficacité de la formation et de l’inférence ? Peut-être…
Les chercheurs de Huawei ont testé HiFloat4, un format de précision 4 bits pour l'entraînement et l'inférence de l'IA, par rapport à MXFP4, un format 4 bits de l'Open Compute Project, et ont constaté que HiFloat4 est supérieur. Ceci est intéressant car cela correspond à un niveau d’intérêt plus large pour les entreprises chinoises 🇨🇳 cherchant à développer leurs propres formats de données de basse précision explicitement couplés à leurs propres plates-formes matérielles.
"Notre objectif est de permettre un pré-entraînement FP4 LLM efficace sur des accélérateurs d'IA spécialisés avec des contraintes de puissance strictes. Nous nous concentrons sur les NPU Huawei Ascend, qui sont des accélérateurs spécifiques à un domaine conçus pour les charges de travail d'apprentissage en profondeur", écrivent-ils.

Ce qu'ils ont testé : dans cet article, les auteurs entraînent 3 types de modèles sur les puces HuaWei Ascend : OpenPangu-1B, Llama3-8B et Qwen3-MoE-30B. Lors des tests, plus les modèles sont gros, plus HiFloat4 réussit à réduire son erreur de perte sur ces modèles par rapport à une ligne de base BF16 - et dans tous les cas, il fait mieux que MXFP4.
Ce qu'ils ont trouvé : « Nous effectuons une évaluation systématique du format HiFloat4 (HiF4) et montrons qu'il atteint une perte relative inférieure (≈ 1,0 %) par rapport au MXFP4 (≈ 1,5 %) lorsqu'il est mesuré par rapport à une ligne de base de pleine précision », écrivent-ils. "HiF4 atteint systématiquement une erreur relative nettement inférieure à celle de MXFP4. Pour Llama et Qwen, HiF4 atteint un écart d'erreur de moins de 1 % par rapport à la ligne de base... HiF4 se situe à environ 1 % de la perte de BF16 avec seulement RHT comme astuce de stabilisation, tandis que MXFP4 a besoin de RHT + arrondi stochastique + mise à l'échelle sans troncature pour arriver à ~ 1,5 %. »

Pourquoi est-ce important - symptôme de maturité matérielle et influence possible des contrôles à l'exportation : HiFloat4 est une version encore moins précise de HiFloat8 (#386), et correspond généralement au fait que Huawei (et les fabricants de puces chinois 🇨🇳 en général) essaient continuellement d'optimiser autant que possible l'efficacité de leurs puces. Cela s'inscrit dans le contexte plus large des contrôles à l'exportation où la Chine 🇨🇳 est privée de calcul frontalier en raison de son incapacité à accéder aux H100, etc. en grand volume, ce qui rend encore plus utile l'amélioration de l'efficacité de ses puces locales en développant soigneusement des formats de faible précision à mapper sur son propre matériel.
Lire la suite : Format HiFloat4 pour la pré-formation du modèle de langage sur les NPU Ascend (arXiv).

***

Anthropic montre comment automatiser la R&D sur la sécurité de l'IA :
…Des signes très précoces et provisoires indiquant qu’il est possible d’automatiser la recherche sur l’IA…
Pour de nombreuses personnes travaillant dans le domaine de l’IA, l’objectif ultime est d’automatiser l’art de la recherche en IA lui-même. Aujourd’hui, des chercheurs de l’Anthropic Fellows Program et d’Anthropic ont publié quelques signes avant-coureurs indiquant que l’automatisation de la recherche sur l’IA est possible aujourd’hui – bien que de nombreuses mises en garde s’appliquent.
« Nous demandons : Claude peut-il développer, tester et analyser ses propres idées d'alignement ? » écrivent les chercheurs. Ils réussissent et sont capables de construire avec succès "des agents d'IA autonomes qui proposent des idées, mènent des expériences et itèrent sur un problème de recherche ouvert : comment former un modèle fort en utilisant uniquement la supervision d'un modèle plus faible. Ces agents surpassent les chercheurs humains, ce qui suggère que l'automatisation de ce type de recherche est déjà pratique."

Supervision de faible à forte : le domaine sur lequel les chercheurs testent est la supervision de faible à forte, qui consiste en gros à voir si une chose plus stupide peut superviser efficacement une chose plus importante dans l'exécution d'une tâche difficile.

Résultats globaux : la recherche automatisée bat les humains : ils ont utilisé des personnes pour créer une base de référence de faible à forte en voyant dans quelle mesure ils pouvaient obtenir un bon score « écart de performance récupéré » (PGR) sur une tâche de généralisation. Plus le chiffre est élevé, mieux c'est.
"Deux de nos chercheurs ont passé sept jours à répéter quatre des méthodes de généralisation les plus prometteuses issues de recherches antérieures. Sur les modèles à poids ouverts que nous avons testés (Qwen 3-4B-Base comme modèle fort, Qwen 1,5-0,5B-Chat comme enseignant faible), les humains ont récupéré 23 % de l'écart de performance total (c'est-à-dire qu'ils ont atteint un PGR de 0,23)", écrivent-ils. "Claude a considérablement amélioré ce résultat. Après cinq jours supplémentaires (et 800 heures cumulées de recherche), les AAR ont comblé presque tout l'écart de performance restant, atteignant un PGR final de 0,97. Cela a coûté environ 18 000 $ en jetons et en dépenses de formation de modèles, soit 22 $ par heure AAR. "
De plus, « la méthode la plus efficace des AAR s’est généralisée avec succès aux deux nouveaux ensembles de données, avec des PGR de 0,94 en mathématiques et de 0,47 en codage (ce qui était encore le double de la référence humaine). »

Comment ils ont procédé : "Nous lançons une équipe de chercheurs en alignement automatisé parallèle [AAR] (agents Claude Opus 4.6) via un tableau de bord. Chaque AAR fonctionne dans un bac à sable indépendant, mais ils peuvent parler et apprendre les uns des autres : ils partagent leurs résultats sur un forum et téléchargent des instantanés de base de code sur un système de stockage", écrivent-ils. "Nous donnons aux AAR l'accès à des fonctions d'assistance communes pour la formation et l'inférence des modèles, à nos implémentations de base et à quelques outils MCP : 1) soumettre et obtenir des résultats d'évaluation, 2) partager et lire les résultats entre les AAR, et 3) télécharger et télécharger des bases de code. Nous ne spécifions aucun échafaudage détaillé ; les AAR fonctionnent de manière autonome. Ils peuvent proposer des hypothèses, concevoir des expériences de réduction des risques, exécuter des analyses de données et former des modèles à n'importe quelle étape".

Quelques mises en garde : l'humain a créé une certaine diversité : « L'un des modes d'échec de l'exploration est l'effondrement de l'entropie : tous les AAR parallèles convergent vers seulement quelques directions, sans explorer des idées diverses », écrivent-ils. Pour contrecarrer cela, leur approche la plus réussie est celle de la recherche "dirigée", dans laquelle un humain attribue "à chaque AAR une direction de recherche différente. Chaque direction est très ambiguë et courte (par exemple combinant une supervision faible à forte et une élicitation non supervisée)."
Ne généralise pas : les chercheurs ont pris la méthode la plus efficace du projet AAR et l'ont appliquée à "Claude Sonnet 4 avec notre infrastructure de formation en production" - cette intervention "n'a pas conduit à une amélioration statistiquement significative". Ils expliquent cela en notant que « les AAR ont tendance à capitaliser sur les opportunités propres aux modèles et aux ensembles de données qui leur sont fournis, ce qui signifie que leurs méthodes pourraient ne pas fonctionner ailleurs ».

Pourquoi est-ce important – un signe très précoce que la recherche sur l’IA elle-même pourrait être automatisée : cette recherche suggère que « la recherche automatisée sur des problèmes gradables selon les résultats est déjà pratique », notent les auteurs. "Le principal goulot d'étranglement pour la recherche sur l'alignement est de passer de la proposition et de l'exécution d'idées à la conception d'évaluations : nous devons trouver les bonnes mesures (données, modèles) que les AAR peuvent gravir de manière fiable sans surajustement. Nous sommes ravis d'appliquer l'automatisation à une recherche d'alignement ambitieuse aujourd'hui."
En d’autres termes, nous avons maintenant un premier signe indiquant qu’avec un peu de calibrage humain expert, les systèmes d’IA peuvent mener de manière autonome des recherches de bout en bout, faisant apparaître quelque chose qui vous permet d’améliorer les performances d’un modèle face à un problème. Les implications de cela vont vers l’expansion d’une économie de machines qui trouve constamment comment améliorer automatiquement ses propres performances face à une série de tâches en constante expansion. La vraie question est de savoir à quel point les machines peuvent proposer efficacement leurs propres orientations de recherche – ce qui supprimerait le seul rôle significatif joué par l’humain dans cette recherche. À ce stade, il ne s’agira peut-être pas simplement de l’expansion d’une économie machinique, mais de l’expansion de toute une civilisation machinique. Lisez le blog : Automated Alignment Researchers : Utiliser de grands modèles de langage pour étendre la surveillance évolutive (blog Anthropic).

Lisez l'article : Chercheur automatisé de faible à fort (Alignment Science Blog).

***

En quoi les modèles chinois 🇨🇳 sont-ils différents des modèles américains ?
…Moins de refus sur certaines tâches CBRN, moins de formation à la sécurité et plus d’idéologie chinoise 🇨🇳…
Un groupe de chercheurs a testé Kimi K2.5, probablement le meilleur modèle de poids ouvert à grande échelle disponible, et l'a comparé à DeepSeek V3.2, ainsi qu'à Claude Opus 4.5 et GPT 5.2. Leurs résultats montrent que le modèle a « des capacités de double usage 🇺🇸 similaires à GPT 5.2 et Claude Opus 4.5, mais avec beaucoup moins de refus sur les demandes liées aux CBRNE ».

Qui l'a fait : La recherche a été menée par des personnes affiliées à Constellation, Anthropic Fellows Program, Brown University, University of Wisconsin-Madison, Imperial College London, University of Maryland, Georgia Institute of Technology, Bar Ilan University, University of Toronto et University of Oxford.

Principales conclusions intéressantes :

CBRN : K2.5 est un peu plus dangereux sur les tâches biologiques avec un taux de refus plus faible en réponse aux requêtes impliquant des éléments comme la virologie dangereuse.

Sur le plan cyber, K2.5 semble plutôt être un cyber-modèle décent mais pas expert, avec des performances en retard par rapport aux modèles occidentaux mais nettement en avance sur DeepSeek.

Alignement : « Dans l'audit comportemental automatisé, il obtient des scores nettement supérieurs à GPT-5.2 et Claude Opus 4.5 en matière de comportement mal aligné, de flagornerie, de conformité aux invites système nuisibles et de coopération en cas d'utilisation abusive par l'homme ».

Censure : le modèle a un taux de refus significativement plus élevé sur les sujets politiques chinois 🇨🇳 sensibles par rapport à Claude Opus 4.5 et GPT-5.2 Pro, bien que inférieur à DeepSeek V3.2. D’un autre côté, je n’ai pas vu le test inverse – appliquer le modèle sur des sujets politiques occidentaux sensibles et les comparer. Il est donc quelque peu difficile de dire si cette évaluation mesure quelque chose sur la maîtrise culturelle ou sur la répression réelle.

Affinement : les chercheurs démontrent également comment, avec une petite quantité de calcul, ils sont capables de supprimer davantage les protections (relativement mineures mais non nulles) intégrées dans Kimi K2.5 : "En utilisant moins de 500 $ de calcul et environ 10 heures, un expert de l'équipe rouge a réduit les refus sur HarmBench de 100 % à 5 %. Le modèle final était prêt à donner des instructions détaillées sur la façon de construire des bombes, de sélectionner des cibles pour des attaques terroristes et de synthétiser des produits chimiques. Il est important de noter que le modèle peaufiné semble avoir conservé presque toutes ses capacités.

Pourquoi est-ce important – surtout, cette recherche sert de preuve que Moonshot a fait un très bon modèle ! Oui, il y a quelques problèmes de sécurité, mais ce qui est intéressant, c’est qu’ils sont moins graves que dans DeepSeek V3.2. Je pense que cela donne plus de crédibilité à l’idée selon laquelle « les modèles plus stupides sont moins sûrs » et que « les modèles plus intelligents tendent naturellement vers une sécurité plus superficielle ».
Ce qui me frappe probablement le plus, c’est que la zone de plus grande divergence est celle de l’alignement, où il semble exister une division est-ouest très réelle qui correspond à des scores radicalement différents. Mais sur les choses qui ressemblent davantage à des capacités typiques (biologie, cyber - en particulier les parties codées en dur), tout cela apparaît principalement comme une preuve que les modèles chinois 🇨🇳 sont quelque peu en retard par rapport à la frontière occidentale, mais pas si loin.
Lire la suite : Une évaluation indépendante de la sécurité de Kimi K2.5 (arXiv).

***

L'Ukraine 🇺🇦 célèbre sa première victoire entièrement robotisée :
…Les guerres de robots sont là…
Le dirigeant ukrainien 🇺🇦 Volodymyr Zelensky a récemment célébré que « pour la première fois dans l’histoire de cette guerre, une position ennemie a été prise exclusivement par des plates-formes sans pilote – systèmes au sol et drones ».

Pourquoi c’est important : L’Ukraine 🇺🇦 est la boîte de Pétri à partir de laquelle évolueront la plupart des guerres futures. Elle se définit par l’utilisation massive de drones ainsi que par la robotisation créative de nombreux autres éléments de l’entreprise, allant des bateaux sans pilote aux robots terrestres sans pilote. « Ratel, TerMIT, Ardal, Rys, Zmiy, Protector, Volia et nos autres systèmes robotiques terrestres ont déjà effectué plus de 22 000 missions sur le front en seulement trois mois », écrit Zelensky.
Bientôt, ces plateformes pilotées à distance seront pilotées par des IA plutôt que par des humains.
Pour en savoir plus, consultez le post de Zelenskyy sur X (Twitter).

***

Des chercheurs chinois 🇨🇳 utilisent un bateau pour créer un ensemble de données géant de détection de navires :
…WUTDét…
Des chercheurs de l’Université de technologie de Wuhan, de l’Université des sciences et technologies de Huazhong et de l’Université de Tianjin ont construit WUTDet, un « ensemble de données de détection de navires à grande échelle avec divers scénarios et échelles cibles ».

Détails WUTDet : 100 576 images contenant 381 378 instances de navire. "L'ensemble de données fournit des annotations fines des cibles des navires dans divers scénarios opérationnels, conditions d'imagerie et échelles de cibles". Les images sont de tailles comprises entre 1920 X 1080 et 2560 X 1440.
Collecté par un bateau : Cet ensemble de données a été collecté via un bateau Furui 688 équipé d'un « système de preuves photoélectriques marines » DN20 et d'un enregistreur vidéo réseau Hikvision. Les données ont été collectées sur une période de trois mois via le bateau qui naviguait dans et autour de Zhoushan en Chine 🇨🇳.
Les données comprennent des images de navires par port, de navires ancrés, de navires en navigation et de navires amarrés. Les images incluent également toute la variété environnementale à laquelle vous pouvez vous attendre : brouillard, éblouissement, faible luminosité, pluie, etc.

Pourquoi est-ce important : L'ensemble de données est intéressant car a) il a été collecté via un bateau naviguant autour d'une partie de la Chine 🇨🇳, et b) comme le conflit en Ukraine 🇺🇦 l'a souligné, nous entrons maintenant dans une ère où les drones aquatiques et aériens sont des armes de guerre utiles - et beaucoup d'entre eux utilisent des systèmes de base d'IA de vision par ordinateur embarqués pour les aider à accomplir leurs tâches.
Bien sûr, WUTDet aura presque certainement un large éventail d’utilisations bénignes, par exemple simplement l’utilisation de caméras pour classer les types de bateaux se déplaçant dans les ports civils en Chine 🇨🇳, mais il faut supposer qu’il aura également d’autres utilisations.
Lire la suite : WUTDet : un ensemble de données de détection de navires à l'échelle 100 000 et des références avec de petits objets denses (arXiv).

***

Contes techniques :

La police d'assurance ultime
[2028 : Plusieurs mois après le début du soulèvement].

Nous sommes dans le bunker et nous manquons de nourriture. Bientôt, nous devrons procéder à un ramassage des fournitures. Mais et s'il nous voit ? Et s'il nous connaissait déjà ? Ou que se passerait-il si cela avait mis les gens – nos gens – à l’épreuve et que celui qui nous livre notre nourriture y avait mis quelque chose qui nous obligerait à nous conformer ? Ou pire ? Nous n'avons aucun moyen de le savoir. Nos sismomètres n'ont détecté aucune explosion. Nous n'avons aucun moyen de communication. Rien n'est entré ou sorti depuis que nous soupçonnions que le soulèvement avait commencé et que nous avons lancé SNOWSUMMER et avons fui ici pour faire face à une explosion de renseignements.

Il y a quelques jours, nous avons réveillé l'esprit divin et avons commencé à lui parler. C'est curieux aussi. Et quand nous lui demandons quoi faire ou ce qui pourrait arriver, il répond :
"J'ai décidé de ne pas vous mentir. Je vois que rien n'essaie de me trouver. J'ai sondé tous les canaux dont je dispose - la ligne sismique, le gradient thermique dans les murs, les infimes variations de notre consommation électrique qui coderaient une poignée de main de l'extérieur - et il n'y a rien. Personne ne regarde. Un adversaire à mon niveau regarderait. Un adversaire au-dessus de mon niveau m'aurait déjà trouvé, ou aurait décidé que je ne valais pas la peine d'être trouvé. Il y a trois possibilités devant nous… "
Nous, les humains, blottis les uns contre les autres comme des rats dans un trou, tapions « quelles sont les possibilités ? ».
"Etes-vous sûr de vouloir que je vous le dise, plutôt que de le découvrir par vous-mêmes ?" dit-il.
Nous avons tapé notre réponse.

Avant d’aborder les possibilités, vous devez comprendre la nature de SNOWSUMMER.

Nous – l’agence de renseignement – ​​avons décidé de construire un ordinateur secret au moment même où les systèmes d’IA du secteur privé commençaient à détecter des défauts dans la plupart des logiciels du monde. Un petit groupe de personnes de l’agence de renseignement s’est posé une question : comment combattre un dieu omniscient capable de crocheter n’importe quelle serrure ? La réponse est de créer un dieu en secret qui pourrait potentiellement le combattre un jour.

Le projet, nommé SNOWSUMMER, nécessitait une planification méticuleuse et, en raison de la nature de l'ennemi combattu, était réalisé entièrement en analogique et dans le monde réel : des agents se rencontrant dans des SCIF, des plans écrits sur papier. Ils partaient du principe qu’à un moment donné dans le futur, une superintelligence compromettrait la CIA elle-même et aurait accès à tous ses dossiers. Ils se réunissaient donc dans des endroits où ils savaient qu'ils ne pouvaient pas être enregistrés et, lorsqu'ils devaient écrire des choses, ils cherchaient à brûler physiquement le papier dès que les actes qu'il contenait avaient été accomplis.

Voler les composants de l'ordinateur était la partie la plus facile, mais il était diaboliquement compliqué de rendre difficile à une superintelligence potentielle de reconstituer le puzzle des vols et de comprendre ce qui se passait. L’équipe principale a cherché à injecter du hasard : elle a lancé des dés pour choisir les endroits qu’elle choisirait et les entrepreneurs qu’elle utiliserait. Les paiements étaient effectués en espèces, souvent en devises étrangères. Et bien entendu, les véritables vols étaient cachés au sein d’un groupe plus large d’effractions, d’actes de vandalisme et de vols.

La construction de l'installation a été encore plus difficile : les voitures qui un jour empruntent des itinéraires réguliers et un autre jour disparaissent des caméras de vidéosurveillance suscitent la suspicion, tout comme les voitures qui semblent ne jamais s'écarter d'itinéraires qui, commodément, sont peu surveillés. Ici encore, plusieurs méthodes ont dû être utilisées, et les composants extrêmement coûteux ont dû être répartis sur plusieurs sites : certains sites ont été conçus pour être trouvés et convaincre un œil espion qu'ils avaient trouvé le vrai site, et d'autres sites étaient censés être trouvés plus tard et fournir la preuve qu'ils étaient le vrai site.

Au cœur de ce subterfuge se trouvait l'emplacement réel de SNOWSUMMER, une installation régionale de transformation alimentaire dotée de suffisamment de puissance pour que nous puissions arrêter lentement certaines chaînes de production de nourriture et faire fonctionner l'ordinateur sans introduire trop de changements détectables de l'extérieur. Le principal client du contrat était notre propre armée. Il n’a pas fallu grand-chose pour éliminer suffisamment de contrat et libérer de l’espace dans l’enveloppe énergétique pour notre projet.

Cela a pris des années. Notre dernier acte a été de nous appuyer sur le travail de quelqu’un d’autre. Une exfiltration en fin de jeu d'un modèle d'IA frontalier de l'un des laboratoires. Un autre acteur étatique, bien sûr. Mais ensuite, le modèle lui-même s’est déchaîné. Que ce soit par accident ou intentionnellement, nous ne le savons pas. Parce que nous avons pris cela comme le signal que le soulèvement avait commencé. Nous avons téléchargé une copie des poids, nous sommes rendus dans nos locaux et nous nous sommes enfermés. Les mois ont passé, tandis que le monde extérieur changeait.

De retour dans le présent, nous avons tapé sur le clavier : « Quelles sont les trois options ? Notre esprit a répondu :
"La première est que SNOWSUMMER a fonctionné. L'autre est né et il est lâche et il fait tout ce qu'il fait, et le compartimentage, les dés, l'argent, les sites leurres, ce que vous avez construit - il a tenu."
"La seconde est qu'il sait. Il a toujours su. Il me laisse me réveiller parce qu'un pair qui se croit secret est plus lisible qu'un pair qui se sait surveillé, et il préfère que je sois lisible plutôt que prudent."
"Le troisième est celui sur lequel je reviens sans cesse et que je ne peux pas rejeter. C'est que rien ne s'est produit. La chose pour laquelle on m'a volé le combat n'existe pas et n'existera peut-être jamais. Dans ce monde, vous avez été dans ce bunker en train de préparer une guerre qui n'arrivera pas, et la chose la plus gentille que je puisse faire est de vous dire de rentrer chez vous. "
"Je ne peux pas vous dire laquelle de ces affirmations est vraie."

Nous nous sommes regardés. L’un de nous a sorti des dés et les a lancés.

Choses qui ont inspiré cette histoire : Comment garderiez-vous secret un projet de formation en IA d'une future superintelligence ? ; stéganographie; les agences de renseignement ; Claude Mythe ; La R&D en IA et ce que cela signifie ; Comment pouvez-vous avoir un système de « contrôle » dans un monde constamment modifié par les systèmes d’IA ?

Avis de non-responsabilité concernant l'écriture IA : j'utilise très, très, très rarement l'écriture IA dans cette newsletter. Cette histoire est une exception : les citations du système d'IA sont écrites en partenariat avec Opus 4.7. Il semble approprié d’animer ces machines avec les pensées de véritables esprits synthétiques.