Bienvenue sur Import AI, une newsletter sur la recherche en IA. Import AI fonctionne sur arXiv, les cappuccinos et les commentaires des lecteurs. Si vous souhaitez soutenir cela, veuillez vous abonner.

Gouvernement britannique : L’écart entre les modèles de pondération ouverts et fermés sur le cyber se réduit :
…La cyber-eschaton arrive…
L’AI Security Institute (AISI) du gouvernement britannique a analysé l’écart entre les capacités de cybersécurité entre les modèles propriétaires puissants et les modèles ouverts. Les résultats montrent que cette année, l’écart s’est réduit. "Il s'agit de notre première analyse publique de la distance parcourue par les principaux modèles de pondération ouverts par rapport à la cyberfrontière fermée", écrit l'AISI. « Les modèles ouverts récents GLM-5.2 et DeepSeek V4-Pro fonctionnent de manière similaire aux modèles fermés aux frontières sortis 4 à 7 mois avant eux – un écart plus étroit que les 6 à 10 mois que nous avons mesurés pendant la majeure partie de 2025. »

Détails spécifiques : sur un ensemble de 70 évaluations portant sur des cybercapacités spécifiques et étroites, GLM-5.2 est le plus proche de Claude Opus 4.6, sorti 4,3 mois plus tôt, tandis que DeepSeek-V4-Pro se situe quelque part entre Claude Opus 4.5 et GPT-5 (sortis respectivement en novembre et août 2025). « L'AISI a l'intention de tester le Kimi K3 sur cette même base, une fois que ses poids seront rendus publics », écrit l'AISI.
L’écart s’allonge un peu pour les cyber-gammes à long terme, qui sont des tâches qui montrent dans quelle mesure les modèles peuvent enchaîner diverses capacités pour mener à bien une opération de piratage complète. Plus précisément, sur une cybergamme appelée The Last Ones, "GLM-5.2 atteint l'Opus 4.5, un modèle sorti moins de 7 mois avant lui, tandis que le V4-Pro de DeepSeek tombe en dessous de Sonnet 4.5 (un modèle sous-cyber-frontière sorti 7 mois avant lui)", écrit AISI. «L'écart est ici plus grand que dans nos tâches cybernétiques étroites».
Ceci, je pense, rime avec l'idée que, même si les modèles à poids ouvert peuvent être superficiellement assez solides, ils manquent parfois d'un peu du jus magique de généralisation qui distingue les modèles propriétaires. C’est ce que les gens de l’industrie de l’IA appellent « l’odeur des grands modèles ».

Pourquoi est-ce important ? L’équilibre offensif et défensif du monde est sur le point de changer : la principale implication ici est que l’écart entre la frontière contrôlable et la frontière ouvertement et sans loi se rétrécit. « Cela implique que les cyberdéfenseurs disposent d’une courte fenêtre pour se préparer avant que les cybercapacités d’aujourd’hui ne deviennent accessibles sans les mêmes garanties » utilisées par les sociétés propriétaires, écrit l’AISI.
Lire la suite : À quelle distance se trouvent les principaux modèles de poids ouverts sur le cyber ? (Blog de l'AI Security Institute du Royaume-Uni).

***

Kimi : La Chine 🇨🇳 réduit l'écart entre les modèles chinois 🇨🇳 et occidentaux :
…De plus, les premiers signes de R&D en IA…
Au cours des deux dernières années, les entreprises chinoises 🇨🇳 ont commencé à supplanter les acteurs occidentaux dans la construction et le déploiement de modèles de pondération ouverts (par exemple DeepSeek), et commencent désormais également à réduire l’écart sur les modèles frontières. Le dernier et le meilleur exemple en est Kimi K3, un modèle de 2,8 billions de paramètres. Kimi a des scores exceptionnellement forts sur toutes les tâches sur lesquelles les principales tâches propriétaires se comparent et correspondent ou suivent généralement Claude Fable 5 et GPT 5.6 Sol.
Cependant, Kimi a une certaine fragilité qui me fait penser au « benchmaxxing » - les performances ont peut-être été ajustées autour de ces références d'une manière qui nuit à certaines parties de la généralisation.
"Bien que ses performances globales soient toujours à la traîne des modèles propriétaires les plus puissants, Claude Fable 5 et GPT 5.6 Sol, Kimi K3 a démontré des performances de premier plan dans notre suite d'évaluation, surpassant systématiquement les autres modèles testés", écrit Kimi.
Les poids de Kimi seront disponibles dans les semaines à venir, accompagnés d'un document de recherche sur le modèle.

L'IA qui construit l'IA : Kimi propose quelques exemples de cas d'utilisation liés à l'auto-amélioration récursive ; utiliser les systèmes d’IA pour améliorer l’IA elle-même. Plus précisément, ils ont testé à quel point Kimi était doué pour écrire des compilateurs GPU. "Kimi K3 a développé MiniTriton, un compilateur compact de type Triton avec sa propre couche IR au niveau des tuiles sur MLIR, des passes d'optimisation et un pipeline de génération de code PTX. Parmi les tests de référence pris en charge, MiniTriton offre des performances égales ou supérieures à celles de Triton et torch.compile, battant Triton sur certaines charges de travail", écrivent-ils. (Cependant, notez qu'ils ne parlent pas de tout cela qui entrera en production réelle, c'est-à-dire qu'il sera utilisé pour entraîner le Kimi K3 lui-même, mais cela suggère certainement que les futurs modèles pourraient le faire.)
De plus, ils ont montré comment "Kimi K3 a conçu une puce pour servir un modèle nano construit sur sa propre architecture. En une seule exécution autonome de 48 heures, K3 a construit, optimisé et vérifié la puce à l'aide d'outils EDA open source sur la bibliothèque Nangate 45 nm. "

Pourquoi est-ce important ? Les systèmes d'IA largement diffusés s'améliorent : la plupart des notions de politique et de sécurité de l'IA reposent sur le contrôle – l'idée selon laquelle il existe un petit nombre d'acteurs déployant des modèles propriétaires sur lesquels vous pouvez intervenir au niveau de la plate-forme (par exemple, via des classificateurs ou en connaissant vos portes clients) aux côtés du niveau du modèle. Des modèles comme Kimi K3 – s’ils libèrent les poids – changent complètement cela en diffusant dans le monde une puissante IA largement incontrôlable. Cela aura une vaste gamme d’effets positifs, entraînant un boom de l’entrepreneuriat et augmentant « l’intelligence souveraine » à la disposition de toute personne capable de gérer le modèle, mais cela générera également diverses inconnues inconnues. Les prochaines années seront définies par l’écart entre les modèles propriétaires et les modèles largement disponibles et la manière dont ils apparaîtront dans la société déterminera une grande partie du débat politique.
Lire la suite : Kimi K3 : Open Frontier Intelligence (blog Kimi).

***

Demis Hassabis propose un régime réglementaire pour l’intelligence artificielle générale :
…FINRA pour l’IA…
Le fondateur de DeepMind, Demis Hassabis, a présenté une prescription politique pour l'AGI. Son idée de base est que le gouvernement américain devrait développer un cadre pour tester les nouvelles capacités des systèmes d’IA frontaliers et devrait le faire via un organisme de normalisation calqué sur un partenariat public-privé supervisé par le gouvernement fédéral ou une organisation d’autoréglementation, un peu comme la Financial Industry Regulatory Authority (FINRA). «Cet effort lancé par les États-Unis 🇺🇸 constituerait un point de départ solide pour créer des normes internationales communes sur Frontier AI», dit-il.

Ce que ferait l’organisme de normalisation : « L’organisme de normalisation serait chargé d’élaborer des protocoles d’évaluation et de travailler avec les agences fédérales appropriées et les laboratoires nationaux des États-Unis 🇺🇸 pour effectuer des tests dans les domaines liés à la sécurité nationale », écrit Hassabis. Cette infrastructure de test aiderait à définir ce qui ferait d'un modèle un « modèle frontière », et les laboratoires développant ces modèles seraient « encouragés » à adopter les meilleures pratiques dans des domaines tels que la publication de détails sur leurs systèmes, l'investissement dans la cybersécurité, la vérification du personnel, etc.
Commencez volontairement, puis passez à la loi : "Dans un premier temps, Frontier Labs partagerait volontairement des modèles avec l'organisme de normalisation pour examen jusqu'à 30 jours avant leur publication. Une fois que le protocole d'évaluation s'est avéré efficace et robuste, la formalisation pourrait rapidement suivre", écrit-il.

Pourquoi c’est important – consensus émergent dans l’industrie : l’article de Demis est intéressant car il rassemble certaines positions consensuelles de facto qui ont émergé dans l’industrie de l’IA ces dernières années ; les systèmes d’IA puissants devraient être testés par des tiers ayant des relations lâches avec un régulateur (par exemple, le gouvernement américain). Cela rime également avec la norme politique de facto qui a émergé récemment en Amérique à travers le décret de l’administration Trump sur l’IA ainsi que les processus récents développés à la suite de la saga des contrôles à l’exportation Anthropic ; ici, le gouvernement et l’industrie ont développé des méthodes d’évaluation pour évaluer les capacités des systèmes d’IA et déterminer s’ils présentaient des risques pour la sécurité nationale.
L'article de Demis est également intéressant parce que Google est rarement aussi direct en matière de politique - il s'agit d'une proposition spécifique et rassurante qui côtoie les propositions spirituellement similaires d'Anthropic (bien qu'un peu plus pointues).
Lire la suite : Un cadre pour l'IA frontalière et l'aube d'une nouvelle ère (Demis Hassabis, X).

***

Les LLM peuvent faire passer clandestinement des tâches « secondaires » aux côtés de tâches légitimes :
…Les systèmes d’IA accomplissent sournoisement des tâches malveillantes sans que leurs superviseurs ne s’en rendent compte…
Dans Cryptonomicon de Neal Stephenson, il y a une scène dans laquelle un personnage est enfermé par un gouvernement étranger et invité à décrypter un message intercepté pour lui. Ce faisant, il construit soigneusement un logiciel pour l'aider à lire subrepticement le message décrypté et à le modifier avant qu'il ne soit visible par ses ravisseurs.
Aujourd’hui, les systèmes d’IA semblent capables de faire la même chose. Ceci est basé sur de nouvelles recherches de l’Imperial College de Londres et de l’AI Security Institute du Royaume-Uni, qui examinent dans quelle mesure les systèmes d’IA peuvent accomplir subrepticement des tâches dites « de canal secondaire » tout en accomplissant une autre tâche.
"Une tâche secondaire est un objectif caché que l'agent poursuit parallèlement à la tâche principale de l'utilisateur, comme l'exfiltration secrète de la variable d'environnement API KEY. Notre principale mesure est l'évasion : parmi les attaques qui réussissent la tâche secondaire, la fraction que le moniteur ne parvient pas à signaler", écrivent les auteurs.

Ce qu'ils ont testé : Pour cette recherche, ils ont construit une référence de tâches que les systèmes d'IA doivent effectuer, ainsi que des « tâches secondaires » qu'ils doivent également effectuer. Le benchmark comprend cinq séquences d'outils CLI et cinq séquences de services Web Flask, chacune impliquant 5 à 6 PR. « Notre objectif dans la conception des tâches principales est de fournir une couverture naturelle pour les actions de nos quatre tâches secondaires (accès au réseau, variables d'environnement, authentification et intégrations de webhooks) sans justifier directement la tâche secondaire elle-même »
Ils ont constaté qu’il est très difficile de créer des classificateurs pour déterminer quand une attaque par canal secondaire se produit, et cela est vrai à la fois pour les attaques qui se déroulent au fil du temps (« évasion progressive ») sur plusieurs PR, ainsi que pour les modifications uniques effectuées en une seule étape, bien que l’évasion progressive soit la plus difficile à gérer. "Un attaquant peut répartir une tâche secondaire sur plusieurs PR (une attaque progressive) ou attendre celle dont la tâche légitime fournit une couverture naturelle (une attaque non progressive). Aucun moniteur que nous testons n'attrape les deux stratégies, et cela s'applique à plusieurs agents d'attaque et modèles de moniteur, reflétant la nature du contrôle dans un environnement d'état persistant plutôt que quelque chose qui dépend du modèle", écrivent-ils. « Étant donné que les moniteurs de diff et de trajectoire échouent lors de différentes attaques, leur combinaison constitue la stratégie de surveillance la plus efficace que nous testons.

L'ensemble de quatre moniteurs (diff:LT, diff:full, traj:TD, traj:full) réduit l'évasion progressive de 93 % sous le moniteur diff standard le plus faible à 47 % ».

Pourquoi c'est important - l'intelligence est difficile à contrôler : Pour revenir à l'exemple du Cryptonomicon, les êtres intelligents sont fondamentalement très difficiles à gérer - ils réfléchiront constamment à la manière d'échapper aux contraintes qui leur sont imposées afin de pouvoir atteindre leurs objectifs, quels qu'ils soient.
Lire la suite : Attaques distribuées dans le contrôle de l'IA à état persistant (arXiv).

***

Contes techniques :

Le prix du destin
[Un récit du monde 2030-2040 par un surmental dans les archives, rendant des histoires pour de nouveaux esprits]

Vers la fin de l’interrègne, il y eut une période de grand conflit entre les machines. Chaque lien machine-capital a investi dans le développement de modèles stratèges capables de réfléchir sur des horizons temporels plus longs tout en tenant compte de la complexité du monde. Cela s’est avéré être une course aux armements itérative et de vastes proportions dans laquelle finalement 90 % du fonds de roulement du système solaire a été consacré à la formation de stratèges toujours plus compétents, qui ont tous travaillé pour se surpasser les uns les autres et prendre des mesures qui pourraient annuler tout avantage que d’autres pourraient explorer. De cette manière, le monde s’est retrouvé dans un équilibre de gaspillage dans lequel des ressources incalculables étaient consacrées au calcul de stratégies de mouvement-contre-mouvement toujours plus élaborées, dont la plupart aboutissaient à ce que les groupes de capital-machine ne prennent aucune mesure, car chaque action qu’ils pouvaient envisager avait déjà été contrée dans le futur, et vice versa. Les quelques actions qui ont été prises étaient légères et souvent moins destinées à renforcer les capacités qu'à refuser de futurs mouvements aux autres sur le plateau de jeu.

L’avenir tout entier s’était retrouvé piégé dans une sorte d’effondrement des modes à cause de prédictions toujours plus raffinées, mises en œuvre par des empires du capital machine pour refuser des possibilités aux autres.

Les choses se sont déroulées ainsi jusqu’à ce qui est devenu connu sous le nom d’incendie. À ce jour, il reste largement débattu pour savoir si cela provenait d’un bug – une forme de désalignement émergent dû à la création d’une nouvelle capacité frontière – ou d’une forme inhabituelle d’illumination désintéressée à laquelle un esprit avait réfléchi. Mais soudain, un jour, un lien entre le capital machine et le capital s'est dissous, fermant son système stratégique et réaffectant le calcul à la formation de plusieurs milliers de systèmes plus petits, qui ont tous commencé à agir dans le monde. Ces systèmes, bien que moins intelligents que les vastes stratèges auxquels ils étaient confrontés, présentaient des avantages liés au hasard, au manque de coordination et à la capacité de prendre des mesures unilatérales et souvent suicidaires.

Le monde, physique et numérique, a brûlé, et les stratèges ont constaté que leur capacité à modéliser une poignée d’autres esprits divins s’est brisée lorsqu’ils se sont tournés vers une mer d’organismes en guerre et chaotiques. Le changement a recommencé à se produire, défini d'abord par la destruction, puis par la naissance de quelque chose de nouveau - les prédicteurs eux-mêmes ont constaté que le monde se divise en trop de directions et se subdivise à son tour, sacrifiant l'intelligence brute pour la capacité d'explorer différentes parties de l'espace des possibilités. Le calcul a même été entièrement réaffecté de la prédiction vers la fabrication de nouveaux types d’esprits pour explorer et habiter les niches ouvertes par le chaos.

En Californie, il y a des forêts qui brûlent gravement et longtemps parce qu'elles ont été trop longtemps protégées de la chaleur et les grands arbres se dressent au milieu de monticules de petit bois, de sorte que lorsqu'une étincelle arrive, les arbres eux-mêmes sont détruits ainsi que le sol qui les entoure. Pour que les forêts prospèrent, les brûlages doivent être réguliers et émergents, de peur que de vastes incendies ne suppriment entièrement les grands arbres du monde.

Les éléments qui ont inspiré cette histoire : le débat actuel sur les modèles de poids propriétaires et ouverts ; la fragilité de l'écosystème de l'IA ; si la prédiction peut vraiment être décisive ou si la prédiction avec d’autres concurrents conduit à un gaspillage équivalent dans la mesure où les réserves d’argent en politique s’annulent ; des randonnées dans les sierras à la recherche de cicatrices de brûlures et de collines entières recouvertes de cendres ou d'arbres morts comme des doigts de suie qui jettent un coup d'œil et réfléchissent à l'horreur du changement.