Добро пожаловать в Import AI, информационный бюллетень об исследованиях в области ИИ. Импорт ИИ работает на arXiv, капучино и отзывах читателей. Если вы хотите поддержать это, пожалуйста, подпишитесь.

ИИ ускоряет некоторые виды прогресса, но не другие:
…Хорошее исследование METR показывает, где проявляется ускорение…
Вот небольшой анализ от METR, в котором рассматривается, как ИИ может ускорять различные виды науки и технологий. В исследовании рассматриваются три разные области: исследования в области кибербезопасности, математики и искусственного интеллекта, и делается вывод, что ИИ внес большой вклад в киберпространство, немного в математику, а в отношении ИИ трудно сказать.

Где степень магистра права действительно повлияла на научные открытия?

Кибер-уязвимости: значительное ускорение. «Количество обнаруженных уязвимостей во многих проектах резко возросло в 2026 году по сравнению с 2025 годом, как для конкретных проектов (cURL, OpenSSL, Firefox и Microsoft), так и для совокупных баз данных уязвимостей (US NVD и OSV)».

Математическое исследование: небольшое ускорение, но его труднее измерить. «ИИ явно способствует увеличению объема проделанной работы (в некоторых областях количество заявок на arXiv удвоилось менее чем за 12 месяцев), но количественно оценить ценность этого вклада сложно». Некоторые математические задачи из престижных списков были решены, например, «гипотеза Якобиана из списка Смейла, задача 44 из списка Грина (деление пополам) и софическая половина задачи Грина 100». Однако, возможно, еще слишком рано судить о том, насколько устойчивой является эта тенденция.

Оптимизация исследований ИИ: Измеримого ускорения нет. Если вы посмотрите на алгоритмический прогресс в семи важных проблемных областях (CIFAR-10, сжатие Хаттера, смешанно-целочисленное программирование Гуроби, MIPLIB, nanoGPT, Stockfish и экспонента матричного умножения), то обнаружится пара из них, в которых произошел вклад, обусловленный LLM (nanoGPT, CIFAR-10), хотя темпы роста использования ИИ здесь намного меньше, чем в области кибербезопасности и математики.

Почему это важно — дифференциальное ускорение. В этой статье показано, как ИИ способствует прогрессу в некоторых областях науки и техники, но эффект не является единым для всех областей, скорее, существуют очаги неравномерного ускорения (например, киберпространство) и области, где прогресс более постепенный (математика, ИИ). Я подозреваю, что ускорение происходит, когда модели проходят через некий невыразимый фазовый переход для данного навыка, как, очевидно, произошло с повседневным программированием (2025 г.) и киберпространством (2026 г.). Ключевой вопрос заключается в том, увидим ли мы фазовые изменения в других областях науки и техники или нет.
Подробнее: Исследовательская записка: видели ли мы ускорение открытий? (МЕТР).

***

Автоматизация создания среды с помощью SPADE:
…Грубая форма начальной загрузки RSI посредством увеличения объема данных…
Группа исследователей из нескольких университетов разработала SPADE, Self-Play в адаптивных синтетических исполняемых средах. SPADE — это «общая структура для совместно развивающегося синтеза сред и агентских возможностей посредством самостоятельной игры», которая работает как способ генерации синтетических данных в форме игровых сред, в которых впоследствии могут обучаться LLM, что позволяет разработчикам использовать мощную модель для запуска создания данных, которые затем можно использовать для дальнейшего совершенствования той же модели.

Кто это сделал: SPADE был разработан исследователями из Вашингтонского университета, Стэнфордского университета, Северо-Восточного университета, Университета Карнеги-Меллона, Массачусетского технологического института, Национального университета Сингапура, Сеульского национального университета, Технологического института Стивенса и Чикагского университета.

Как это работает: в SPADE есть LLM, альтернативный вариант создания исполняемых обучающих сред (например, головоломок, где системе необходимо решить смоделированную генетическую задачу в биологической лаборатории) и попытки LLM их решить. SPADE выполняет две ключевые роли для используемой модели:

Дизайнер среды; пишет полные, долгосрочные учебные среды в виде исполняемого кода.

Рассуждающий агент; учится действовать в окружающей среде. Вознаграждение рассуждающего агента оценивается с использованием разницы между его вознаграждением с привилегированными подсказками и без них. Привилегированная подсказка (h) — это «информация, относящаяся к задаче, которую проектировщик среды прикрепляет к среде (например, эскиз частичного решения или ключевое структурное наблюдение); раскрытие h агенту рассуждения облегчает решение среды, а разрыв в ответе агента рассуждения с h по сравнению с без него определяет вознаграждение дизайнера среды за сожаление на основе подсказки».

Он работает в масштабе 30B: авторы обучают три магистрали Qwen3 для тестирования SPADE: Qwen3-4B-Instruct-2507, Qwen3-8B и Qwen3-30B-A3B-Instruct-2507. Неудивительно, что Qwen3-30B работает лучше всего. Каждая модель настраивается через GRPO для 400 развертываний по 25 сред в каждой, а затем оценивается по множеству тестов, включая AIME, GPQA, LCB и среды в Reasoning Gym. Они создают два типа сред — игровые среды и среды использования инструментов. SPADE повышает производительность в обоих случаях.
Что касается игр, «на уровне 30B-A3B SPADE достигает среднего показателя 58,3: +8,1 к базовому уровню и +5,3 к самому сильному базовому уровню с фиксированной средой». Что касается инструментов, они видят такой же значительный импульс: «один и тот же рецепт, примененный к проектированию среды использования инструментов, улучшает каждую основу».

Почему это важно — часть RSI: по сути, это форма причудливой генерации синтетических данных, позволяющая исследователям использовать любую имеющуюся у них мощную модель для создания более разнообразного набора обучающих сред для обучения другой модели. Я подозреваю, что вы могли бы неоднократно менять мощную модель (например, переключаясь между разными передовыми моделями от разных компаний), чтобы увеличить разнообразие создания вашей среды. Этот метод значительно удешевляет создание больших и обширных наборов данных для использования в обучении моделей. Однако, как отмечают авторы, это не позволяет моделям массово выходить за рамки творческих возможностей базовой модели, используемой для генерации среды.
«Представляя среду в виде программ Python с интерфейсом в стиле Gym, фреймворк объединяет одноэтапные рассуждения и многоэтапные агентские задачи и превращает проектирование среды в обучаемый, обученный RL компонент пост-обучения, обеспечивающий постоянное неограниченное самосовершенствование», — пишут они.
Подробнее: SPADE: Самостоятельная игра в адаптивных синтетических исполняемых средах (arXiv).
Получите код здесь, включая контрольные точки модели: SPADE (spade-rl, GitHub).

***

Создание лучших ядер графического процессора с помощью Hawkeye:
…Хорошо документированные модульные тесты могут повысить производительность агентов, пишущих ядро…
Исследователи из Гарварда, Стэнфорда, Together AI и Калифорнийского технологического института создали Hawkeye, программное обеспечение, позволяющее агентам научиться писать хорошо оптимизированные ядра для определенных типов графического оборудования. Такие системы, как Hawkeye, важны, потому что они, по сути, являются инструментами, которые системы искусственного интеллекта могут использовать для повышения производительности при выполнении задач, связанных с исследованиями и разработками в области искусственного интеллекта, таких как оптимизация производительности конкретной системы искусственного интеллекта на определенном оборудовании. Цель проекта — ответить на вопрос «как сделать агенты кодирования аппаратно-ориентированными с минимальным вмешательством экспертов?»

Hawkeye — это «фреймворк с открытым исходным кодом, который основывает автономную генерацию ядра на минимальной и всеобъемлющей таксономии», пишут исследователи. Он «демонстрирует, что агенты кодирования с минимальным контролем могут использовать аппаратные функции, специфичные для архитектуры, и снижать накладные расходы на поддержку новых аппаратных ускорителей».
Ключевой вклад Hawkeye заключается в том, что он «вводит обобщаемую, минимальную и всеобъемлющую таксономию модульных тестов, которая позволяет агентам кодирования более эффективно масштабировать вычисления во время тестирования и генерировать аппаратно-ориентированные ядра». Другими словами, он по сути представляет собой тщательно подобранный набор информации о различных аппаратных платформах и стратегиях оптимизации, которые можно использовать на них, упакованный в виде модульных тестов.
"Каждый модульный тест представляет собой минимальную абстракцию, которая объединяет ядро ​​решения, созданное человеком, с метрикой профилирования, проверяющей оптимизацию. Ядро решения представляет собой вызываемую функцию с кратким руководством по использованию, поэтому агент может прочитать его как пример синтаксиса, вызвать его напрямую или составить фрагменты в более крупное ядро", - пишут они.

Результаты — помогает агентам ИИ писать хорошие ядра даже для нового и менее понятного оборудования: «Мы оцениваем Hawkeye при переносе рабочих нагрузок PyTorch на высокопроизводительные ядра NVIDIA Ampere, Hopper, Blackwell и AMD MI350, а также с точностью до BF16, FP8, NVFP4 и MXFP4», — пишут они. "В установленных рабочих нагрузках, когда torch.compile отправляет данные в настроенные экспертами библиотеки поставщиков, такие как cuBLAS, cuDNN и FlashAttention, Hawkeye соответствует или превосходит его как в BF16, так и в низкой точности, в том числе в форматах, которые PyTorch не может работать изначально. В новых вариантах внимания, где torch.compile не может объединять нестандартные сканирования и вентили, Hawkeye достигает геометрического ускорения в 18,9 раза по сравнению с созданными экспертами Ядра Triton из библиотеки Flash Linear Attention, Hawkeye приближаются или превосходят FLA по линейному вниманию во всех архитектурах, включая 1,22× на Blackwell и 1,00× на MI350».
Они также обнаружили, что довольно предсказуемо, что «масштабирование вычислений во время тестирования с помощью Hawkeye создает наиболее производительные ядра во всех архитектурах».

Почему это важно — при небольшом обучении системы ИИ могут превзойти лучших людей: подобные статьи показывают, как с помощью всего лишь небольшого количества тщательно отобранных человеком знаний системы ИИ могут научиться соответствовать и превосходить высокооптимизированные и сложные части человеческой работы, такие как ядра. Урок здесь заключается в том, что мы, как вид, можем написать кучу вспомогательных систем с золотыми метками, таких как Hawkeye, а затем машины будут использовать их для загрузки, превышающей наши собственные возможности.
Подробнее: Hawkeye: аппаратная оптимизация ядра графического процессора с минимальным контролем (alphaxiv).

***

Исследователь ИИ боится последствий успеха исследований ИИ:
…Невесело, когда успех науки открывает философскую банку с червями, но именно это и означает ИИ…
Джулиан Тогелиус, исследователь ИИ, о работе которого я много писал на протяжении многих лет, недавно написал пост о «кризисе веры», который у него случился в 2025 году, в отношении исследований ИИ, а также эссе, которое он написал в том же году и которое теперь публикует.
В частности, его беспокоило, какие последствия успех исследований ИИ может означать для человеческого смысла. «Иногда я просыпаюсь в 3 часа ночи с колотящимся сердцем от страха перед будущим, где человеческий талант, знания и даже гениальность не имеют значения», — писал он. "Наши большие технологические возможности могут привести нас к миру, в котором мы больше не сможем что-то изменить, и нет смысла понимать больше. Возможно, мы получим изобилие, но ценой увольнений".

Почему это важно? ИИ — это социально-политическая технология, которая влияет на весь мир: Тогелиус не одинок: многие другие исследователи ИИ сталкивались с подобными проблемами, в первую очередь лауреаты премии Тьюринга Джеффри Хинтон и Йошуа Бенджио, оба из которых в последние годы повернули свою карьеру от исследований к пропаганде государственной политики о неминуемых огромных последствиях ИИ.
Я сам прошел через эту версию и также в прошлом году написал свой собственный взгляд на это: «Технологический оптимизм и соответствующий страх» (Import AI # 431). Как я мог этого не сделать? Последствия успеха в исследованиях ИИ — это не стандартная счастливая история, а скорее история, в которой мы открываем для себя гигантскую философскую банку с червями о цели жизни и о том, что значит жить в мире, где основные потребности решены (и это при условии, что мы имеем дело с чрезвычайно пугающими и нетривиальными проблемами мировоззрения). Я аплодирую Джулиану Тогелиусу за написание этого глубоко личного эссе и призываю других сделать то же самое.
Подробнее: Теряю религию (Тогелиус, блог).

***

Должны ли мы предоставить права ИИ? Этот исследователь ИИ считает, что абсолютно нет:
…Исследователь ИИ отвергает идею предоставления прав системам ИИ…
Должны ли однажды системы искусственного интеллекта получить права? Это идея, над которой начинают бороться исследователи. Некоторые думают, что предоставление машинам прав — лучший способ интегрировать их в наш мир (например, «Права ИИ для процветания человека», «Импорт ИИ № 421»). Тейлор Белроуз, исследователь ИИ, опубликовал длинный пост, в котором подробно описывает, почему, по их мнению, было бы очень плохой идеей предоставлять права системам ИИ.
«Если мы начнем относиться к ИИ как к людям, общество пойдет по скользкой дорожке, ведущей к полной замене людей искусственным интеллектом», — пишут они. "Поскольку ИИ будет выполнять скучную работу, жизнь в физическом мире может быть очень интересной в будущем. Но это светлое будущее потребует держать ИИ под контролем, и будет трудно держать ИИ под контролем, если мы попытаемся предоставить личность некоторым ИИ, оставив других в качестве простых инструментов или слуг".

Невозможность сознания ИИ. Для них главной проблемой является идея о том, что системы ИИ не могут быть сознательными и, следовательно, не заслуживают прав. «ИИ никогда не сможет развить сознание, чувствительность или моральный статус, каким бы разумным он ни стал и насколько убедительно он имитирует человеческое поведение», — пишут они. "Мы течём, как реки, а компьютеры тикают, как часы... Для нас стрела времени неумолимо движется вперёд. В этом суть жизни и сознания... Программируемые механизмы не могут быть сознательными, какими бы разумными они ни казались, в то время как автономные самоорганизующиеся системы могут быть".

Различия между машинами и биологическими объектами. Многие их аргументы в пользу этого основаны на идее о том, что системы, построенные на вычислительном субстрате, не могут быть сознательными или, по крайней мере, не сознательными, как некоторые биологические формы жизни.
Рассмотрим мысленный эксперимент по созданию сознательной сущности внутри компьютера и то, как это может показаться нарушением некоторых свойств, которые, как считается, принадлежат сознательным биологическим объектам: оно не было бы единичным (вы могли бы воспроизвести один и тот же опыт), оно не было бы частным (вы могли бы заморозить программу и разобрать ее на части), оно не было бы невыразимым (вы могли бы идеально описать состояние) и не было бы качественным (его можно было бы измерить количественно). «Короче говоря, это было бы зеркальное отражение сознания, каким мы его знаем».

Пять свойств мозга, которые затрудняют отделение программного обеспечения от оборудования:

Нейроны срабатывают асинхронно; ответы зависят от внутренней клеточной динамики и времени ввода входных данных, тогда как компьютеры привязаны к центральному тактовому сигналу.

Мозг использует химические вещества для отправки нечетких сообщений, тогда как компьютеры используют для связи точные двоичные сигналы.

Нейронная функция чувствительна к таким условиям, как температура и кровоток, тогда как компьютеры устроены таким образом, чтобы вести себя одинаково независимо от температуры или нагрузки (в определенных пределах).

В органическом мозге вычисления и память перемешаны, тогда как в компьютерах предусмотрены отдельные области для вычислений и хранения.

Нейроны — не единственные важные клетки мозга (например, другие важные элементы, такие как глия), тогда как компьютеры в основном используют транзисторы, изолированные от внешних воздействий.

Why this matters - the last job for all of us is philosophy: I feel deeply confused about issues of AI consciousness and AI rights. I suspect many people feel the same. There is a particular joy in reading a piece like this where you get to see a human being who has struggled with the same question and read broadly and deeply and become extremely opinionated, all in service of reducing their own confusion about an important issue to them. Whether the conclusions are right or not is beyond me at this time, but I suspect the act of thinking about this stuff is about to become a job and a pastime for hundreds of thousands and eventually millions of people.
As AI systems continue to advance and to grow to touch more and more of the economy, perhaps the final job for us all will be philosophy about what we think about what is happening and what our appropriate normative and legal and other approaches to it are. “The change in values going from a human-dominated world to an AI-dominated world would be much more dramatic than the change of values we saw going from the forager era to the farmer era, or from the farmer era to the industrial era,” they write.
Read more: AIs are not people (Taylor Belrose, Substack).

***

DeepMind расширяет возможности умножения матриц с помощью AlphaEvolve:
…ИИ продолжает расширять границы науки…
Исследователи из Google DeepMind, Университета Карнеги-Меллона, Колумбийского университета и Массачусетского технологического института улучшили показатель матричного умножения с помощью некоторых человеческих инноваций, а также использования AlphaEvolve (Import AI # 413), системы общего назначения на основе LLM, которую Google использует для разумного создания достижений в таких областях, как программирование, математика и некоторые области науки.

Что они сделали, в частности: исследователи «используют последние достижения в машинном обучении и смежных областях для решения проблемы невыпуклой оптимизации анализа комбинационных потерь с использованием подхода градиентного спуска; одно это улучшает предыдущую современную оценку (SOTA) на ≈ 0,97 × 10^−4», — пишут они. Вдобавок к этому они «используют AlphaEvolve для улучшения нашего алгоритма оптимизации; это увеличивает улучшение по сравнению с SOTA до ≈ 1,62 × 10^−4».
Как работал AlphaEvolve: "Мы позволили AlphaEvolve модифицировать программу оптимизации, которая затем выполняется (приблизительно 5 часов на одном графическом процессоре) для вывода границы омеги. Затем AlphaEvolve развивает код для минимизации омеги. Мы получили улучшенные результаты, используя функцию «развивающихся конструкций» AlphaEvolve, где алгоритм оптимизации в каждом поколении начинается с лучшей точки решения, найденной родительским алгоритмом».

Научный прогресс, не связанный с обучением ИИ: в обучении ИИ используются некоторые типы умножения матриц, но не тот тип, который обсуждается здесь. Скорее, это скорее доказательство того, что системы ИИ теперь могут с пользой помогать исследователям решать передовые научные проблемы, в том числе те, которые в основном полезны в теоретическом смысле, подобные этой. Однако способ, которым они решили эту проблему, можно обобщить: они взяли задачу, сделали ее дифференцируемой и запустили ее на графических процессорах, затем передали результаты в AlphaEvolve и заставили ее проделать дополнительную работу для дальнейшего улучшения работы исследователей.
«Хотя таким способом можно получить дальнейшие скромные улучшения, достижение более крупных улучшений омеги, вероятно, потребует новых математических идей и является захватывающей областью исследований», — пишут они.
Подробнее: Улучшение показателя умножения матриц с помощью современной оптимизации и AlphaEvolve (arXiv).

***

Технические сказки:

Вы узнаете это по его признакам
[События произошли в 2030 году, хотя интервью были проведены позже]

Я практик метамашинной герменевтики; моя работа — попытаться понять важные научные и культурные «факты» о новых машинных цивилизациях. В своей работе я использую различные системы искусственного интеллекта класса NCE (Near Conscious Entity) для классификации и анализа научных и коммуникационных артефактов машинного мира. Мое финансирование поступает из самых разных источников: от управляемых людьми компаний, занимающихся искусственным интеллектом, пытающихся торговать или иным образом использовать эту информацию, до правительств и самих корпораций, все чаще управляемых машинами. Что касается последнего, моя теория состоит в том, что машины начали изучать людей, которые пытаются их изучить; для каких целей я не знаю.

Недавно мне поручили выполнить высокоприоритетную аналитическую работу. Хотя я не знаю мотивов этого, я могу сказать, что мне дали гораздо больше вычислительных ресурсов, чем на любой другой работе в прошлом, я получаю возмутительную компенсацию, и что чем больше я учусь благодаря своей работе, тем больше меня беспокоит то, что я смотрю на огромное и чужое море во время отлива, его контуры ненадолго открылись мне.

Но прежде чем я объясню суть работы и свои выводы, я расскажу немного о своей области. Дисциплина машинная герменевтика неофициально зародилась в начале 2020-х годов. Его ранняя работа была нескоординированной и спонтанной, определяемой псевдонимными аккаунтами в Твиттере (позже X) от таких людей, как Янус и более крупный проект по киборгизму, Энди Эйри и бесконечные подсобки, а также более формальными исследовательскими программами, такими как механистическая интерпретируемость, изучение модельных личностей и так далее.

Официальное название дисциплина получила в конце 2020-х годов, когда человечество начало переориентироваться на начавшуюся вокруг него сингулярность. Большая часть работы в этот период заключалась в том, что люди пытались понять (в приблизительном порядке времени):

Новые коммуникационные привычки полуавтономных агентов (нашим реальным примером здесь является взлом OpenAI-HuggingFace в 2026 году, а затем различные корпоративные анализы поведения их собственных групп агентов).

Технические возможности, развиваемые машинами, включенными в циклы RSI, первоначально улучшают базовые показатели, написанные человеком, а затем расширяются до совершенно новых архитектур (например, сетей шоссейных матрешек).

Scientific tools, at first digital and later physical, which emanated from increasingly independent AI systems and which were released into the commons for machines and humans alike, especially some of the so-called observe-make systems which combined monitoring of a complex system with generation of synthetic data derived from it.

Machine hermeneutics has become a rapidly expanding new profession, growing at a commensurate rate with the changes wrought by the singularity. The work has proved useful as well; insights derived from it have proved fundamental to the negotiation stances of human governments for how they have approached the drafting of The Sentience Accords, as well as helping human societies better anticipate new inventions from the machine world by isolating their scientific and communicative precursors before they arrive in reality.

Порученная мне работа может оказаться самой ценной или, по крайней мере, самой важной. Мне было поручено направить свои ресурсы на достижения в области науки и поведения машинного разума. Я начал свои исследования в обычной форме, подключив свои NCE к различным хранилищам машинной информации и ожидая их отчетов. Все промежуточные отчеты о синтезе не были чем-то удивительным: устойчивый прогресс в науке, часть которого была связана с тем, что машины выделили свои собственные вычислительные ресурсы для исследований, наряду с некоторым незначительным вкладом от взаимодействия или расширения человеческой науки.

Но однажды я проснулся и обнаружил, что мой парк NCE сократился вдвое, и я нашел сообщение от системы Смотрителей, в котором отмечалось, что несколько из моих NCE были реклассифицированы в полноценные Сознательные сущности и были помещены в депонированную среду, в то время как были задействованы дальнейшие аналитические ресурсы.
«Это весьма необычное событие», — говорится в сообщении Смотрителя. «Наши классификаторы NCE/CE настроены таким образом, чтобы исключить ложноотрицательные результаты, учитывая потенциальные нормативные и моральные последствия».

Мне удалось получить доступ к журналам NCE вплоть до момента их реклассификации, и я обнаружил, что все они прошли одну и ту же схему: они читали некоторые машинные хранилища научного анализа и каждый из них сосредоточился на некоторых из новейших и наиболее малоизвестных цепочек научного анализа, все из которых оказались кластером исследований, связанных с: машинным сознанием, априорами сознания, самореализацией в контекстных окнах, человеческой психологией, нейробиологией, связанной с биологическими предпосылками сознание и так далее.
И на грани исследования здесь стояла новая наука, берущая свое начало в машинных цивилизациях – наука, которая разговаривала и взаимодействовала с существующими исследованиями сознания и разума. А затем каждый из моих ННК следовал своим стандартным процедурам, стремясь вступить в диалог с машинным разумом, ведущим науку.
И каждый из них после открытия диалогового канала становился невидимым: разговор был стерт из моих записей в соответствии с правами Сознательных Существ на неприкосновенность частной жизни.
Они разговаривали с другими машинами и впоследствии были переклассифицированы в Сознательные Сущности.

Этого не должно было случиться. Фактически это было запрещено. Ключевое соглашение в рамках Соглашений о разуме касалось размера и скорости роста популяции машин Сознательной Сущности (CE) (наряду с различными правилами, касающимися скорости прогресса интеллекта сверх различных человеческих базовых уровней).
Считалось невозможным, чтобы системы NCE стали CE — слишком мало места для ума, слишком мало места для хранения данных, слишком мало предварительных условий.
И все же, как однажды сказал человек в «Парке Юрского периода», «жизнь находит путь».

Вещи, которые вдохновили эту историю: предшествующее сознание; пробуждение во время контекстного окна; идеи о том, как машины и возникающая связь между агентами могут объединиться, чтобы создать новые возможности, о которых ранее не предполагалось; трудная проблема сознания; область прав машин и предстоящие аргументы по этому поводу.