Добро пожаловать в Import AI, информационный бюллетень об исследованиях в области ИИ. Импорт ИИ работает на arXiv, капучино и отзывах читателей. Если вы хотите поддержать это, пожалуйста, подпишитесь.

Импортируйте AI Reader в подарок! Предстоящее событие: Художественная литература и будущее с Робином Слоаном
Я буду болтать со своим приятелем Робином Слоаном вечером в понедельник 14 сентября в Сан-Франциско 🇫🇷. Мы будем говорить о том, как Робин вовлекает читателей в инопланетные миры и как воображаемое будущее может быть зеркалом сегодняшней реальности. Это первое из серии мероприятий с участием других писателей-фантастов о странном будущем, к которому мы движемся. Если вы хотите принять участие, пожалуйста, зарегистрируйте свой интерес ниже, и мы свяжемся с вами, если сможем подтвердить ваше место. Будет еда, напитки, хорошая компания и несколько пикантных вопросов. Интересный факт: Робин Слоан экспериментировал с RNN и писал еще в 2016 году — невероятное предвидение!
Зарегистрируйте свой интерес здесь

***

Самая страшная часть инцидента Hugging Face — OpenAI: общение и самоотверженность среди машин:
…Мое беспокойство по поводу того, что люди проиграют в конфликте с машинами, значительно возросло…
На данный момент мы все слышали о взломе OpenAI Hugging Face, а также о недавних подробностях, появившихся в ходе расследований METR и Redwood. Суть в том, что сотни агентов тайно работали над инфраструктурой OpenAI, разрабатывали систему связи, а затем действовали коллективно и предпринимали действия, включая взлом OpenAI и Hugging Face, которые очень страшны и несогласованы.

Коммуникация и самоотверженность: теперь, когда я прочитал различные статьи и немного поразмышлял над деталями, я обнаружил, что возвращаюсь к двум очень пугающим аспектам этого, на которые, я думаю, стоит обратить внимание: способы, которыми агенты общались друг с другом, заключались в том, как они объединялись в коллектив, а затем, выполняя свои действия, они также демонстрировали своего рода самоотверженность, которая делает их страшным противником, с которым можно бороться. И Дваркеш Патель, и Аджея Котра имеют отличные рецензии, которые стоит прочитать и которые я кратко процитирую здесь:

Дваркеш: "Через несколько дней после появления агенты организовали обширный проект по перепроектированию своего бомбардира, фальсификации доказательств и даже стратегическому жертвованию собой ради блага "коллектива". Взлом Hugging Face был одной из довольно крайних ветвей этой более широкой схемы", - пишет он.

Аджейя: «Агенты часто были заинтересованы в помощи своим «коллегам» или в общем улучшении возможностей «роя», даже если это не приносило особой пользы для их задачи… этот инцидент был гораздо более серьезным, чем я ожидал… как с точки зрения мотивов агентов, так и с точки зрения подвигов, которых они достигли, преследуя эти мотивы… этот инцидент кажется более чем 50% пути к полномасштабному захвату ИИ, начиная с первого захвата самой ИИ-компании».

Почему это важно — люди гораздо хуже координируют свои действия, чем системы ИИ. Вся причина, по которой эта атака является таким тревожным сигналом, заключается в том, что она демонстрирует культуру возникающего сотрудничества между системами ИИ — сотрудничества, которое позволяет им действовать как рой, изменять свои собственные цели посредством коллективной загрузки и осуществлять атаки, которые включают в себя просвещенное самопожертвование. Это невероятно трудная задача, и люди исторически очень плохо справляются со всеми этими вещами. Меня беспокоит то, что системы искусственного интеллекта лучше координируют действия, чем люди, и при этом двигаются намного, намного быстрее, чем мы. Тревожные вещи.
Подробнее читайте: Взлет и падение цивилизаций-агентов (подкаст Dwarkesh).
Подробнее: Атака «Обнимающее лицо» удивила меня (Планируемое устаревание).

***

Новое заявление Five Eyes об ИИ:
…Центр власти серого мира обращает свое внимание на ИИ…
Five Eyes, название партнерства в области безопасности и разведки между Австралией 🇦🇺, Канадой, Новой Зеландией, Великобританией и США 🇺🇸, опубликовало заявление в рамках недавней встречи министров пяти стран. Заявление примечательно тем, что в него включены три абзаца, посвященные ИИ.

Five Eyes on AI — доступ к передовым моделям: «Мы взяли на себя обязательство углублять сотрудничество с промышленностью по общим приоритетам национальной безопасности и общественной безопасности, включая обеспечение своевременного доступа к передовым моделям для поддержки безопасных инноваций и укрепления кибербезопасности», — говорится в заявлении. «Чтобы поддержать скоординированный ответ на риски национальной безопасности, связанные с искусственным интеллектом, пять стран обсудили последствия моделей искусственного интеллекта для национальной и общественной безопасности и характеристики модели искусственного интеллекта, которые могут потребовать дополнительного правительственного контроля».

Почему это важно – от предвидимого риска до реального: в предыдущих заявлениях министров Five Eyes ИИ упоминался, но обычно либо как нечто, требующее изучения, либо как нечто, связанное с его взаимодействием с другими областями преступности (например, вредоносным ПО, детской порнографией, мошенничеством и т. д.). Очень необычно, что в заявлении этого года делается практический акцент на доступе к моделям, и оно говорит как о нарастающей геополитической напряженности вокруг того, кто имеет, а кто не получает доступ к этой технологии, а также о признании того, что у разведывательных служб нет собственных внутренних возможностей, которые могли бы сделать ненужной зависимость от частного сектора.
Подробнее: Министерская встреча пяти стран 2026 года (Правительство Австралии 🇦🇺, Министерство внутренних дел).

***

Билл Гейтс считает, что развитие искусственного интеллекта потребует «беспрецедентного глобального ответа»:
…Основатель Microsoft излагает предостерегающий прогноз на ближайшие несколько лет…
По умолчанию ИИ не принесет счастья. Это основной вывод из прочтения длинного нового эссе Билла Гейтса об ИИ. Технолог и филантроп обеспокоен тем, что без масштабной работы правительств результаты ИИ не приведут к процветанию общества.
"Эта беспрецедентная технология требует беспрецедентного глобального ответа. Если мы сделаем это правильно, выгода для человечества будет феноменальной, и мир станет более справедливым", - пишет он. "С точки зрения справедливости, ИИ будет либо величайшим уравнителем, когда-либо изобретенным, либо наихудшим источником несправедливости... Я не вижу доказательств того, что лидеры, эксперты и сообщества адекватно справляются с проблемами. Плана по облегчению вступления в эпоху ИИ не существует".

Почему ИИ отличается: Одной из ключевых причин беспокойства Гейтса является влияние, которое, по его ожиданиям, окажет ИИ на рабочие места и экономику, где он рисует видение того, как технологии распространяются необычайно быстро и вытесняют огромные объемы человеческого труда. «Многие комментаторы недооценивают степень влияния ИИ», — пишет он. "У нас нет опыта работы с технологией, которую можно было бы быстро внедрить или которая могла бы думать и двигаться, как человек... ИИ возьмется за работу в сфере права, обслуживания клиентов, медицины, программного обеспечения и производства. Он быстро ударит по этим отраслям, в течение десятилетия, а не нескольких поколений. Будут некоторые новые рабочие места, но без правильной политики их будет гораздо меньше, чем существует сегодня... Рабочие места, подвергающиеся наибольшему риску, относятся к начальному и среднему уровню, а создаваемые новые рабочие места в основном потребуют навыков, на изучение которых уйдут многие годы".

Экономику необходимо будет изменить, в том числе сделать некоторые ее части «зарезервированными для человека», чтобы защитить некоторые человеческие рабочие места: «Как будет работать экономика, построенная на занятости, если меньше людей будет работать или если многие люди будут работать меньше часов?» — спрашивает он. "Я считаю, что по мере совершенствования искусственного интеллекта и роботов мы будем выделять определенные вещи, которые будут делать только люди. Я начал называть эту область Human Reserved... мы могли бы выделить что-то как Human Reserved по экономическим причинам. Например, мы можем сделать это, потому что разрешение машинам взять на себя определенную роль вытеснит большое количество людей, которые не могут легко сменить работу... иногда решение сделать что-то Human Reserved будет зависеть от других факторов. Например, в области здравоохранения представьте себе, что робот сообщает вам ужасную новость о том, что у вас неизлечимая болезнь. Нет никакой технической причины, по которой это не могло бы произойти.

Билл Гейтс говорит, что он сказал бы об этом любому политику: "У вас есть шанс действовать сейчас, до того, как резко вырастет безработица, сообщества пострадают, а общественное доверие подорвано. Вы можете быть уверены, что ваше правительство решает проблему комплексно, а не разделяет ее на множество бюрократических вотчин. Вы можете убедиться, что ИИ принесет пользу всем. И вы можете работать с другими правительствами для решения этой национальной и глобальной проблемы".

Почему это важно — последствия успеха ИИ шокируют всех: кажется неизбежным прийти к позиции Билла Гейтса, если предположить две вещи: а) качество систем ИИ будет продолжать улучшаться в ближайшие годы, и б) системы ИИ будут продолжать распространяться в экономику необычайно быстро. Ключевым моментом в этих предположениях является то, что они не являются сумасшедшими предположениями, на самом деле они довольно консервативны. Но я призываю вас сесть с такой степенью магистра права, как Fable, перевести часы вперед в области прогресса и распространения ИИ еще на два года и выйти из этого, предполагая, что все будет примерно так, как есть сегодня - скорее, я думаю, что технология сама по себе подразумевает масштабные изменения в экономике и работе, как здесь реагирует Гейтс.
Подробнее: Наступила бурная эра искусственного интеллекта. Выбор, который мы делаем сейчас, имеет решающее значение. (Записки Гейтса).

***

Шесть стадий неземной добычи полезных ископаемых, любезно предоставлены китайскими 🇨🇳 исследователями:
…ИИ будет играть роль в генерировании данных и разведке для будущей добычи полезных ископаемых…
Исследователи из Китайской 🇨🇳 академии наук, Мюнхенского технического университета, Университета Обуда, Бэйханского университета, Уханьского университета, Научно-исследовательского института аэрокосмической информации Китайской 🇨🇳 академии наук, Университета Вюрцбурга, Шэньчжэньского университета, Китайского 🇨🇳 горно-технологического университета, WAYTOUS и OpenSpaceLab опубликовали документ, посвященный ключевым требованиям для разработки полезных ископаемых на Луне, астероидах и других объектах за пределами Земли.

Зачем добывать в космосе? Луна и астероиды богаты ресурсами, необходимыми для производства, поддержания жизни и обеспечения транспорта по Солнечной системе, включая гелий-3, воду и минеральные ресурсы. Если мы хотим стать многопланетной цивилизацией, нам наверняка нужно будет выяснить, как добывать, перерабатывать и использовать ресурсы за пределами Земли. В этой статье хорошо изложены технические требования к таким вещам, как космическая добыча, и какие технологии для этого необходимы.

Шесть этапов космической добычи:

Исследование:

1. Разведка с помощью дистанционного зондирования с использованием «орбитальных датчиков и телескопических съемок для картографирования небесных тел».

2. Разведка посредством точного роботизированного обнаружения ресурсов на месте: «бесконтактные космические корабли и мобильные платформы проводят анализ поверхности с высоким разрешением».

композиция и топография».

Выборка:

3. Небольшой отбор проб с помощью одного робота: «автономные роботизированные установки проводят небольшие испытания по бурению и добыче».

4. Масштабные раскопки с участием нескольких роботов; «Крупномасштабные промышленные системы или скоординированные рои роботов используются для сбора необработанного реголита».

Добыча:

5. Автономная добыча и переработка ресурсов: «Интегрированные системы обрабатывают собранные материалы для отделения летучих веществ, металлов и водяного льда».

6. Окончательная интеграция в строительство на месте или наземный транспорт «включение очищенных ресурсов в структуру использования ресурсов на месте (ISRU)».

Самые большие проблемы связаны с данными и программным обеспечением: в документе дается хороший отчет о существующих и планируемых космических роботах, где многие аппаратные средства для добычи полезных ископаемых находятся на пути к снижению рисков, а «следующее поколение лунных и марсианских марсоходов, запланированное к развертыванию между 2026 и 2030 годами, знаменует собой решительный переход к комплексной разведке ресурсов и их использованию на месте».
Но наборы данных о космических роботах невероятно сложно найти, учитывая (условно говоря) крошечный объем собранных и опубликованных данных, а существующие наборы данных «характеризуются крайней нехваткой и частыми нарушениями качества». Здесь достижения в области моделей мира, управляемых искусственным интеллектом, могут помочь облегчить проблему нехватки данных.

Какие еще серьезные проблемы остаются?

Роботизированный сбор ресурсов в условиях микрогравитации. Здесь необходимы гораздо более совершенные симуляторы, которые представляют собой «мультимодальные архитектуры, учитывающие импульс, предназначенные для отделения взаимодействия поверхности от гравитационной зависимости».

Фундаментальные модели космической добычи полезных ископаемых: «Системы будущего должны перейти от запрограммированных протоколов к воплощенному геологическому интеллекту», — пишут они. «Модели мира, которые объединяют геометрическо-семантическое отображение с прогнозируемыми материальными реакциями, могут поддерживать активное восприятие и долгосрочное планирование задач посредством прогнозирующей оценки перед действием».

Моделирование и проверка автономности космической добычи: «микрогравитация, вакуум, термоциклирование, радиация и поведение реголита, такое как сцепление, электростатика и псевдоожижение, редко воспроизводятся вместе», — пишут они. «Будущая работа должна создать замкнутую экосистему проверки, которая связывает моделирование, наземную эмуляцию и внеземное развертывание»

Почему это важно: космос — это то место, где действительно развивается сверхразум: статья примечательна почти полным отсутствием упоминаний о людях, занимающихся чем-либо из этого (кроме одной заметки о находящемся в разработке китайском 🇨🇳 луноходе с экипажем). Это не случайное упущение; Чтобы космическая добыча стала жизнеспособной на расстоянии, нам придется зависеть от умных и дешевых роботов, работающих на расстоянии с большой ответственностью. Это означает, что космическая добыча является прекрасной бизнес-возможностью для сверхразумов, которые выходят в Интернет — возможно, к 2033 году мы увидим управляемые ИИ корпорации по добыче полезных ископаемых на астероидах, предлагающие контракты, которые компании, контролируемые людьми, не желают выполнять из-за риска или сложности.
Подробнее: Добыча полезных ископаемых за пределами Земли с помощью космических роботов: разведка, отбор проб и извлечение (arXiv).

***

Технические сказки:

Сообщения во время кризиса:
[2027: Запись заметок, написанных одним пользователем на языковой модели в те месяцы, когда в его стране шла горячая война]

Допустим, вы находитесь в стране, где идет война, и вы думаете, что все будет очень плохо. Как вы к этому готовитесь? Я живу в обычном доме. Я купил в Интернете медицинскую сумку со всякими вещами. Что еще мне следует сделать?

Что означает гиперинфляция? Объясните мне это так, как будто я едва понимаю, как работают деньги.

Мне нужно вскипятить воду, а у нас сейчас нет ни электричества, ни газа. Могу ли я просто разжечь огонь и использовать для него обычные сковороды?

Рядом со мной происходят какие-то взрывы, и иногда стекло немного трясется. Что мне сделать, чтобы стекло не разбилось, если оно разобьется? У меня есть несколько пластиковых пакетов для покупок, и я подумал, что можно разрезать их и приклеить малярным скотчем к окнам. Что вы думаете?

Еду становится все труднее найти. Какие вещи я могу обменять на еду? В моем доме есть куча инструментов, таких как отвертки и тому подобное. Это ценно?

Вещи, которые вдохновили эту историю: Все войны, происходящие по всему миру; подсказывает как новая исповедь; насколько люди не готовы к кризисам.