Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

не знает, как создать в кремнии универсальную «волю к жизни», которая заставила бы ИИ-агента исследовать мир не по указке, а из внутренней необходимости.

Но даже если бы мы смогли создать такой универсальный двигатель, мы сталкиваемся со второй, ещё более фундаментальной проблемой. Агент Саттона — это «цифровой Маугли». Он учится в одиночку в мире, лишённом двух фундаментальных якорей, на которых стоит наша с вами реальность.

• Первый наш якорь, как мы уже выяснили благодаря Веккеру, — это «кончик пальца». Наше познание заземлено в фундаментальном опыте «непереносимых» свойств — в физическом сопротивлении мира, а для агента любые данные — это набор цифр с датчика. То есть его мир лишён этого гравитационного центра объективности.

• Второй якорь, без которого Маугли никогда не станет человеком, — социальный якорь, так сказать, «непереносимой абстракции». Ребёнок не просто изучает мир, он делает это в отношениях с другими людьми, которые передают ему социально согласованные понятия. Когда мы говорим ребёнку: «Это стул», — и показываем на стул, мы приобщаем его к общему для всех нас смысловому полю.

Ребёнок ничего не изобретает сам, он синхронизируется с мирами других людей через языковую матрицу. А «цифровой Маугли» Саттона лишён и этого. Он может через тысячи проб и ошибок научиться эффективно использовать некий объект, чтобы взобраться на него. Но он никогда не сформирует наше понятие «стула», а создаст какую-то свою собственную, функциональную категорию — условно: «штука-на-которую-можно-залезть».

Его понимание может оказаться невероятно эффективным для решения задачи, но оно будет принципиально непереводимо на язык нашего с вами опыта. То есть мы просто не будем его понимать. ИИ-агент Саттона грозит стать воплощением абсолютно идиосинкразической, нечеловеческой модели мира.

Таким образом, даже самый перспективный путь — создание искусственного разума с нуля — приводит к созданию абсолютно чужого нам интеллекта. Он может оказаться гениальным в своей модели мира, но насколько это будет коррелировать с нашей жизнью и пониманием?

Поистине новый разум

В 2025 году Ричард Саттон объединяется с Дэвидом Сильвером и они публикуют своего рода манифест, который озаглавлен «Эра опыта»[178]. История исследований ИИ представлена здесь не как хаотичный поиск, а как последовательная смена трёх великих эпох, каждая из которых определялась доминирующим источником знаний для машины.

Первая эра: «Эра логики» — 1950–1990-е годы

Источником знаний тут выступал непосредственно человеческий разум. Исследователи пытались вручную «закодировать» в машину человеческие знания, логические правила и эвристики.

Это была попытка создать ИИ «сверху вниз», передав ему нашу собственную структуру мышления. Собственно, это и есть тот «горький урок», о котором мы говорили, — подход не позволил справиться со сложностью реального мира.

Вторая эра: «Эра данных» — 1990-е — н. в.

Здесь стали использовать массивы данных — это эпоха ImageNet и, что самое главное, больших языковых моделей (LLM). Мы перестали кодировать правила и вместо этого стали «скармливать» машине гигантские объёмы человеческого опыта, заархивированного в виде текстов, изображений и видео.

Результат превзошёл все ожидания, но, по мнению Саттона, как мы уже знаем, это лишь «пик имитации», где машина мыслит, используя чужой, пассивный, застывший опыт.

Третья эра: «Эра опыта» — будущее

Это тот самый «цифровой младенец», обучающийся на собственном, активном опыте агента — в реальном времени и через взаимодействие со средой. Машина перестаёт быть «археологом», изучающим следы чужой цивилизации, и становится «поселенцем», строящим свой мир с нуля. В результате, если верить авторам этого манифеста, будет создание подлинного, общего ИИ (AGI), способного к самостоятельному познанию и открытиям.

В общем, нам доходчиво объясняют, что мы находимся ещё лишь во «второй эре», ошибочно принимая её за конечную цель. На деле же это лишь переходный этап к третьей, настоящей эре интеллекта. И кажется, тут самое время выдохнуть — мол, сколько можно пугать нас ИИ-армагеддоном, AGI ещё далеко-далеко… Но есть нюанс.

Если Ричард Саттон — это скорее философ-пророк, то вот его соавтор в этой публикации Дэвид Сильвер — архитектор-практик, ключевая фигура в DeepMind, ведущий исследователь, стоявший за созданием AlphaGo, AlphaGo Zero и AlphaZero — систем, которые уже обеспечили нечеловеческую эффективность, причём обучаясь самостоятельно.

Так что «Эра опыта» — не просто теоретический манифест одного учёного, а совместное заявление теоретика и самого успешного практика, которые не фантазируют, как оно «может быть», а говорят, что сейчас уже на самом деле где-то уже происходит. Перед нами не банальная критика LLM, а дорожная карта к созданию совершенно иного типа разума — ещё более иного, чем нынешний.

В документе чётко определена та самая искомая «точка опоры»: вознаграждение/наказание в системе обучения — это и есть цифровой аналог «непереносимых свойств». Агент, натыкаясь на стену, не только получает данные, он открывает для себя фундаментальное свойство своего мира — его сопротивление.

Эссе описывает, как агент может учиться, но в нём нет ни слова о тех проблемах, которые мы выявили: откуда берётся универсальная цель и кто её будет определять, а также — как синхронизировать этот индивидуальный, невербальный опыт с нашим социально согласованным миром понятий? Ну и конечно, даже помыслить нельзя, что из всего этого выйдет…

Так не об этом ли говорит Джеффри Хинтон — второй из двух родителей обучения с подкреплением? И да, его это ужасает. Но Саттона — нет. В редких интервью, которые он даёт, если доходит до этого — фундаментально экзистенциального вопроса для всего человечества, — он уклончиво замечает:

«И потом то, что я обычно говорю, это то, что всё это очень человекоцентрично. Что если мы отойдём от того, чтобы быть человеком, и просто, скажем так, посмотрим с точки зрения Вселенной?

Это, я думаю, главная стадия во Вселенной, главный переход. Переход от репликаторов. У нас есть люди, животные, растения — мы все репликаторы. И это даёт нам определённые сильные стороны и некоторые ограничения.

И теперь мы вступаем в эру дизайна, потому что наши ИИ спроектированы, все наши физические объекты спроектированы, наши здания спроектированы, наши технологии спроектированы, и теперь мы проектируем ИИ-сущности, которые могут быть разумными сами по себе и которые сами способны к дизайну.

Да, я отмечаю это как одну из четырёх великих стадий Вселенной. Сначала была пыль, которая заканчивается звёздами. Затем звёзды создают планеты, а планеты дают начало жизни. И теперь мы даём жизнь спроектированным сущностям. И поэтому я думаю, мы должны гордиться… что мы даём начало этому великому переходу во Вселенной»[179].

Конец длинной цитаты, суть которой можно для краткости (и ясности) сформулировать следующим образом:

• во-первых, человечество как биологический вид, основанный на репликации (размножении), является