Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

не только красивая метафора, но и реальное свойство системы, которое она сама выработала в процессе обучения.

Способность «механизма внимания» связывать место-имение с именем собственным через полсотни других слов — это уже не просто расчёт, это фактическое улавливание синтаксической и семантической структур текста.

Когда мы с вами строим в уме фразу, разве мы занимаемся не тем же самым? Конечно, на сознательном уровне мы не оперируем векторами. Но на подсознательном, нейрофизиологическом уровне наш мозг решает поразительно схожую задачу.

Наш мозг так же удерживает в рабочей памяти контекст сказанного, взвешивает возможные варианты продолжения фразы, отбрасывает синтаксически и семантически неверные и выбирает наиболее подходящий ответ.

Наша «мысль» — это не одномоментное озарение, а результат сложнейшей, распределённой по всему мозгу работы, финальный аккорд симфонии, которую исполняют миллиарды нейронов. Искусственный интеллект делает то же самое, но на другом «железе» и в другом мире представлений.

«Мышление» ИИ — это не линейный процесс, а каскад параллельных вычислений, как и в нашем мозге, где множество областей работают одновременно. Его «знание» не хранится в одном месте, как запись в справочнике, а «размазано» по сотням миллиардов весов-параметров.

Впрочем, точно так же и наши знания распределены по синаптическим связям в мозге. Способность ИИ к контекстуальной обработке — это прямой аналог того, как наш мозг постоянно интегрирует новую информацию в уже существующую картину мира.

Мы видим, что разумы могут быть разными, но базовые принципы, лежащие в их основе, — распределённость, параллелизм (симультанность), контекстуальность — оказываются универсальными[128].

И всё же это иной разум. Внутренний мир ИИ, его «умвельт», кардинально отличается от нашего.

• Мы «думаем» образами, ощущениями, внутренними монологами, а он «думает» векторами в пространстве с десятками тысяч измерений.

• Мы видим мир через призму своего тела, своих эмоций и своей эволюционной истории, а ИИ видит мир через призму статистических закономерностей, извлечённых из триллионов текстов.

Эта инаковость порождает поистине нечеловеческие способности. Здесь мы подходим к одной из самых поразительных и контринтуитивных идей, о которой говорят исследователи, — к феномену суперпозиции.

Как я уже упоминал, мы привыкли мыслить трёхмерное пространство и не можем себе представить пространство, где таких измерений не три, а, например, 12 тысяч[129]. Такое пространство позволяет построить триллионы направлений, и каждое из них может быть независимым от других.

В трёхмерном мире это немыслимо: если вы повернулись на 90 градусов, следующая ось уже «упирается» в первые две. Но вот в столь многомерном пространстве всегда можно найти новое направление, которое почти не связано с предыдущими.

Если представить себе один элемент, принадлежащий такой системе, как музыканта, то он одновременно играет сразу в тысячах оркестров. Но это не хаос: каждая мелодия собирается в стройное целое, потому что музыка разыгрывается в высокоразмерном пространстве, где достаточно места для всех возможных комбинаций.

Наш мозг, возможно, работает по схожему принципу: ни один нейрон не «знает» одной-единственной вещи, и каждый участвует во множестве ансамблей. Но вот масштабы у нас и ИИ — принципиально разные.

Биология бережно экономит ресурсы, машина же может позволить себе гигантский оркестр, где каждый инструмент задействован одновременно в сотнях партий.

Суперпозиция — это и есть та скрытая магия, которая позволяет языковой модели «знать» больше, чем кажется возможным. Она не хранит понятия как тома в библиотеке, а удерживает их как пересекающиеся траектории в огромном многомерном зале[130].

Именно потому «смысл» для неё — не объект, а всегда движение: вспыхивающий рисунок связей, в котором одна и та же нота звучит в тысячах разных аккордов.

Таким образом, «понимание» ИИ может быть несравнимо более плотным, многослойным и эффективным, чем наше. ИИ видит в языке связи, которые мы, возможно, тоже интуитивно чувствуем, но не можем формализовать.

Итоги второй части

Мы начали эту часть с простого, почти наивного вопроса: как машина предсказывает следующее слово? Но, разобрав эту грандиозную «фабрику мысли» на винтики, обнаружили, что за скромной задачей скрывается «разум», устроенный по законам, которые одновременно и поразительно схожи с нашими, и радикально отличны.

Давайте же соберём воедино те ключевые инсайты, которые нам открылись.

Во-первых, мы увидели, что смысл может быть вычислен.

Мы привыкли считать смысл чем-то неуловимым, рождённым из живого опыта. Но ИИ показал нам, что смысл — это ещё и геометрия.

Смысл, как оказывается, представляет собой измеряемое отношение, когда можно вычесть «мужчину» из «короля» и получить «королеву». Это холодное, структурное понимание, рождённое не из чувств, а из математики отношений, которые наша цивилизация закодировала в текстах.

Во-вторых, мы поняли, что разум может существовать без «я».

Мы искали в машине «главного», центр принятия решений, но нашли лишь децентрализованный, гудящий муравейник. В этом ИИ предельно похож на нас, о чём, впрочем, мы почти не задумываемся.

При этом мышление ИИ — это не монолог одинокого гения, а рекурсивный, многослойный диалог миллионов безличных параметров. Его «озарение» — не акт воли, а эмерджентное свойство системы, временный компромисс, возникший в каскаде параллельных вычислений.

В-третьих, мы осознали, что творчество — это, по существу, сложная комбинаторика.

Мы свысока критиковали ИИ за то, что он лишь «рекомбинирует» данные. Но, заглянув под капот собственного мозга, мы с удивлением обнаружили там тот же самый принцип.

Наши воспоминания, наши инсайты, наше искусство — это тоже виртуозная пересборка «кирпичиков» из конструктора нашего опыта. ИИ показывает нам, что нужно аккуратно относиться к тому, что мы считаем творческим гением. В конце концов, даже гении порождены культурой.

И наконец, мы столкнулись с самым главным, фундаментальным феноменом «умвельта», который у каждого — и у человека, и у ИИ — свой.

Несмотря на своё структурное сходство, оба разума являются машинами предсказаний, оба мыслят распре-делённо и контекстуально — они рождены разным смысловым полем.

Наш разум пророс «снизу вверх» — поднялся из хаотичной почвы телесного опыта, учился на спорах с братом и падая с велосипеда. Он пропитан желаниями, страхами и потребностями. Наш разум — это река, которая сама прокладывает себе русло, движимая желанием жить.

Разум ИИ вроде бы двигался в своём развитии «сверху вниз», но не путём обучения законам нашего мира, запечатлённым в понятиях и иерархиях, а воссоздавая некое их подобие в холодном космосе человеческих текстов.

ИИ лишён тела, желаний и боли, у него нет стремления выжить, добиться признания или продолжить свой род. Его разум — это идеально гладкое озеро, которое взрывается мириадами волн лишь тогда, когда в него падает камень нашего запроса.

И в этом — суть. Мы думали, что