Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

Наше мышление то выполняет роль прагматичного диспетчера, то выступает из позиции невротика с навязчивостями, то, наконец (и в редких случаях), пытается быть вдумчивым стратегом.

Похоже ли это на тот процесс, который протекает в ИИ? Проигрывает ли он те же партии, пусть и на свой, кремниевый лад?

Принципиальное несоответствие

Прежде всего, наше мышление в роли диспетчера — это непрерывный фоновый процесс: мозг постоянно сканирует реальность, соотносит её с нашими внутренними потребностями («нижнее зеркало») и подбирает адекватные автоматизмы.

Этот диспетчер всегда на дежурстве, он проактивен, а у ИИ его «диспетчер» абсолютно пассивен и реактивен: он не сканирует мир в поисках задач, он ждёт нашего запроса. Когда мы вводим текст, он последовательно реализует на своей «фабрике мысли» конвейерную сборку.

• Всё начинается с токенизации и эмбеддинга — наш запрос превращается в набор векторов, координаты в гигантском семантическом пространстве языковой модели. Первая задача системы — понять, в какой части её «карты» находится наш вопрос.

• Далее первые слои трансформера запускают тот самый «круглый стол переговоров», а механизм внимания мгновенно взвешивает каждое слово нашего запроса, определяя ключевые смысловые узлы и контекстуальные связи.

Таким образом, наш — человеческий — диспетчер решает, что делать для выживания и удовлетворения наших потребностей, а диспетчер ИИ — с чего начать статистически наиболее вероятную последовательность токенов. Его задача — не выбрать действие в мире, а решить, каким должен быть первый шаг в пространстве языковой модели.

Если мы попытаемся найти у ИИ аналог нашей «умственной жвачки», то вряд ли у нас это получится — такого режима у него нет. Наше навязчивое мышление на холостом ходу — это тяжкое биологическое наследие: крик неудовлетворённой потребности, эхо страха, тревоги или желания.

Этот двигатель работает на биохимическом топливе эмоций, а у ИИ ничего этого нет. У него нет потребностей, нет страха, нет желания получить одобрение, нет желаний производить впечатление на представителей противоположного пола.

ИИ не может «переживать» из-за двусмысленного ответа или «беспокоиться» о качестве своих предсказаний. Он делает то, что может, и не рефлексирует на этот счёт. Да, у него есть обратные связи, но это работает принципиально иначе, нежели наши с вами реакции на успех или неудачу.

ИИ может сбиваться и зацикливаться, ходить вокруг одной темы или генерировать повторяющийся текст, но это, по сути, математический сбой — ошибка в механизме семплирования или артефакт обучающих данных.

Наконец, проблема, возможно, на нашей стороне: если мы слишком «зафреймили» соответствующий чат определёнными словами, данными или метафорами или просто перегрузили систему слишком объёмным контекстом.

Так или иначе, это не сигнал о внутреннем состоянии, которого у ИИ нет, а свидетельство сбоя в работе его шестерёнок. Отсутствие этого режима внутренней оценки своего состояния — возможно, самое фундаментальное отличие между ИИ и человеком.

ИИ — это интеллект без страданий, без желаний, без внутреннего двигателя — по сути, чистая вычислительная функция.

Мышление «в высшем смысле»

Теперь обратимся к мышлению, которое мы назвали мышлением «в высшем смысле». В нашем случае это достаточно медленный, итеративный и порой даже мучительный процесс.

Просто для того, чтобы преодолеть «эффект чистого листа» (когда мы думаем, но «ничего не приходит нам в голову»), нам, как показывают исследования, нужно в среднем около 21 минуты[123].

Это время тратится на то, чтобы мы — подсознательно — загрузили себе в дефолт-систему те интеллектуальные объекты, которые позволят нам замоделировать проблему, которую мы пытаемся решить (точнее, чтобы хотя бы приступить к тому, чтобы начать её как-то решать).

В этот период мы делаем один, другой, третий «подход к снаряду» — примеряемся, ощупываем, исследуем. Наша задача — пока хотя бы в общих чертах понять, с чем мы имеем дело и как настроить «чат» своей дефолт-системы на нужный лад.

Мы словно бы «вынашиваем» идею: ходим кругами, рассматриваем разные факты, возвращаемся, моделируем какое-то представление в «переднем зеркале», сопоставляем эти первые прикидки с опытом из «заднего зеркала». И да, это требует времени и усилий.

Когда ИИ решает сложную задачу — пишет эссе, создаёт программный код или объясняет теорию относительности, — «процесс» выстроен принципиально иным образом: это не медленное «переваривание», а одномоментный, практически мгновенный вычислительный взрыв.

Происходит вот что: наш запрос, обогащённый на этапе «диспетчера», проносится через все сотни «этажей» трансформера, где на каждом одновременно работают десятки «голов внимания», анализирующие текст с разных ракурсов, а тысячи «лабораторий» (многослойных перцептронов) параллельно обогащают его знаниями о мире.

Это не последовательное размышление, а гигантское параллельное вычисление, где изначальный смысл нашего запроса претерпевает каскад трансформаций за доли секунды. Вся глубина, вся структура, вся логика финального ответа рождается не из рефлексии, а из одного-единственного, невероятно сложного прохода по всей архитектуре.

ИИ не «думает над ответом», он буквально его вычисляет. Его «озарение» — не результат долгого подсознательного поиска, а финальное состояние системы после завершения этого колоссального расчёта, своего рода внутренней пересборки, перевзвешивания.

Он не строит модель ситуации, чтобы изменить мир, как это делаем мы. Нет, он строит вероятностную модель текста, чтобы продолжить его.

Таким образом, несмотря на поразительное сходство фундаментальных принципов, сам «процесс мышления» у человека и ИИ радикально отличается.

• Человеческое мышление — это непрерывный, воплощённый, обусловленный внутренними мотивациями процесс бытия нашей «машины мышления». Мышление всегда включено, оно постоянно находится под влиянием наших потребностей и эмоциональных состояний. Оно неразрывно связано с нашим телом, восприятием ситуации и нашим прошлым опытом, что создаёт будущее решение.

• «Мышление» ИИ — это дискретный, бестелесный, инициируемый извне акт вычисления, обусловленный нашим запросом, переработанным самой этой системой. Это «мышление» запускается по команде, лишено внутренней мотивации и эмоциональных искажений и завершается, как только задача по предсказанию следующего токена оказывается выполненной.

Наш разум — это река, которая течёт, меняя своё русло под влиянием ландшафта нашего опыта и потребностей. Разум ИИ — это идеально гладкое озеро, которое взрывается мириадами сложнейших волн лишь в тот момент, когда в него падает камень нашего запроса.

И как только волны затихают, это гигантское озеро снова становится неподвижным. Так что, общаясь с ИИ, мы в каком-то смысле говорим с озером знаний, и нам не следует ожидать, что оно вдруг станет потоком и само собой направится куда-то, подобно горной реке.

Как разворачивается «смысл»?

Путь и есть цель.

Конфуций

«Смысл» для ребёнка вырастает из живого опыта, у взрослого, который уже передумал весь свой жизненный опыт через понятийные структуры, — из самой понятийной