Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

нет механизма, который преобразовывал бы переживаемый временной опыт телесного действия в стабильную пространственную структуру. Его «пространство» — абстрактное и векторное, оно не выросло из ощупывания мира.

Третий этап: материальность мира (6–12 месяцев)

Ребёнок активно манипулирует предметами. Он видит красный мячик, хватает его, сжимает и чувствует его упругость. Он видит синий кубик и ощущает его твёрдость. В этот момент происходит калибровка чувств: мозг строит прочные нейронные связи между зрительным образом («переносимые» свойства) и осязательным опытом («непереносимые» свойства).

В результате наше зрение становится предметным: мы смотрим на камень и буквально видим его твёрдость и тяжесть. Мы смотрим на подушку и видим её мягкость. Наше восприятие — это уже не просто регистрация фотонов, а машина предсказаний, которая на основе визуальных подсказок мгновенно прогнозирует результат возможного физического контакта.

Мультимодальный ИИ тоже может связать картинку камня с текстом «камень твёрдый». Но это статистическая корреляция, а не физическая калибровка. Его «знание» о твёрдости не основано на личном опыте сопротивления предметов, с которыми он никогда физически не сталкивался.

Четвёртый этап: стабильность мира (после 8–9 месяцев)

Становясь чуть старше, ребёнок начинает понимать, что спрятанная игрушка не исчезла. И это уже переход от непосредственного восприятия к представлению: внутри психики формируется устойчивый осязательно-зрительный образ, который хранится теперь в памяти.

Таким образом, модель мира впервые становится не только актуальной (то, что есть сейчас), но и потенциальной (то, что было и будет). И это не простая гипотеза, не просто предположение — это предугадываемое физическое ощущение.

Пятый этап: категоризация мира (1–3 года)

С развитием речи слово становится «ярлыком» для этого целостного, богатого осязательно-зрительного образа. Слово «мяч» — это не абстракция, а звуковой код для всего сенсомоторного опыта: «круглый, красный, прыгучий, можно схватить и бросить».

Речь позволяет ребёнку обобщать его опыт, а сама модель мира, которая постепенно формируется его мозгом, начинает структурироваться по смысловым категориям.

Шестой этап: абстрактная модель мира (дошкольный и школьный возраст)

Наконец, постепенно развивается и понятийное мышление. Ребёнок может оперировать отношениями, открытыми в ходе практических действий, но уже в отрыве от них. Например, он понимает, что «круглость» — общее свойство мяча и солнца.

Умственные операции «анализа» и «синтеза», как указывал Веккер, являются прямым продолжением физического разделения и соединения предметов руками. Подумайте, как мы говорим об этом: анализ — это разделение целого на части, синтез — это соединение частей в целое.

Эти «ручные» и «двигательные» метафоры пронизывают буквально всю нашу интеллектуальную деятельность: мы «схватываем мысль», «тянем время», «раскладываем по полочкам», «находим» или «нащупываем аргументы», «приходим к выводу», а ещё «тупим», «тормозим» и т. п. При этом сами наши мысли могут «зудеть», «биться», «гоняться», «складываться» и т. п.

То есть мы буквально мыслим своим «телом», выстраивая иерархии понятий и знаний. И вся эта внутренняя вселенная наших представлений вырастает из простого, но фундаментального для нас акта — эффекта прикосновения.

Благодаря сращиванию в теменной коре всех «переносимых свойств» на фундаменте «непереносимых», объективно-фактических, мы обнаруживаем себя не в мире собственных фантазий, а в предметно-материальной реальности.

Тогда как ИИ, напротив, не имея этого опыта, вынужден постоянно галлюцинировать — реальность не сопротивляется ему в нём самом, как она сопротивляется нам в нас самих.

Любое действие чревато для нас болью: мы несколько раз в своём детстве «поздоровались» головой с углом стола, и теперь, видя перед собой любой «угол», сами того не замечая, аккуратно обходим его. Мы обожглись, нас ударило током — и мы теперь знаем такие предметы, как «печь», «конфорка», «электрическая розетка», и действуем уже из самих себя так, словно бы эти объекты содержат в себе нашу боль.

Разум же искусственного интеллекта сразу родился в мире абстракций, он не проходил нашей школы телесного взаимодействия с миром. Он никогда не испытывал естественного сопротивления, а потому его знание лишено этого фундаментального, физического чувства реальности. Он знает о мире, но не соприкасается с ним.

Именно поэтому «понимание» ИИ всегда будет иным. Оно не прорастает в нём из первичного, дорефлексивного опыта столкновения с миром, как у нас с вами. Это «понимание» лишено той самой точки опоры, которая и определяет нашу уверенность в том, что мир, который мы воспринимаем, — не просто наша галлюцинация.

Разум без «якоря» реальности обречён вечно дрейфовать в океане собственных снов.

«Эра опыта»

Скажи мне — и я забуду, покажи мне — и я запомню, дай мне сделать — и я пойму.

Конфуций

Ощущение, что мы зашли в какой-то тупик и нашим умвельтам — человеческому и машинному — никогда не сойтись. Ни симуляции, дающие «тело в кавычках», ни даже самый совершенный пространственный интеллект не смогли решить фундаментальную проблему: искусственный разум не имеет точки опоры, а его знания о мире не являются пониманием нашего мира.

Невольно возникает мысль, что сама эта наша стратегия — дать машине совершенную картину мира — не оправдана. Что если проблема не в том, какую карту мы даём ИИ, а в том, что всякая действительная воплощённость — это всегда, и с абсолютной необходимостью, результат опыта — то есть не информации, а действия?

Именно этой позиции придерживается один из самых глубоких и последовательных мыслителей в области ИИ, настоящий «крёстный отец» обучения с подкреплением Ричард Саттон. Он предлагает совершить поворот на 180 градусов: перестать пытаться «загрузить» в машину готовые знания о мире и создать условия, в которых интеллект будет рождаться из действия.

«Горький урок»

Позиция Ричарда Саттона и в самом деле радикальна. Он не разделяет всеобщей эйфории, вызванной современным бумом ИИ. Напротив, он уверен, что мы пошли не тем путём и что никакого сильного ИИ (AGI) нам здесь найти не удастся. Саттон называет ИИ с языковыми моделями под капотом — «движками для подражания», которые способны лишь на виртуозную имитацию, причём без всякого проблеска разума[175].

Вот как примерно рассуждает Саттон…

Во-первых, как мы уже знаем, способность ИИ генерировать связный текст — это результат обучения на одной-единственной задаче: предсказании следующего слова в последовательности.

Языковая модель знает, что после фразы «небо голубое, а трава…» с большой долей вероятности должно идти слово «зелёная». Но она делает это не потому, что «понимает» природу травы или концепцию цвета, а потому, что в её обучающих данных такая последовательность встречалась миллионы раз.

То есть, по сути, LLM отвечает не на вопрос «Что истинно в мире?», а на вопрос «Что бы человек сказал в подобной ситуации?» То есть это