Читать книгу - "Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд"

от представления дятла. Нейроны, участвующие в кодировании образа дрозда-захватчика в период гнездования, связаны с другими нейронами, запускающими цепочки агрессивных действий. Часть этих нейронов активируется и при восприятии дрозда-отшельника, что может вызвать слабые агрессивные импульсы, но сигнал получается слабее (ведь активируются не все нужные нейроны) и, по-видимому, часто не достигает порогового уровня. При восприятии дятла активируется лишь малая доля нейронов, кодирующих образ дрозда, поэтому агрессия против дятла практически никогда не возникает.

Используя слова вроде думал и понимал, мы обычно представляем себе процесс логических умозаключений, который – по крайней мере, у человека – включает осознаваемые идеи, которые выражаются словами. Слово решил подразумевает взвешивание и оценку различных вариантов с последующим выбором наиболее предпочтительного. Концепция нейронных сетей предполагает, что «мысль» дрозда о противнике и его «решение» атаковать не содержат подобных процессов. В действительности это поток активации, запущенный сенсорными сигналами из внешней среды и распространяющийся через связи между нейронами, – именно он дает нам представление о том, что происходит в мозге дрозда с точки зрения нейросетевого подхода.

И это касается мозга не только дрозда, но и нашего собственного. Все ментальные феномены, описанные в предыдущих главах, основаны на процессах той же природы, что мы только что рассмотрели на примере дрозда. Сигнал извне сети вызывает активацию определенных элементов; эта активация возбуждает или тормозит другие элементы, с которыми существуют связи; активация распространяется по сети. Возникающие паттерны активации могут представлять мысли об объектах или понятиях либо участвовать в запуске действий.

Вспомним, например, нейронную сеть «"Ракеты" и "Акулы"» из главы 4 – модель системы памяти на основе нейронной сети. В этой сети событие внешнего мира – скажем, звук имени Кен – создает входной сигнал для элемента, представляющего имя Кена. Этот элемент связан со скрытым элементом Кена, который, в свою очередь, связан с элементами, кодирующими его семейное положение, образование и другие характеристики. Благодаря этим связям входной сигнал активирует соответствующие элементы свойств, и сеть «вспоминает», что Кену от 20 до 30, он холост и промышляет взломом (среди прочих его качеств). Входной сигнал порождает активацию, соответствующую извлечению из памяти информации о Кене, которая при необходимости может стать выходным сигналом сети и привести к внешней реакции.

Структурно схожая сеть в главе 5 объяснила, почему буквы в словах распознаются при кратковременном предъявлении лучше, чем буквы в бессмысленных последовательностях. К примеру, буква L в слове FLAG воспринимается легче, чем L в наборе ZLFQ. В первом случае активацию L поддерживают и элементы, кодирующие признаки буквы L, и элементы, представляющие слово FLAG целиком. Во втором случае распознавание L опирается только на активацию от элементов признаков самой буквы – дополнительной поддержки нет, поскольку ZLFQ почти не активирует элементы, соответствующие знакомым словам. И здесь событие внешнего мира (предъявление буквы) порождает активацию, которая распространяется по существующим связям. Этот процесс – распространение активации между нейронами – той же природы, что и реакция дрозда на собственное отражение, когда он «думает», что видит соперника-захватчика.

А что происходит, когда дрозд «решает» атаковать? В главе 6 мы увидели, что решения не всегда основаны на рациональной оценке того, насколько полезны доступные варианты, – часто они возникают просто из распространения активации по существующим связям. Эти активации и связи действительно могут способствовать выживанию и размножению дрозда, но нам не нужно приписывать ему осознанное решение, которое основано на взвешивании плюсов и минусов агрессивного поведения. «Решения» дрозда, как и наши, направляются потоками активации.

Распределенные представления из главы 7 развивали идею локальных представлений из предыдущих моделей. Встретив незнакомое существо и узнав, что это птица, мы сразу «знаем», что у нее есть крылья. И не потому, что делаем логический вывод, а потому, что представляем новую птицу паттерном активации, схожим с паттернами других птиц. Этот паттерн через существующие связи позволяет породить выходные сигналы, которое отражает наше «знание», что у новой птицы есть крылья. Мы видели, как подобные процессы в простых моделях главы 7 лежат в основе семантических и других когнитивных способностей LLM (глава 8). И это тоже следствие распределенных представлений, которые опираются не на что иное, как на активации и связи.

В предыдущих главах мы последовательно показывали, что опыт играет ключевую роль в формировании связей, которые определяют наши представления и действия. В главе 9 мы рассмотрели эту проблему с позиций биологии и вычислительных наук. Хотя многое еще предстоит понять, проведенный обзор внушает оптимизм: дальнейшие исследования помогут нам лучше разобраться, как наш мозг достигает результатов, сопоставимых с мощным алгоритмом обратного распространения ошибки. Эти открытия позволят создать системы ИИ будущего, способные освоить человеческую способность к обучению на гораздо меньшем объеме данных, чем требуется современным системам.

В главе 1 мы выдвинули тезис, что ключевых принципов нейросетевого подхода достаточно для понимания разума. Давайте посмотрим, что мы можем сказать об этом теперь.

Интерлюдия. Неужели мы – это только активации и связи?

2016–2024 гг. Сан-Франциско, Калифорния. Последние несколько лет Гаурав ведет семинары по нейросетевой теории разума. В конце некоторых занятий он предлагает студентам выдвинуть самые сильные возражения против этой концепции. Приведенный ниже текст составлен из реальных ответов студентов (в обобщенном изложении Гаурава) и представлен как речь одного из них.

Я готов согласиться, что активации и связи помогают понять, как устроен разум дрозда. Признаю также, что нейросетевой подход проливает свет на отдельные аспекты человеческого познания.

И все же я убежден: эта концепция никогда не сможет объяснить многие важнейшие свойства нашего разума. Мы – нечто большее, чем активации, нечто большее, чем связи.

Мои возражения касаются трех областей. Во-первых, нейронные сети не способны мыслить и рассуждать логически. Во-вторых, они не могут руководствоваться мотивами и преследовать цели. В-третьих, нейронные сети не обладают сознанием.

Логическое мышление, целеполагание и сознание – фундаментальные составляющие человеческого разума. Теория, которая претендует на его объяснение, обязана охватывать все эти аспекты. Нейронные сети с этим не справляются. Неудивительно, что современные системы искусственного интеллекта – а это именно нейронные сети – не способны к логическому мышлению, не имеют мотивации и целей, не обладают сознанием.

Сразу оговорюсь: я не утверждаю, будто в машине живет призрак или наш разум опирается на процессы, которые принципиально недоступны механистическому пониманию. Указывая на ограниченность нейронных сетей, я не прибегаю к ненаучным представлениям. Моя задача – показать, что потоки активации, распространяющиеся через межнейронные связи, обладают ограниченной объяснительной силой.

Начну с последовательного мышления и логики. Нейронные сети распознают закономерности, но они не понимают логических принципов и не способны к логическому мышлению как таковому. Человеку очевидно: если все люди смертны, а Сократ – человек, то Сократ смертен. Нейронная сеть не может строить подобные рассуждения. Даже если в