Читать книгу - "Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд"

Локк и Кант хмурятся, но подаются вперед.

Мы же все согласны, что обучение удобно представлять как изменение силы связей между нейронами?

Локк и Кант слегка кивают, продолжая хмуриться.

Мы считаем, что обучение на опыте изменяет силу связей. Но если взглянуть шире, эволюция тоже формирует связи между нейронами. Подумайте: у брызгуна был предок, который не охотился водяными струями. А брызгун это умеет. Что изменилось? Некоторые связи в его мозге. Какой алгоритм их изменил? Эволюция. Точнее, естественный отбор.

Кант. Вы считаете естественный отбор процессом обучения?

Дарвин. Именно так! Естественный отбор управляет изменениями связей между нейронами – следовательно, это своего рода обучение.

Локк. Но я всегда понимал обучение как нечто происходящее с индивидом в течение его жизни, через личный опыт.

Дарвин. Эволюция действует на уровне вида. И в гораздо больших временных масштабах. Это внешний цикл обучения. Обучение на опыте – внутренний цикл.

Кант. Не понимаю, почему вы называете эволюцию обучением.

Дарвин. Потому что эволюция на протяжении миллиардов лет изменяет силу нейронных связей. Она испытывает множество конфигураций мозга, множество вариантов соединений. Полезные передаются следующим поколениям. По сути, эволюция – это механизм поиска наиболее эффективных связей за время существования вида.

Кант. Так и есть! То, что я называл врожденным, возникает в результате процесса, который можно назвать эволюционным обучением на уровне вида.

Дарвин. Да, эволюция создает врожденные связи и основу, которая делает возможным обучение на опыте.

Локк. Если рассматривать обучение как формирование связей в мозге, то граница между врожденным и приобретенным становится иллюзорной. (Потирает подбородок.) Вижу, моя концепция чистого листа требует доработки. Пожалуй, можно утверждать, что чистый лист существовал на заре жизни. А затем обучение на уровне вида в долгосрочной перспективе и обучение на уровне особи в краткосрочной работают рука об руку.

Кант. Да, эти процессы работают рука об руку.

Эволюция и опыт: сложное взаимодействие

В прошлом многие исследователи нейронных сетей делали упор на знания, приобретаемые через опыт, тогда как другие когнитивисты, особенно лингвисты вроде Ноама Хомского и его последователей, подчеркивали роль врожденного знания.

До сих пор мы говорили о том, что связи в мозге животных могут быть либо врожденными, либо приобретенными через опыт. Но есть и второй, более важный момент: наше поведение формируется в результате сложного взаимодействия эволюционного наследия и личного опыта. Эволюция закладывает базовые паттерны врожденных связей, дающие обучению отправную точку. Она прокладывает определенные пути между различными областями мозга и наделяет нас механизмами обучения, которые затем активируются конкретным опытом.

Яркий пример взаимодействия эволюционных механизмов и обучения на опыте – эффект Гарсиа, когда животное формирует прочную связь между вкусом и последующим недомоганием всего после одного случая. В 1955 г. Джон Гарсиа – сельскохозяйственный рабочий без ученой степени и академической известности – продемонстрировал следующее: грызуны, выпившие темную жидкость с сахарином, а затем заболевшие из-за воздействия радиации, начинали испытывать отвращение к этой жидкости. Животные научились связывать вкус с лучевой болезнью, несмотря на временной разрыв между приемом жидкости и началом недомогания, причем всего после одного раза. Сравните с собаками Павлова, которым требовались многократные сочетания метронома и пищи. Эффект Гарсиа похож на ситуацию, когда человек съедает одну-единственную устрицу, серьезно заболевает и потом годами не может смотреть на устрицы – даже если причина болезни была совсем в другом.

Любопытно, что крысы связывали с последующим недомоганием именно вкус жидкости, а не ее внешний вид. В последующих экспериментах крысам предлагали либо воду с сахарином, либо воду в сопровождении световых и звуковых сигналов. Некоторые животные получали удары током, у других вызывали тошноту. Оказалось, что крысы легко связывали вкус с тошнотой, но не с ударом тока. И наоборот – световые и звуковые сигналы ассоциировались с током, но не с тошнотой.

Скорость формирования, специфичность и стойкость эффекта Гарсиа убедительно свидетельствуют: эволюция снабдила нас нейронными связями, настроенными на соединение определенных сигналов с определенными последствиями (вкус – с болезнью, вспышки света и звуки – с ударами). Эти связи активируются в ситуациях, которые запускают формирование конкретных ассоциаций (например, сахариновый вкус – тошнота).

Главная мысль, которую мы хотим донести: наше поведение возникает из сложного взаимодействия эволюционно сформированных процессов и влияния конкретного опыта. Иногда эволюция создает специализированные связи для определенных ситуаций. В других случаях она снабжает нас универсальными алгоритмами широкого применения. Один из таких механизмов – хеббовское обучение, к которому мы сейчас и обратимся.

Хеббовское обучение: биологически правдоподобно, но ограничено

Мы постоянно формируем ассоциации: садясь в машину – пристегиваем ремень, видя друга – произносим его имя, слыша звонок в дверь – идем открывать.

Интуитивно понятное объяснение формирования таких ассоциаций дает хеббовское обучение (глава 3). Сам Хебб не уточнил многие детали своего правила изменения синаптической силы, и существует множество его вариаций. На наш взгляд, удачная формулировка звучит так: если нейрон А имеет существующую (пусть и слабую) связь с нейроном B, и если А и B активируются примерно одновременно, сила связи от А к B возрастает. Степень усиления зависит от активации обоих нейронов. В самой распространенной форме хеббовского обучения активации А и B перемножаются. Большое произведение дает сильное усиление связи, малое – слабое. Важный момент: для запуска изменений активация B должна быть достаточно сильной (запомните это!).

Проиллюстрируем хеббовское обучение на примере запоминания имен. При знакомстве с новым человеком активируются нейроны, кодирующие черты его лица. Когда он представляется, включаются нейроны, отвечающие за звучание имени. Поскольку активация «лицевых» и «именных» нейронов совпадает во времени, согласно правилу Хебба, связи от первых ко вторым усиливаются. После нескольких встреч имя начинает всплывать в памяти при виде лица. Параллельно формируются и другие ассоциации – например, имени и лица с тембром голоса.

Итак, хеббовское обучение объясняет, как мы познаем мир через простое совпадение событий во времени – без учителя, без наград за правильные ответы. В главе 7 мы видели, что обучение с коррекцией ошибок требует сравнения выхода сети с заданным эталоном. В хеббовском обучении такого сравнения нет.

Долговременная потенциация и хеббовское обучение

Хеббовское обучение – не просто теоретическая модель. Есть веские основания полагать, что именно так работает мозг млекопитающих. Убедительное подтверждение дает феномен долговременной потенциации (ДВП) – стойкого изменения силы связи между нейронами. Без ДВП у нас, вероятно, не было бы ни долговременной памяти, ни прочных знаний.

ДВП впервые продемонстрировали Тимоти Блисс и Терье Лёмо в 1960-х годах. Они анестезировали кролика и изучали, как электрические импульсы проходят по определенному пути в его мозге. Сначала одиночный слабый импульс вызывал очень слабый отклик в принимающих нейронах. Последующие