Читать книгу - "Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд"

раза. Это кардинально отличает его от систем обучения, благодаря которым мы распознаем объекты, понимаем речь и овладеваем такими навыками, как чтение, письмо, ходьба и говорение. Все эти способности формируются путем изменения связей в обширных нейронных сетях неокортекса – области мозга, которая у Г. М. осталась практически нетронутой. В неокортикальных нейросетях изменения связей после единичного опыта обычно невелики. Они накапливаются постепенно, опыт за опытом, что соответствует плавному развитию наших когнитивных способностей в детстве и юности. Поэтому мы рассматриваем гиппокамп и неокортекс как две различные, но взаимодополняющие системы обучения, которые совместно обеспечивают как постепенное формирование наших познавательных способностей, так и возможность быстро и эффективно усваивать новое на уровне мысли.

Языковые модели середины 2020-х обладали способностями, схожими с медленной неокортикальной системой обучения мозга, но были лишены быстрой системы, подобной гиппокампу. Однако новейшие модели можно оснастить внешним хранилищем для копий прежнего содержимого контекстных окон или текстов, обработанных другими языковыми моделями. Это позволяет им обращаться к сохраненной информации и загружать ее в контекстное окно, что фактически дает им неограниченный контекст. По мере дальнейшего совершенствования и расширения этих моделей их возможности неуклонно растут. Сейчас, в 2025 г., многие языковые модели уже способны решить задачу о месяцах рождения, описанную в интерлюдии этой главы. Правда, остается неясным, достигают ли они этого путем логических рассуждений или извлекая готовый ответ из внешнего хранилища.

Итак, системы искусственного интеллекта на основе нейронных сетей демонстрируют все более впечатляющие способности к рассуждению, и этот прогресс, безусловно, продолжится. В некоторых аспектах эти модели уже превосходят человека: они имеют доступ к практически неограниченным хранилищам данных вне весов своих связей, тогда как наш мозг склонен забывать информацию. Они также опережают нас благодаря колоссальным вычислительным ресурсам, позволяющим исследовать множество путей рассуждения одновременно, – мы же в этом отношении гораздо более ограничены. Из-за таких различий современные модели могут казаться сверхразумными, но, на наш взгляд, их способности все же не являются подлинно человеческими. Нам еще предстоит долгий путь к пониманию того, как люди достигают столь многого без почти безграничных ресурсов, доступных системам ИИ.

Мы рассмотрели, способны ли нейросетевые системы ИИ мыслить последовательно и рассуждать логически – то, в чем сомневался студент Гаурава из интерлюдии. Теперь обратимся к его скептицизму по поводу того, что такие системы могут обладать мотивацией.

Мотивация: что это такое и как мы порой способны противостоять ее силе?

Когда нас по-настоящему что-то мотивирует – например, необходимость вовремя добраться в аэропорт, чтобы попасть на важное собеседование, – мы действуем сосредоточенно и энергично. Мы проявляем упорство, преодолеваем неожиданные препятствия, нас трудно отвлечь или сбить с намеченного пути. В наших действиях появляются настойчивость и рвение, которых не бывает при выполнении рутинных дел вроде выноса мусора. Мы ощущаем вдохновение и вовлеченность, а не пассивное безразличие. Состояние мотивированности связано со способностью воплощать намерения в жизнь.

Как осмыслить мотивированные состояния в рамках концепции нейронной сети? Как активации и связи могут порождать ту повышенную энергию стремления, которая характерна для мотивированного состояния? Способна ли система ИИ проявлять признаки мотивированного поведения? Это крайне интересные вопросы. Они затрагивают самую суть проблемы: можно ли понять человека через активации и связи, могут ли искусственные системы обладать собственными независимыми мотивациями? Если да, это значительно расширит их потенциальную полезность. Разумеется, это также открывает возможность автономности ИИ – появления систем, которые мы уже не сможем контролировать. Поэтому данный вопрос требует серьезного рассмотрения.

Есть и другой, не менее волнующий вопрос. Жизненный опыт показывает: несмотря на энергизирующую силу мотивации, мы порой способны противостоять ее натиску. Мы можем страстно желать шоколадного мороженого, но все же (иногда) удерживаемся от него ради заботы о здоровье. И это происходит даже тогда, когда стремление к здоровому образу жизни не обладает той же мотивационной «температурой», что и жгучее желание, влекущее нас к морозилке. Как цель, которая хранится в памяти, может противостоять силе мотивации? Способен ли робот на подобную сдержанность? Эти вопросы имеют ключевое значение для понимания того, как мы и наши системы ИИ определяем поведение конструктивными, просоциальными целями, а не чисто эгоистичными и корыстными.

Мы рассмотрим оба этих взаимосвязанных вопроса по порядку.

Нейронные сети и мотивация

В 1950-х годах психологи Джеймс Олдс и Питер Милнер проводили эксперименты с электродами, вживленными в мозг крыс. Каждая крыса могла нажимать на рычаг, активирующий электрод в ее мозге. Исследователи полагали, что возможность самостимуляции позволит понять, какие ощущения испытывают крысы при активации нейронов в различных областях мозга (в зависимости от расположения электродов). Если крысы нажимали на рычаг пару раз и теряли к нему интерес, можно было заключить, что возникающие ощущения им безразличны или вовсе отсутствуют. Если же крысы нажимали на рычаг снова и снова, это означало, что ощущения от стимуляции данной области мозга им приятны.

Поразительным оказалось то, что при размещении электродов в любой точке определенного нейронного пути крысы начинали одержимо и непрерывно нажимать на рычаг. Они игнорировали воду, пищу и привлекательных потенциальных партнеров, полностью сосредоточившись на получении очередного импульса. Казалось, они попали в плен неутолимой зависимости. Ради доступа к рычагу они готовы были терпеть болезненные удары током – чего никогда не делали ради пищи, даже в состоянии голода.

Поскольку открытый Олдсом и Милнером сложный нейронный путь обслуживается преимущественно нейромедиатором дофамином (глава 3), мы будем называть его дофаминовым путем. Напомним, что нейромедиаторы – это химические вещества, выделяющиеся в синапсах между нейронами и влияющие на активацию постсинаптического нейрона.

У человека существует аналогичный дофаминовый путь, который проходит через физиологически и анатомически сходные области мозга и также использует дофамин в качестве основного медиатора. Примечательно, что эксперимент, подобный опытам Олдса и Милнера, был проведен и с участием людей. В интернете можно найти видеозапись одного из них. На ней женщина управляет устройством с несколькими кнопками, каждая из которых стимулирует электроды в различных участках ее мозга. Особый интерес у нее вызывает кнопка № 2, соединенная с точкой на дофаминовом пути. Она нажимает ее снова и снова, описывая свои ощущения как «приятные» и «возбуждающие».

Эксперименты на людях и крысах привели к консенсусу: дофаминовый путь – это мозговой центр «вознаграждения» или «удовольствия». Многие исследователи пришли к выводу, что животные непрерывно нажимали на рычаг именно потому, что испытывали удовольствие. Это породило теорию мотивации, основанную на вознаграждении: нейроны дофаминового пути реагируют на естественные награды из окружающей среды (воду, сладкие фрукты), что склоняет к поведению, которое позволяет получить эти награды. Однако такое объяснение плохо согласуется с концепцией нейронной сети, поскольку сложно представить сеть с датчиками