Читать книгу - "Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд"

сильные и слабые стороны. Современные алгоритмы позволили создать искусственные сети, которые сравнялись с человеком или превзошли его во многих сложных задачах, однако ни один из известных сегодня алгоритмов обучения не воспроизводит в полной мере гибкость, адаптивность и эффективность процессов обучения человеческого мозга. Раскрытие вычислительных принципов, управляющих тем, как обширные нейронные сети мозга хранят знания, остается одной из величайших загадок, которую предстоит решать следующему поколению специалистов по вычислительной нейробиологии.

В третьей части мы рассмотрели нейронные сети, которые не зависели от интеллекта разработчика, а учились изменять свои связи на основе опыта. Такие сети помогли нам лучше понять, как люди осмысливают окружающий мир. Они также наделили системы ИИ эмерджентными способностями, которые еще несколько лет назад было невозможно себе представить. В четвертой части мы рассмотрим, как нейронные сети могут углубить наше понимание разума и обеспечить создание интеллектуальных машин будущего. Мы также обсудим более широкие выводы, которые нейросетевой подход предлагает для осмысления человеческой природы.

Часть IV

Расширение и применение нейросетевого подхода

До сих пор в книге «Рождение разума» мы использовали нейронные сети для обоснования идеи о том, что наш разум возникает из взаимодействий между простыми вычислительными элементами. Но способны ли такие взаимодействия охватить все грани нашего разума? Ведь мы способны к логическому мышлению (Если из A следует Б и A истинно, то Б должно быть истинно) и математическим рассуждениям (Пять игрушек больше, чем четыре). У нас есть желания и потребности (Хочу мороженое прямо сейчас) и целенаправленные устремления (Нужно питаться правильно). И что самое поразительное – у нас есть сознание: яркий субъективный опыт осмысления себя и окружающего мира (Аромат розы дает определенное ощущение). Может ли нейросетевой подход углубить наше понимание этих аспектов разума? В главе 10 мы утверждаем: да, может.

Если наши биологические нейронные сети способны воплощать эти процессы, то, возможно, искусственные нейронные сети в системах ИИ тоже могут обладать некоторыми из этих способностей. Мы также исследуем эту гипотезу в главе 10.

Затем в главе 11 мы рассмотрим, какие выводы из изученного материала можно сделать для нас самих и для искусственного интеллекта. Сначала мы обсудим, чтó нейронные сети могут рассказать нам о том, как жить лучше, и покажем, что нейросетевое понимание разума имеет конкретные последствия для наших отношений с собой, другими людьми и машинами. Мы также рассмотрим, как понимание нейронных сетей человеческого мозга может привести к усовершенствованию систем ИИ в будущем.

Глава 10

Наши эмерджентные мысли

Однажды ранней весной Гаурав услышал постукивание в окно гостиной. Стук был негромким, но непрерывным, а потому привлекал внимание. Гаурав вышел на улицу посмотреть, что вызывает стук, но это не помогло – снаружи ничего не было слышно. Только простояв несколько минут совершенно неподвижно внутри комнаты, Гаурав понял: стучит птица – среднего размера, с ярко-оранжевой грудкой. Он опознал в ней странствующего дрозда. Но зачем птица стучит в окно? Неужели хочет проникнуть внутрь?

Быстрый поиск в интернете показал: дрозд действительно атаковал. Но целью был не Гаурав. Птица нападала на другую птицу, которую видела в окне, – собственное отражение, – защищая свою территорию (рисунок 10.1).

Каждую весну самец странствующего дрозда сосредоточен на строительстве гнезда и защите территории. Если ему удается обустроить безопасное жилище, его шансы привлечь самку возрастают. Но он должен постоянно быть начеку, чтобы не пропустить чужака, способного выгнать его из старательно построенного гнезда. Потеря гнезда означает потерю возможности завести потомство.

Рисунок 10.1. Атакующий дрозд был целеустремлен и настойчив!

Однако иногда бдительность оборачивается против самой птицы. Если гнездо находится рядом с окном, собственное отражение воспринимается как сигнал «чужак», который запускает реакцию «атаковать и прогнать». Дрозд, похоже, не способен понять, что отражение не представляет угрозы, и нападает снова и снова, иногда более сотни раз за день.

Интересно, что агрессия странствующего дрозда направлена исключительно на других дроздов своего вида. Он вряд ли нападет на других птиц, случайно оказавшихся поблизости от гнезда. К примеру, обычно не обращает внимания на пестрого дрозда, который выглядит довольно похоже, или даже на кардинала с красным оперением, отчасти напоминающим его собственное. И уж тем более игнорирует дятлов и колибри – птиц, совсем не похожих на его сородичей. Но стоит ему увидеть другого странствующего дрозда – пусть даже всего лишь отражение, – как он тут же готовится к боевым действиям.

Люди, узнав о подобном поведении дрозда, обычно уверены, что прекрасно понимают его мотивы. Увидев свое отражение, дрозд подумал, что перед ним агрессивный соперник, и решил дать отпор. На птиц других видов он не нападал, потому что понимал: они не представляют угрозы, и на них можно не обращать внимания.

Подобные объяснения кажутся естественными, но в то же время вызывают вопросы. Что на самом деле означают слова подумал, решил и понимал? Что в действительности происходит с дроздом, когда мы говорим, что он думает, понимает и принимает решения?

Концепция нейронных сетей, которую мы развиваем в этой книге, дает полезный инструмент для осмысления процессов в мозге дрозда. Свет, отраженный от оконного стекла, попадает в глаза птицы и активирует светочувствительные клетки сетчатки. Это запускает активацию нейронов зрительного нерва, что в конечном счете создает определенный паттерн активации различных нейронов в мозге. Под паттерном активации мы понимаем состояние, когда одни нейроны активны очень сильно, другие – умеренно, а многие остаются неактивными. Такие паттерны активации мы называем распределенными представлениями (глава 7).

Распределенные представления объектов со схожими признаками обычно похожи друг на друга. Поэтому распределенное представление, возникающее при виде отражения в стекле, скорее всего, напоминает представления настоящих дроздов. Нейроны, кодирующие образ дрозда-захватчика, связаны с нейронами, которые запускают цепочки действий: удары клювом и крыльями, борьбу с врагом. Благодаря этим связям активация нейронов, представляющих противника, возбуждает нейроны, отвечающие за атакующее поведение. Те, в свою очередь, приводят в движение крылья и мышцы – и вот дрозд снова бросается на оконное стекло. Эти нейронные связи, судя по всему, врожденные или, по крайней мере, очень прочные – ведь птица продолжает атаковать стекло много раз в день, хотя это совершенно бесполезно.

А как дрозд «понимает», что не следует нападать на других птиц, особенно на тех, кто совсем на него не похож? И здесь ключ к разгадке дают распределенные представления. Как мы обсуждали в главе 7, распределенные представления способны отражать перцептивные и концептуальные сходства и различия: представление странствующего дрозда несколько отличается от представления пестрого дрозда и кардинально отличается