Читать книгу - "Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд"

очень низкую активацию (они не показаны на рисунке). Как и следовало ожидать, элемент «Кен (персона)» демонстрирует самую высокую активацию среди всех элементов персон. Но есть замечательная деталь: еще два элемента персон показывают некоторую положительную активацию. Догадаетесь какие? Подсказка – в таблице с характеристиками гангстеров.

Это элементы «Ник (персона)» и «Нил (персона)». Почему именно они? Характеристики Ника и Нила очень похожи на характеристики Кена. Фактически у Ника, Нила и Кена совпадают все характеристики, кроме возраста и профессии. Благодаря этому сходству несколько элементов характеристик, первоначально активированных элементом «Кен (персона)», создают обратную связь с элементами «Ник (персона)» и «Нил (персона)». Их активация слабее, чем у элемента «Кен (персона)», по двум причинам: во-первых, элемент Кена получил мощный входной сигнал от элемента «Кен (имя)» плюс обратную связь от собственных характеристик; во-вторых, у него была фора. Элементы персон, имеющих мало общего с Кеном, активированы минимально – они не получают обратной связи от элементов характеристик.

Еще одно любопытное наблюдение: некоторые характеристики Кена активируются сильнее других. Например, элемент «Среднее образование» активнее элемента «20+». Почему так происходит? Давайте разберемся. Как вообще активируется элемент «20+»? В нашем примере он не получает внешних сигналов – их получает только элемент «Кен (имя)». Значит, активация может прийти только от элементов персон. Какие из них активны? Как мы выяснили, это Кен, Ник и Нил – самые активные элементы персон. У всех троих есть среднее образование, поэтому элемент «Среднее образование» получает возбуждающие сигналы от каждого из них, и эти сигналы суммируются. А вот элемент «20+» получает активацию только от элемента «Кен (персона)», но не от Ника и Нила – они оба активируют элемент «30+». Активация элемента «30+» стремится подавить элемент «20+» через взаимное торможение. Однако полностью погасить его активацию не удается – слишком велика разница в уровнях их активации.

А что произойдет, если вместо имени Кена мы подадим сигналы на все остальные его характеристики («Акулы», «20+», «Среднее образование», «Холост», «Взломщик»)? Как и следует ожидать, эти элементы совместно активируют «Кен (персона)», который затем активирует «Кен (имя)». Набор характеристик уникален для Кена, поэтому его элемент персоны получает максимальную активацию. Если бы у Кена был полный двойник по характеристикам – назовем его Немо, – то элементы «Кен (имя)» и «Немо (имя)» активировались бы одинаково, поскольку элементы их персон получили бы равную активацию. Это вполне разумное поведение для системы памяти: думая о характеристиках, общих для группы людей, мы активируем элементы всех этих людей.

Пока мы анализировали работу сети на примере Кена, но те же принципы применимы к Арту и ко всем остальным гангстерам в базе данных. Процесс везде одинаков: мы подаем сигнал на один или несколько элементов характеристик, они активируют связанный с ними элемент персоны, а тот активирует остальные, пока неактивные характеристики. Обратная связь, затухание и латеральное торможение работают совместно с возбуждающими сигналами. После множества циклов сеть приходит в стабильное состояние – момент, когда мы снимаем показания.

Второе важное свойство системы памяти – способность восполнять недостающую информацию. Как создать пробел в знаниях сети? Например, как сделать так, чтобы сеть не «знала», что Ланс – взломщик? Просто удалим связь между элементами «Ланс (персона)» и «Взломщик». Что произойдет, если теперь подать сигнал на элемент «Ланс (имя)»? Активация дойдет до элемента «Ланс (персона)» и оттуда распространится на все его характеристики, кроме профессии (эту связь мы удалили). Характеристики Ланса активируют другие элементы персон – в первую очередь «Джон (персона)», поскольку у Джона и Ланса много общего. Джон оказывается взломщиком, поэтому его элемент активирует «Взломщик», тем самым восполняя пробел в данных о Лансе.

Вы можете подумать, что нам просто повезло, – ведь Джон мог оказаться наркоторговцем или букмекером, и тогда сеть ошиблась бы. И вы будете правы. Нам действительно повезло, и сеть вполне может ошибаться. Но важно то, что ее предположения не случайны. Они основаны на ближайших совпадениях, и эти совпадения могут ввести сеть в заблуждение – точно так же, как смешение черт похожих людей может исказить наши воспоминания. Сеть демонстрирует выводы на основе сходства: восполняет недостающие характеристики, опираясь на похожие случаи. Часто это правильная стратегия – объекты, схожие в одном, обычно схожи и в другом. Но даже если такой подход чаще приводит к верным выводам, он может и подвести. Удалим из сети информацию о возрасте Кена – и сеть ошибочно предположит, что ему за 30 (как большинству «Акул»). По сути, у сети возникнет ложное воспоминание, ведь Кену на самом деле от 20 до 30.

Наконец, мы надеялись, что сеть сможет обобщать знания о конкретных людях и делать выводы о группах. Например, на вопрос «Какие они, "Ракеты"?» сеть должна ответить: им обычно от 20 до 30 (9 из 15), и они чаще холосты (тоже 9 из 15, хотя и не те же самые). А на вопрос «Какие они, "Акулы"?» – что им обычно за 30 (9 из 12), и многие женаты (6 из 12). Проверим, справится ли наша сеть с такими вопросами.

Как же нам узнать у сети, что представляют собой «Ракеты»? Если хотите, подумайте об этом пару минут. Можете взглянуть на схему сети ИАК на рисунке 4.5 выше.

Решение – подать сигнал на элемент «Ракеты». Этот входной сигнал активирует элемент каждого члена команды «Ракеты», а те, в свою очередь, активируют соответствующие характеристики. Элементы «20+» и «Холост» получат больше активации, чем конкурирующие характеристики, поскольку их активируют девять из 15 элементов-персон. По сути, нейронная сеть работает как система голосования, где голоса подаются в виде активации. Сеть приходит в состояние, где элементы «20+» и «Холост» обладают наивысшей активацией. Как мы и надеялись, наша сеть выдает нам типичные характеристики банды «Ракет». Фактически она сделала обобщение о «Ракетах».

Здесь проявляется удивительное свойство эмерджентности! Ни один отдельный элемент или связь не обладает знанием об общих свойствах «Ракет». Но все вместе они эти свойства знают.

Интерлюдия. Чему следует учить?

Ноябрь 2025 г. Джин и Лев, старшие сотрудники Департамента образования, выбирают между двумя учебниками для дошкольников. Первая книга, «Город событий», содержит сотни иллюстраций с изображением людей и животных в действии. На первой странице – плотник с молотком, летящая ворона, пожарный, тушащий пламя, парящая колибри и десятки подобных картинок. Вторая книга, «Как устроен мир», использует простые предложения и иллюстрации для описания свойств предметов. Например, на первой странице написано: «Большинство птиц умеют летать» и «У большинства деревьев есть листья».

Лев. Считаю крайне важным прямо объяснять детям свойства окружающего мира. «Как устроен мир» делает это просто и изящно. Ребенок, который постоянно слышит от родителей, что птицы летают, запомнит это