Читать книгу - "Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд"

мышления как человеческие изобретения, которые призваны усилить и развить наши естественные способности к рассуждению, основанные на нейронных сетях. Более того, обширные исследования показывают: наша способность использовать эти интеллектуальные инструменты напрямую зависит от погружения в культурную и образовательную среду, которая поощряет их применение. Следовательно, чтобы искусственные нейронные сети освоили подобные когнитивные навыки, им необходим сопоставимый опыт погружения в специально созданную обучающую среду. Такое погружение уже создается и дает обнадеживающие результаты. Резкий скачок производительности систем ИИ в первой половине 2020-х годов отчасти объясняется включением в обучающие данные формально структурированных материалов. Среди них – учебники и статьи, которые излагают формальные системы математических рассуждений и демонстрируют примеры решения задач. Сюда же входят компьютерные программы, которые сами по себе представляют явные системы символьной обработки. Продолжающиеся попытки понять, как подобное воздействие формирует наши способности к познанию, могут подсказать оптимальные способы внедрения таких способностей в искусственные нейронные сети.

В-шестых, в стремлении достичь человеческого уровня решения задач исследователи ИИ к середине 2020-х годов все больше внимания уделяют концептуализации рассуждения как интенсивного, протяженного во времени процесса. Примечательным достижением стало побуждение моделей к пошаговой «цепочке размышлений». Этого добиваются, демонстрируя модели примеры поэтапных рассуждений и используя обучение с подкреплением для поощрения длинных цепочек логических шагов. И действительно, люди часто решают задачи поэтапно, и стимулирование моделей действовать аналогично порой приводит к существенным улучшениям. Главная сложность, однако, в том, что выбор следующего шага зачастую крайне труден. Люди умеют разбивать сложные задачи на более простые подзадачи, но механизмы нашей порой поразительной эффективности в этой сфере остаются предметом изучения. Исследователи ИИ осознают важность декомпозиции задач и экспериментируют с широким спектром подходов. Мы полагаем, что более глубокое понимание того, как люди выбирают промежуточные шаги решения – возможно, под влиянием целей (см. наш последний пункт) и разбиения целей на подцели, – будет взаимно обогащать прогресс в этой области как в человеческой психологии, так и в ИИ.

В-седьмых, в нашем мозге есть «поисковая» система, которая активируется детекторами потребностей (например, сигналами голода) и возможностями удовлетворить эти потребности в окружающей среде (глава 10). Эта система служит источником целенаправленной мотивированной активности, обеспечивающей обучение, проактивное решение задач, приоритизацию одних действий над другими и самостоятельное формирование целей. Другие мозговые системы отвечают за эмоции, которые совершенствуют механизм принятия решений и усиливают запоминание личностно значимых событий (глава 5). Системы ИИ середины 2020-х годов лишены этих поисковых и эмоциональных механизмов.

Наконец, одно из важнейших различий между людьми и машинами состоит в том, что наш мозг располагает системами, которые позволяют целям направлять все аспекты поведения и познания – от сбора информации до планирования, решения задач и рассуждения (глава 10). Системы ИИ середины 2020-х, как правило, не имеют собственных целевых систем. Цели, организующие их поведение, – это преимущественно цели разработчиков, которые отбирают обучающие данные и создают протоколы вознаграждения для тонкой настройки. И хотя наше поведение отчасти формируется схожим образом, способность организовывать мысли и действия для достижения собственных целей имеет колоссальное значение – не только для выживания, но и для высших человеческих свершений. Наша способность создавать великие произведения искусства или разрабатывать научные теории основана на постановке и упорном преследовании целей на протяжении долгих периодов – иногда десятилетий и более.

Внедрение человекоподобных поисковых, эмоциональных и целеполагающих систем может привести к созданию более автономных искусственных систем, расширяющих и дополняющих наши собственные возможности. Однако здесь необходима предельная осторожность. Как мы обеспечиваем друг друга механизмами контроля и надзора, так и системы ИИ будущего должны – это критически важно – иметь ограничители, гарантирующие, что они будут полезны для человека и не нанесут вреда. Будущие нейробиологические исследования того, как наш мозг приходит к конструктивным и просоциальным целям и результатам, помогут определить способы достижения этой цели.

Размышляя о путях, которые открываются перед ИИ будущего в результате более глубокого понимания человеческой природы, мы видим и светлые перспективы, и долгую дорогу впереди. Более полное понимание нейронных сетей, лежащих в основе человеческих способностей, поможет расширить возможности будущих систем ИИ. Но достижение такого понимания – непрерывный процесс, в ходе которого будут возникать новые вызовы по мере устранения существующих.

Несмотря на значительные успехи, наша способность создавать искусственный разум все еще находится в зачаточном состоянии. Технологии ИИ будут развиваться и совершенствоваться, обогащаясь новыми знаниями о мозговых механизмах, которые обеспечивают наши умственные способности. По мере развития этого процесса мы должны стремиться использовать понимание собственного разума для гармоничного сосуществования друг с другом. Мы также обязаны следить, чтобы наш ИИ соответствовал человеческим интересам и ценностям. От нашей способности достичь этих целей зависят перспективы процветания человечества как вида и совместной эволюции с системами ИИ.

Эпилог. Капли росы на острове

2051 г. Сан-Франциско. Доктор Лайла Сингх-Петерсон совершила поразительный прорыв, создав новый алгоритм обучения нейронных сетей, основанный на принципах работы мозга. Ее алгоритм раскрыл механизмы человеческого обучения и проложил путь к созданию того, что многие считают первым искусственным общим интеллектом. В знак признания ее беспрецедентного вклада ей присуждают сразу две престижные награды: премию Дэвида Румельхарта в области когнитивных наук и премию Тьюринга в области информатики. Она только что завершила благодарственную речь, и члены комитета спешат ее поздравить. За стенами лекционного зала ее отец Аттикус (102 года) и сын Пракаш (32 года) пьют кофе в ожидании Лайлы.

Пракаш. Дедушка, кажется, ты доволен!

Аттикус. Так оно и есть! Картина природы нашего разума, которую нарисовала Лайла, дарит мне спокойствие и ощущение твердой почвы под ногами.

Пракаш. Спокойствие и твердая почва? А я думал, ты испытываешь гордость.

Аттикус. Гордость тоже есть, и немалая. Но это чувство глубже. Когда твоя мать рассказывала о нейронных сетях, где элементы соединяются и взаимодействуют, меня вдруг пронзило почти физическое ощущение единства со всем сущим.

Пракаш. Единства со всем сущим?

Аттикус: Мы созданы из вещества Вселенной. Из звездной пыли. Из того же материала, что камни и скалы. На краткий миг эта частица вещества, организованная в виде наших нейронных сетей, обрела жизнь и подарила нам способность чувствовать и мыслить. Как и все во Вселенной, это совершенно механистично, совершенно естественно и совершенно прекрасно. Я словно капля росы, которая возникла из влаги в воздухе и вскоре растворится снова в небе, откуда пришла.

Пракаш. И это дарит тебе спокойствие?

Аттикус. Это помогает понять: смерти не стоит бояться. Я произошел из обычной звездной пыли и скоро в нее вернусь. А по пути – о чудо! – успел увидеть столько всего! (Смеется.) По твоему лицу вижу – ты не согласен?

Пракаш.