Читать книгу - "Рождение разума: Как интеллект зарождается в людях и нейросетях - Джей Макклелланд"

создавать системы контроля и защиты становится своего рода суперспособностью, которая многократно усиливает нашу общую способность поступать правильно.

Возьмем, к примеру, хирургические чек-листы и многоступенчатые протоколы утверждения в больницах. Вместо того чтобы полагаться исключительно на мастерство и добросовестность хирурга, эти инструменты создают четкую процедуру, гарантирующую выполнение критически важных шагов: подтверждение типа операции, проверку личности пациента, учет инструментов – и так каждый раз. Исследования показывают: внедрение чек-листов и многоступенчатого контроля резко снижает число осложнений и смертей. Встраивая механизмы защиты и контроля в рабочий процесс, мы создаем среду, где правильные действия становятся нормой – не потому, что люди безупречны от природы, а потому, что система помогает им не ошибаться.

Эта вторая суперспособность работает не только в отношении этичности и ответственности людей – она применима и к системам искусственного интеллекта. Подобно тому как защитные механизмы, чек-листы и протоколы помогают избежать трагических ошибок в больницах, продуманный контроль способен сделать системы ИИ максимально безопасными и полезными, снизив риск того, что они выйдут из-под контроля. Именно поэтому мы призываем к более глубокому пониманию систем ИИ и активному участию общества в обеспечении их прозрачного и контролируемого развития.

Как понимание человеческого разума поможет улучшить ИИ будущего

До сих пор в этой главе мы рассматривали, как модель нейронной сети помогает сделать жизнь лучше через изменение образа мышления. Теперь обратимся к тому, как более глубокое понимание нейронных механизмов мозга может повлиять на развитие систем искусственного интеллекта.

Столетиями человечество мечтало создать машину, чей интеллект сравнится с нашим или превзойдет его. Искусственный общий интеллект (ИОИ) – современное название такой машины. Нынешний подход к созданию ИОИ, который мы назовем «инженерным подходом к интеллекту», нацелен на совершенствование искусственных нейронных сетей без оглядки на преимущества и ограничения биологического мозга. Нам такой подход представляется разумным. В конце концов, создавая самолеты, люди не копировали птиц буквально – они взяли полезные идеи вроде формы крыла, но внесли изменения, например применили жесткое крепление крыла к фюзеляжу. Точно так же, хотя нейронные сети сыграли ключевую роль в развитии ИИ, современный искусственный интеллект использует возможности компьютерного железа и вычислительные методы, недоступные человеческому мозгу. С точки зрения инженерного подхода любой метод, улучшающий ИИ – будь то достижения в обработке информации, символьных вычислениях или нейронных сетях, – заслуживает внимания.

Похоже, индустрия ИИ неизбежно продолжит следовать инженерному подходу к интеллекту. Но возникает вопрос: может ли биологический мозг предложить что-то ценное для дальнейшего прогресса? Мы рассмотрим особенности нашего познания и их нейронную основу – многие из них уже встречались в предыдущих главах, – которые могут стать отправными точками для развития ИИ. Мы убеждены: изучение умственных способностей человека и их нейронных механизмов поможет усовершенствовать искусственные системы. И наоборот, достижения в области ИИ способны пролить свет на работу этих процессов в человеческом мозге.

Прежде всего люди учатся несравненно эффективнее современных систем ИИ. Лучшие системы искусственного интеллекта середины 2020-х годов обучаются на объеме данных, который примерно в 100 000 раз превышает весь опыт человека за всю жизнь. К тому же такие сети работают по принципу «обучить – заморозить – внедрить». Сначала их обучают (иногда в несколько этапов: предварительное обучение и тонкая настройка), затем фиксируют веса связей (запрещая им меняться), после чего запускают в работу. Мозг же способен учиться непрерывно, усваивая новую информацию практически без ущерба для уже накопленных знаний. Мы полагаем, что эти функциональные различия отражают принципиальную разницу между механизмами обучения современных нейросетей и нашего мозга. Нынешние сети обучаются методом обратного распространения ошибки, который требует огромных массивов данных для выявления скрытых закономерностей. Этот метод плохо справляется с непрерывным обучением и часто демонстрирует феномен «катастрофического забывания»: например, сеть, обученная различать кошек и собак, утрачивает этот навык после обучения распознаванию лошадей и коров.

Алгоритмы обучения, которые использует мозг, лишены этих недостатков. Они меньше зависят от объема данных и более гибки, чем метод обратного распространения, хотя мы пока не до конца их понимаем. Вероятно, мозг применяет сразу несколько стратегий обучения, включая варианты хеббовского обучения (глава 9). Продолжающиеся нейробиологические исследования постепенно раскрывают эти механизмы, и по мере накопления знаний они могут способствовать совершенствованию алгоритмов обучения в системах ИИ.

Во-вторых – и это связано с первым пунктом, – наш мозг располагает мощным тандемом взаимодополняющих систем обучения: гиппокампом и неокортексом (глава 10). Гиппокамп быстро обучается и способен связывать конкретные детали опыта в ассоциации, благодаря чему становится хранилищем воспоминаний о пережитых событиях. Неокортекс учится медленнее, зато выявляет закономерности и общие принципы, объединяющие разрозненный опыт. Считается, что во время сна или покоя гиппокамп «проигрывает» паттерны пережитого опыта неокортексу. Этот процесс может иметь решающее значение для консолидации новых воспоминаний и извлечения из них общих правил и знаний, а также помогает предотвратить катастрофическое забывание. Некоторые системы ИИ уже используют раздельные модули для быстрого запоминания конкретного опыта и медленного поиска закономерностей, но такие подходы опираются на огромные компьютерные хранилища данных. Более глубокое понимание быстрых механизмов обучения гиппокампа и способов интеграции полученных знаний в медленные системы обучения неокортекса может помочь будущим системам ИИ освоить непрерывное обучение.

В-третьих, наш мозг без усилий объединяет информацию от разных органов чувств – зрения, слуха, осязания – в целостную картину мира. Хотя некоторые системы ИИ уже обрабатывают и интегрируют мультимодальную информацию – текст, изображения, звук, видео, – согласование и объединение данных из разных модальностей (например, текста и изображений) остается сложной задачей. Современные модели часто не справляются с выявлением тонких межмодальных взаимосвязей. Более полное понимание механизмов такой интеграции в мозге может дать ценные идеи для развития ИИ.

В-четвертых, мы неоднократно убеждались (главы 4–5), что двунаправленные связи между элементами искусственных нейронных сетей необходимы для моделирования всепроникающего влияния контекста на восприятие и познание. В мозге нейроны также очень часто связаны взаимными соединениями. Это указывает на то, что мозг использует двунаправленные ограничения и не работает исключительно по принципу прямой передачи сигнала, хотя детали функционирования этих двунаправленных влияний пока изучены не полностью. И хотя некоторые сети ИИ уже внедрили двунаправленные связи, многие по-прежнему их не используют, упуская потенциальные преимущества. Представляется вероятным, что именно двунаправленные влияния обеспечивают нашу способность успешно интегрировать информацию от разных сенсорных систем. Дальнейшее изучение работы этих механизмов в мозге может привести к существенным улучшениям в системах ИИ будущего.

В-пятых, согласно распространенному мнению, высшие мыслительные способности человека опираются на систематические формы рассуждений (глава 10). Они предполагают применение формальных структур и систем правил, которые используются в логике и математике. Хотя некоторые исследователи по-прежнему считают, что наш мозг обладает врожденными системами символьной обработки, идеально приспособленными к формальной структуре этих дисциплин, мы рассматриваем систематические способы