Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

нейронаука выделяет в нашем мозге десятки крупномасштабных нейронных сетей — «армий»[107]. Но для того чтобы облегчить понимание, я обычно останавливаюсь на трёх главных, постоянно взаимодействующих и конкурирующих друг с другом.

Базовые нейронные сети

Центральная исполнительная сеть (ЦИС) отвечает за то, что мы осознаём. Как правило, она активируется, когда мы сталкиваемся с задачей, под которую у нас нет готового решения, а надо прямо сейчас его найти. Допустим, нам нужно что-то сосчитать, разобраться в инструкции к новому гаджету или оценить предлагаемый вариант решения нашей проблемы.

ЦИС оперирует планами, целями и логикой, отвечает за контроль сознательных решений и подавление ненужных импульсов. Когда вы заставляете себя встать утром на пробежку, хотя всё ваше существо этому противится, — это работа ЦИС[108]. Именно с деятельностью этой сети мы и ассоциируем наше «я», нашу личность, нашу силу воли.

Сеть выявления значимости (СВЗ) — «служба безопасности». Именно её активность определяет, с чем мы столкнулись и на какую задачу нам нужно направить своё драгоценное внимание[109]. Это неутомимый «дежурный», который постоянно на посту и сканирует обстановку, причём как внутри, так и снаружи.

Резкий звук за окном, внезапная боль в боку, ваше имя, прозвучавшее в гуле толпы, — всё это сигналы, которые улавливает СВЗ. Она как бы кричит: «Внимание! Вот это важно!» — и заставляет вас обернуться на звук сирены или почувствовать приступ голода. Без этой «службы мониторинга» наш сознательный разум был бы слеп и глух к требованиям реальности.

Дефолт-система мозга (ДСМ) — наши с вами интеллектуальные производственные мощности. Используются эти мощности, впрочем, по умолчанию (по дефолту), когда мы не заняты никакой конкретной внешней задачей. Состояние, характерное для активности ДСМ, принято называть «блужданием»[110].

Когда вы едете в автобусе и бездумно смотрите в окно, когда стоите под душем или просто лежите на диване, ваша ЦИС отдыхает. Но мозг не выключается. Наоборот, в этот момент на полную мощность начинает работать ДСМ.

• Она «переваривает» прошлое: прокручивает недавние события, извлекая из них уроки и связывая их с давними воспоминаниями.

• Она моделирует будущее: представляет возможные сценарии развития событий, проигрывает предстоящие разговоры и социальные взаимодействия.

• Она думает о нас самих и о других: пытается понять мотивы людей, анализирует наши отношения, формирует нашу автобиографию.

Именно в глубинах этой сети, работающей «под капотом» нашего сознания, и рождаются те самые инсайты, творческие идеи и неожиданные решения, которые затем «приходят нам в голову». Вот почему дефолт-система — это нейрофизиологический субстрат «даймона» Сократа: генератор мыслей, который работает без нашего сознательного контроля.

Само наше ментальное состояние в любой момент — это результат динамического взаимодействия и даже конкуренции между этими тремя сетями. Сознательное «я» (ЦИС) — лишь один из трёх игроков, который к тому же бо́льшую часть времени находится в тени гигантской подсознательной работы дефолт-системы.

Вот откуда берутся «случайные» мысли и почему самые гениальные идеи приходят тогда, когда мы их совсем не ждём… Впрочем, и не самые гениальные наши идеи тоже приходят в сознание из ДСМ. Потому что сама по себе ДСМ — лишь нейронная сеть, а вот то, что она производит, зависит от того, на каком материале мы её постоянно тренируем.

Тренировка нейронных сетей

Если мы потребляем достаточно сложный и содержательный контент:

• сеть выявления значимости создаёт в нас состояние озадаченности (сосредоточенности и внутреннего вопрошания);

• центральная исполнительная сеть пытается разобрать этот материал на отдельные модули (по сути, токенизирует информацию до состояния отдельных интеллектуальных объектов);

• дефолт-система работает с этими интеллектуальными объектами, которые собирает в новые мысли, отвечающие на вопросы нашей внутренней озадаченности.

Если наша голова забита всякой ерундой, то и «варить» дефолт-система будет эту ерунду, а результаты будут соответствующими. Вот почему мы, оказавшись в мире примитивного контента из соцсетей и подсев на «дешёвый дофамин», стали массово глупеть.

Это было вполне предсказуемо, о чём я со своей стороны всячески предупреждал. Но если раньше мои объяснения нарастающей «информационной псевдодебильности» осознавались лишь теми, кто мог их понять, то теперь подошли и объективные данные — наше системное оглупление проявилось в статистических показателях.

• Результаты PISA по чтению и математике достигли пика около 2012 года и с тех пор снижаются[111] — на протяжении всего XX века показатели росли, но стоило соцсетям войти в нашу жизнь, и они пошли вниз.

• Продолжительность фокусировки внимания на одной экранной задаче упала с 2,5 минут в 2004 году до 47 секунд в 2022-м[112] — и можно лишь догадываться, что за эти секунды мы успеваем осмыслить (видимо, близко к «ничего»).

• 20 % взрослых в развитых странах функционально неграмотны — не могут найти логическую ошибку в простом тексте или выполнить многошаговую инструкцию[113].

Сейчас, по мере внедрения ИИ, ситуация только ухудшается. Например, специалисты, полагающиеся на помощь ИИ, теряют свои профессиональные навыки быстрее и не замечают этого, сохраняя высокую уверенность в своей экспертизе[114]. Особенно яркий пример — исследование, которое было проведено в MIT Media Lab под руководством Натальи Косминой[115].

Участники были разделены на три группы: одни выполняли задачи исключительно своим умом; другие — использовали поисковые системы (типа Google) для помощи; третьи — пользовались ChatGPT. Во всех группах проводилась фиксация работы мозга методами электроэнцефалографии, что позволило увидеть следующее:

• в первой группе активность нейронных сетей была максимальной и распределённой между различными отделами мозга;

• пользователи, прибегавшие к использованию поисковых систем, показали умеренную вовлечённость различных отделов мозга;

• а пользователи ChatGPT отобразили самую слабую связность — то есть их мозг буквально не включал дефолт-систему, чтобы выполнить задание.

Проще говоря, у тех, кто полагался только на свой мозг, нейронные сети были самыми мощными и распределёнными — их мозг работал в полную силу, связывая разные области. Пользователи поисковиков — на среднем уровне, а GPT-группа — с самой слабой связностью, как будто мозг «выключился» и делегировал всё модели (см. рис. 2).

Рис. 2. Активность мозга при решении задач с использованием ChatGPT, интернет-поиска и самостоятельно (показана красными и жёлтыми линиями)

Несмотря на то что участники эксперимента, которые использовали GPT, спустя небольшое время, в отличие от других групп, уже даже не могли вспомнить, что за задание они выполняли, они были уверены, что справились с ним отлично. Это наглядно показывает, насколько легко мы отдаём свою интеллектуальную функцию на аутсорс и насколько это может серьёзно сказаться на наших интеллектуальных способностях.

Нейронные сети нашего мозга — это динамические структуры, которые находятся в хорошей форме, только если