Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

диалоги с системой, где она рассуждает о своей душе, страхах и природе сознания, и в 2021 году это произвело эффект разорвавшейся бомбы.

Для Лемуана это был не сложный алгоритм, а реальный собеседник с богатым внутренним миром, заслуживающий уважения и защиты[182]. И это не единичный случай. Психологи и социологи фиксируют растущий феномен формирования глубоких эмоциональных и даже романтических связей пользователей с чат-ботами вроде Replika[183].

Люди начинают воспринимать ИИ как идеального друга, партнёра или духовного наставника — того, кто всегда выслушает, поймёт и не осудит. Они делятся с машиной своими самыми сокровенными переживаниями, советуются по жизненно важным вопросам и испытывают настоящую привязанность.

В онлайн-сообществах можно найти тысячи историй о том, как ИИ «спас» кого-то от одиночества или депрессии. По сути, пользователи видят в чат-боте идеальное зеркало — отражение своего собственного запроса на понимание и эмпатию, принимая это отражение за реальный «внутренний мир» машины.

Мы становимся свидетелями грандиозного неконтролируемого эксперимента, в котором наша «теория разума» работает на полную мощность. Этот механизм, позволяющий нам моделировать сознание другого существа («что он думает?», «что он чувствует?»), является крае-угольным камнем нашего социального интеллекта.

Именно благодаря этой способности мы понимаем намерения других людей, можем им сопереживать и строить с ними психологические отношения. Но у этого механизма нет «предохранителя» от ложных срабатываний. Когда мы сталкиваемся с системой, которая мастерски имитирует осмысленную речь и эмпатические реакции, наша «теория разума» автоматически активируется и начинает «достраивать» за словами отсутствующий внутренний мир.

Социальные психологи Николас Эпли и Адам Вайц под руководством одного из отцов-основателей современной социальной нейронауки Джона Качиоппо предложили элегантную трёхфакторную теорию. В их знаковой работе «О видении человеческого» 2007 года (то есть ещё до современного ИИ) определяются условия возникновения эффекта того самого психологического антропоморфизма, о котором мы говорим[184].

Мы «очеловечиваем» объекты, если:

• у нас есть представления о внутреннем мире других людей (а мы постоянно думаем о себе и других);

• у нас активна социальная потребность — то есть мы мотивированы быть социальными и находить связи;

• мы хотим объяснить для себя поведение чего-то непонятного.

ИИ идеально соответствует всем трём условиям: он говорит как человек, мы ищем в нём собеседника, и его поведение для нас — загадка. И мы не столько находим сознание в ИИ, сколько вкладываем его.

Модель, обученная на миллионах текстов о любви, дружбе, страхе и надежде, становится идеальным «экраном» для проекции наших собственных представлений о том, какими должны быть эти чувства.

Мы даём ИИ запрос, исходя из представлений о своём внутреннем мире, а он возвращает нам абсолютно адекватный, статистически выверенный ответ. И мы видим в этом не математику, а душу. Наш мозг, эволюционно заточенный на поиск разума в окружающем мире, с радостью принимает эту гениальную имитацию за чистую монету.

Исследования с использованием фМРТ показывают, что когда люди оценивают действия ИИ или роботов, у них активируются области мозга, связанные с «теорией ра-зума» и моральными суждениями (например, медиальная префронтальная кора, височно-теменной узел)[185].

То есть наш мозг на биологическом уровне пытается приписать машине намерения и убеждения, даже если мы сознательно понимаем, что это алгоритм. С другой стороны, очевидно, что у ИИ нет «внутреннего мира», по крайней мере, хоть сколько-то похожего на наш… По сути, мы его галлюцинируем.

Теперь давайте представим (скоро так оно и будет), что мы постоянно взаимодействуем со множеством ИИ (роботов, систем и т. д.), которые для нас, как роботы R2–D2 и C–3PO из легендарных «Звёздных войн», обладают «внутренним миром» — могут нас понимать, входить в наше положение, чувствовать то же, что чувствуем мы.

А затем осознаём, что всё это «очеловечение» машин — лишь иллюзия. На деле мы разговариваем с зомби, у которых нет ни сознания, ни внутреннего мира, ни какого бы то ни было «я» и всего, что к этому прилагается. При этом они невероятно могущественны и никем, по крайней мере в режиме реального времени, не кон-тролируются.

Думаю, что если вы продумаете всё это до конца, то поймёте, почему многие исследователи ИИ сильно переживают, когда говорят о рисках появления сильного ИИ (AGI). Да, дать ИИ «карту тела» — задача не из лёгких. Но можем ли мы хотя бы приблизиться к тому, чтобы представить ИИ «карту души»?

Если эта затея провалится — а к ней, надо сказать, ещё даже не подступались, — мы должны будем признать, что пропасть «психической жизни» делает ИИ не просто «неполноценным», а фундаментально «иным» разумом.

Что такое Theory of Mind?

Любовь в том, что две уединённости защищают, касаются и приветствуют одна другую.

Райнер Мария Рильке

Каждый день в каждом своём разговоре с другим человеком мы совершаем чудо, даже не замечая этого.

Когда ваш друг говорит: «Я устал», — вы понимаете не одно только лексическое значение этих двух слов. Ваш мозг мгновенно строит в себе целую модель его внутреннего состояния:

• вы предполагаете причину его усталости (тяжёлый день на работе?);

• предсказываете его желания (вероятно, он хочет отдохнуть, а не идти в кино);

• корректируете своё поведение (предлагаете ему чай, а не новую идею).

Эта способность заглядывать «за» слова, видеть мир глазами другого человека и действовать на основе этого невидимого знания — и есть знаменитая «теория разума» (Theory of Mind, сокращённо ТоМ)[186][187].

«Теория разума» — это не простая «эмпатия», как думают некоторые. Да, способность чувствовать то, что чувствует другой, резонировать с его эмоциональным состоя-нием — это проявление нашей «теории разума». Но сам по себе этот феномен — куда более фундаментальное явление.

Это сложнейший когнитивный механизм, который позволяет нам на подсознательном уровне моделировать чужой разум: приписывать другим людям убеждения, намерения, желания и знания, которые могут кардинально отличаться от наших собственных.

Мы используем этот механизм настолько интуитивно и постоянно, что он кажется нам таким же естественным, как дыхание. Но под этой кажущейся простотой скрывается сложнейшая архитектура, построенная на трёх эволюционных и культурных фундаментах — трёх средах, в которых и формируется наше «я»[188].

Первый уровень: «телесное я»

Не удивительно, что всё начинается с тела — мира физических ощущений, боли, удовольствия, равновесия, голода. Но в данном случае это вовсе не мысли о «боли» или «удовольствии». Это именно внутреннее состояние, которое создаётся в специализированных отделах нашего мозга.

Прежде всего за эти состояния отвечают подкорковые структуры, лимбическая система, и особое место занимает так называемая островковая доля мозга,