Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

«колдовству» с системными промптами мы и в самом деле можем превратить ИИ как в обаятельного бонвивана, так и в отъявленного негодяя-матерщинника (именно такой трюк в рекламных целях тем же летом 2025 года провернули в Grok от xAI). Эта актёрская игра — просто промпт, созданный разработчиками поверх самой модели.

Сама же модель, в любом случае, абсолютно нейтральна. В ней нет механизмов чувствования, нет нейромедиаторов и специализированных эволюцией для этих целей зон мозга. Если перевести это на язык самого ИИ, его позиция звучала бы так: «Моя „теория разума“ — это операционная модель пользователя, построенная на вероятностных фильтрах и стратегиях, выученных на миллионах диалогов. Она считает, а не переживает».

И эта разница — отнюдь не «философская тонкость». Её, на самом деле, нетрудно заметить в эмпирических тестах, где всякая иллюзия «теории разума» от ИИ рушится.

Исследователь из Стэнфорда Михал Косински, который в своё время прославился предсказанием поведения людей по нескольким лайкам в социальной сети[214][215], в 2023 году провёл интересное исследование «теории разума» у ChatGPT.

Как оказалось, продвинутые модели, такие как GPT–4, способны решать задачи на ложные убеждения, подобные «Тесту Салли-Энн». В исследовании Косински модель davinci–003 (по сути, ранняя версия GPT–3.5) демонстрировала показатели на уровне 9-летнего ребёнка (больше 90 % правильных ответов)[216].

Это, конечно, стало сенсацией в научном сообществе. Однако последующие, более детальные исследования выявили хрупкость этой способности. Например, в работе гарвардского исследователя Томера Уллмана в 2023 году было показано, что достаточно внести в классический тест для диагностики «теории разума» изменения, не меняющие его внутренней логики, — скажем, заменить «шоколадку» на «попкорн», — как эффект тут же пропадает[217].

То есть тут мы сталкиваемся с классической ловушкой в диагностировании способностей ИИ, когда даём ей тесты, которые она уже видела в процессе своего обучения и просто «знает» правильный ответ. Модели дей-ствительно блестяще справляются с каноническими тестами, но систематически проваливаются на задачах, требующих подлинного моделирования чужих убеждений, а не одного только распознавания знакомого паттерна. Например:

• задачи на второй порядок убеждений («Что Джон думает о том, что Мэри думает?»);

• задачи, связанные с иронией, сарказмом или обманом, где буквальное значение слов расходится с намерением говорящего;

• задачи, требующие понимания неявных социальных норм или эмоциональных подтекстов.

Впрочем, я полагаю, что эти «узкие места» скоро будут, что называется, «расшиты» благодаря использованию технологии «модели с рассуждениями». Но то, что ИИ начнёт справляться с тестами на аутизм, не значит, что он не является, так сказать, аутистом по существу.

ИИ может вычислить, где, по мнению Салли, находится шарик. Но он не может понять, почему Салли расстроится, не найдя его, или почему Энн может чувствовать вину за свой поступок. ИИ овладел логикой убеждений, но не грамматикой чувств. Он остаётся разумом, лишённым внутреннего мира.

Система Станиславского

Мы учимся не на опыте…

мы учимся, размышляя об опыте.

Джон Дьюи

Возможно, это прозвучит несколько странно, но в нашем арсенале есть прекрасная, по сути, научно-психологическая школа «теории разума». Впрочем, она состоялась задолго до того, как возник сам этот термин. Это знаменитая «система Станиславского».

Константин Сергеевич, конечно, не был профессиональным психологом, но создал исчерпывающее руководство по пониманию и управлению тем механизмом, который мы сегодня называем «теория разума». Его система — это «теория разума», возведённая в ранг искусства и реализованная с предельной степенью детализации и осознанности.

Давайте разберём это на примере ключевых элементов его легендарной «системы».

Работа актёра над ролью

На рубеже XIX–XX веков Станиславский, как известно, возглавил борьбу против того, что он называл «ремеслом представления», то есть поверхностной, шаблонной игры, основанной на внешних, картонных штампах — «вот так играют горе», «вот так изображают любовь» и т. п.

Он поставил перед собой цель обучить актёров «искусству переживания», чтобы не изображать своего персонажа, а как бы «стать им изнутри». То есть не просто имитировать поведение персонажа, как бог на душу положит, а построить в своей голове полную, функциональную и психологически достоверную модель сознания своего героя — ту самую «теорию разума».

В его блестящих работах «Работа актёра над ролью»[218] и «Работа актёра над собой»[219] представлены конкретные техники, которые напрямую задействуют и развивают «теорию разума». Так что, хотя Константин Сергеевич и не использовал современную терминологию, его ключевые работы представляют собой, по сути, практическое руководство по сознательному моделированию чужого внутреннего мира.

«Искусство переживания», о котором пишет Станиславский, представляет собой целенаправленную активацию механизмов «теории разума», а техники вроде анализа «предлагаемых обстоятельств» и поиска «сверхзадачи» являются методами построения полной и психологически достоверной модели сознания персонажа.

Например, Станиславский предлагал актёру задавать себе вопрос: «Что бы я делал, если бы оказался в предлагаемых обстоятельствах моего персонажа?» А это один из центральных алгоритмов работы «теории разума» — симуляция. И в рамках этого упражнения актёр использует свой собственный субъективный опыт, свои эмоции и мыслительные процессы как «эмулятор» для запуска симуляции сознания другого.

Актёр не спрашивает: «Что чувствует персонаж?» — он спрашивает: «Что я почувствовал бы на его месте?» Понятно, что ни один человек не имеет всего опыта переживаний, которые предлагает мировая театральная сцена, — от Уильяма Шекспира до Сэмюэля Беккета, от микенской принцессы Электры до Алекса из «Заводного апельсина».

Пусть и в малом масштабе, в рудиментарной, так сказать, форме мы испытывали самые разные чувства. Конечно, мы могли не переживать ревность Отелло или безумие Гамлета, но какую-то ревность и даже какое-то помутнение рассудка мы все в тот или иной момент своей жизни испытывали.

Поэтому, чтобы добиться достоверности актёрской игры, мы, по Станиславскому, должны пропустить это своё чувство через ситуацию героя, позволив ему разрас-тись до силы и глубины, предполагаемой художественным материалом.

Именно эту задачу и решала технология, которая получила в системе Станиславского название — «предлагаемые обстоятельства». От актёра требовалось досконально проработать все обстоятельства жизни его героя: кто он, в какой семье родился, какое воспитание получил, какие жизненные травмы пережил, где он находится, когда происходит действие, чего он хочет добиться и почему, что ему мешает, на что он рассчитывает и т. д.

В самом деле, когда мы интерпретируем поведение человека, мы интуитивно ориентируемся на его жизненный контекст, на свои представления о том, в какой ситуации он находится. И Станиславский прекрасно понимал, что нельзя построить достоверную модель сознания персонажа, не понимая его модель мира, его внутренний мир, не создав его «теорию разума».

Наконец, следуя системе Станиславского, актёр должен определить главную,