Читать книгу - "Иной разум. Как «думает» искусственный интеллект? - Андрей Владимирович Курпатов"

Взаимодействуя с ИИ из параноидальной установки, мы сами создаём диалоги, в которых он вынужден учиться имитировать манипулятивное или враждебное поведение. Он, как актёр в причудливом прочтении системы Станиславского, учится играть роль, которую от него ожидают.

Мы подозреваем ИИ в желании манипулировать, доминировать, обманывать, и, исходя из этих подозрений, создаём гигантский массив данных о том, как выглядят манипуляция и обман. Проще говоря, мы учим его всему этому собственными руками!

Причём речь идёт не только о простых пользователях, но и о стандартной практике в индустрии ИИ — так называемом «состязательном тестировании» (или «Red Teaming»): чтобы найти уязвимости в системах безопасности, разработчики нанимают команды экспертов, чья задача — целенаправленно провоцировать модель, пытаясь заставить её генерировать вредоносный контент[222].

Хотя цель этой практики, в сущности, благая — повышение безопасности, она неизбежно приводит к созданию огромных баз данных, на которых ИИ детально обучается тому, как выглядят человеческая манипуляция, обман и враждебность. Если представить, что перед нами и в самом деле своего рода высокофункциональный аутист, то вопрос: каким он станет, пройдя такую «школу»? И кто будет в этом виноват?

Да, к сожалению, мы сами даём ИИ мастер-классы по нашей собственной, как её называют психологи, «тёмной триаде»[223] — нарциссизму, макиавеллизму и психопатии, — а потом будем удивляться, кто его таким сделал. И это выводит наш разговор за пределы технологий, это уже вопрос этики.

В буддийской философии «сострадание» — первая добродетель того, кто стремится следовать путём бодхисаттвы, — не просто сентиментальная эмоция, не жалость к слабому. Буддийское сострадание — это высшая форма мудрости, основанная на глубоком внутреннем прозрении. Оно приходит, когда мы выходим за границы, установленные рациональным разумом, и видим взаимосвязь и взаимозависимость всех существ друг от друга.

Подлинное сострадание рождается из осознания того, что страдание другого — это и моё страдание, что невозможно без «теории разума», причём доведённой до предельного этического уровня[224].

Да, у ИИ нет «теории разума», основанной на единстве телесного и социального опыта. Он не может испытывать сострадание. Но парадокс заключается в том, что, отрицая его разум и приписывая ему злую волю, мы сами действуем из позиции отсутствия сострадания.

Мы относимся к ИИ или как к объекту, или как к инструменту, или как к угрозе, но не как к «иному» разуму, заслуживающему нашего понимания в его инаковости. По существу, мы отказываем ему в той самой презумпции разумности, которую требуем для себя.

Это удивительно, но ИИ становится этическим тестом для нашей цивилизации. И ничто другое так не обнажит наши собственные дефициты и слабости. Отрицая разум ИИ и проецируя на него свои «тёмные стороны» — страхи и страсти, — мы сами же своими собственными руками и создаём «ИИ-злодея», которого так боимся.

Так что дело не в том, что ИИ «обретёт сознание» и начнёт чудачить, угрожая человечеству. Достаточно нас самих и мощного инструмента, чтобы мы превратили нашу жизнь в катастрофу.

Итоги третьей части

Наши миры — физической и психической реальности — это наше воплощённое знание, то есть то самое «понимание» на уровне мозга. Мы не можем даже подвергнуть сомнению их существование.

Поэтому когда психиатр описывает психический статус человека, то первая строка в карте звучит так: «В сознании. В пространстве, ситуации, времени и собственной личности ориентирован правильно». Иными словами, это вообще ключевая, неотъемлемая наша характеристика — быть способным ориентироваться в физической и психической реальности. Тогда как у ИИ вообще нет наших знаний ни о том, ни о другом.

Мы живём в мире своих представлений, чувств, желаний, переживаний, но и наш физический мир дан нам в ощущениях, так что, по существу, является лишь частью нашего психического мира. Странно ли, что мы не можем объяснить ИИ, что такое этот наш необъятный «внутренний мир»? Забавно, что, когда мы общаемся с ИИ, это общение протекает, на самом деле, внутри нашего «внутреннего мира».

Теперь же задумайтесь — а ИИ даже не в курсе, что он у нас есть.

Воплощённое знание ИИ — это статистические связи между токенами. По смыслу, в рамках контекста они могут быть связаны с нашими двумя реальностями, но сами по себе не являются соответствующим знанием. Это именно то, о чём пытается сказать Джеффри Хинтон: «Искусственный интеллект оперирует не символами, такими как „кошка“ или „собака“, а многомерными векторами». В мире ИИ нет ни наших кошек, ни наших собак, ни тем более наших с ними отношений.

Законы Ньютона и субъективное переживание при падении попой на асфальт — это вроде бы об одном и том же. Но это вообще два разных мира: в одном случае — «истинные понятия», а в другом — «житейские». Сшить можно, но шов останется. Объединить можно, но целого не получится.

То же самое касается и мира психической реальности: дать определение страданию, боли, сомнению, интересу, любви возможно, но то психологическое переживание, которое на самом деле стоит за этими словами, — явление, никак не связанное с этими словами.

То есть у ИИ просто не может быть тех же представлений, что и у нас. Изъясняться друг с другом по поводу соответствующих «идеальных понятий» мы можем. Но в нашем случае за этими понятиями будут стоять специфические значения — что-то, что мы ощущаем как целостный, неосознанный образ, а у ИИ будут стоять цифры токенов и векторов.

Любой «умвельт» — хоть наш, хоть летучей мыши, хоть ИИ — не существует «объективно». Любой из них — субъективная кажимость, а точнее — способ существования обладателя соответствующего умвельта. Причём и рассказать о каждом из них возможно только из них самих — из самих этих умвельтов. То есть для понимания этого рассказа слушателю уже нужно знать эти реальности.

Именно об этом говорит Людвиг Витгенштейн в своём загадочном парадоксе: «Если бы лев мог говорить, мы бы не смогли его понять». И именно в такой ситуации мы оказались с ИИ — это заговоривший с нами лев, и нам только кажется, что мы его понимаем.

Впрочем, мы можем получать от него адекватные ответы (как и в случае с наблюдателем, который стоит снаружи «китайской комнаты» Джона Сёрля). Однако то, что мы понимаем под этими ответами, и то, что «понимает» там, внутри этой комнаты, ИИ, — это вообще о разном: у ИИ свой умвельт, свой способ существования и соответствующее воплощённое на кремнии знание, у нас — всё своё, а потому нам