Читать книгу - "Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди"

• расширить возможности взаимодействия человека и машины;

• поддерживать конкурентоспособность человеческого мышления;

• обеспечить передачу знаний между ИИ и людьми;

• сохранить партнерский статус человека в сотрудничестве с ИИ.

Нейроинтерфейсы могут стать не просто следующим этапом технологического развития, а переходом к качественно новой форме существования. Для достижения подлинного паритета с ИИ, вероятно, потребуются более радикальные меры – например, создание специальных генетических линий, оптимизированных для взаимодействия с ИИ. Такие изменения способны преодолеть фундаментальные ограничения в обработке и передаче информации.

Однако подобные трансформации сопряжены с серьезными рисками – этическими, физиологическими и психологическими. Глубокая модификация человеческой природы может лишить нас точки отсчета для оценки будущих угроз. В то же время отказ обрести эти новые способности может поставить под вопрос нашу конкурентоспособность перед собственными творениями. На сегодняшний момент радикальная биомодификация представляется не только преждевременной – мы, авторы, считаем ее даже нежелательной. Однако выбор между вариантами, которые сейчас кажутся чем-то фантастическим, вскоре может стать неизбежным.

Тем временем в попытках определить свою роль в мире, где мы больше не будем единственными и хоть в чем-то значимыми действующими силами, полезно обратиться к теории коэволюции. Чарльз Дарвин подробно описал удивительный процесс взаимного влияния видов в процессе эволюции[155]. Никогда не использовавший этот термин, Дарвин был одним из первых, кто осознал: коэволюция представляет собой ключевую силу, организующую жизнь на Земле.

Геномы взаимодействующих видов взаимосвязаны – с течением времени они изменяются в ответ на особенности и потребности друг друга. Яркий пример – длинные тонкие клювы колибри и вытянутые венчики некоторых цветков: морфологические особенности птицы и растения развивались в тесной взаимосвязи.

Если во времена Дарвина религиозные лидеры видели в таких идеальных подстройках к условиям жизни доказательство божьего промысла, то Дарвин представил альтернативное объяснение.

Принципы коэволюции могут соблюдаться не только в биологии. В астрофизике существует теория, согласно которой расширение Вселенной обусловлено взаимозависимым развитием черных дыр и галактик – процессом, аналогичным взаимодействию колибри и цветов[156]. Более того, если рассматривать коэволюцию как процесс взаимной адаптации нескольких сторон, ее можно обнаружить и в брачных отношениях между людьми, и в платформах политических партий, и в международных отношениях. Яркий пример – гонка наступательных и оборонительных вооружений во время холодной войны, которая в итоге привела к стабилизации ядерного паритета.

Возможно, коэволюция является правилом, а стазис – исключением? Если это так, следует задаться вопросом: является ли наблюдаемая стабильность человеческого вида в эпоху ИИ естественным процессом? Если нет – как нам следует реагировать? Должны ли мы ускорять собственную эволюцию, рискуя утратить человеческую идентичность, или сохранять статус-кво, рискуя оказаться на периферии технологического прогресса?

Многие эксперты выражают опасения, что появление технологии, наделенной превосходящим интеллектом, может поставить под угрозу само существование человечества. Как быть? Если эта перспектива – всего лишь естественный побочный эффект коэволюции, должны ли мы сопротивляться или, наоборот, адаптироваться? Как отмечал французский философ Ален Бадью, «море само создает лодки, выбирая, какие годны, а каким – пойти ко дну»[157].

Чтобы выжить в таких условиях, нам придется, как и в прошлом, учиться строить более совершенные суда. В этом контексте ИИ сначала предстает как угроза, но потенциально может стать нашим партнером.

Однако при таком подходе, пытаясь снизить риски одной технологии, мы увеличиваем опасности другой. Генетическая модификация может привести к разделению человечества на неравные группы. Если в отдельных случаях такие различия могут быть теоретически желательны (например, при создании разновидности людей, биологически адаптированных к условиям космоса), то в других – рискуют усугубить существующее неравенство, углубив разломы как внутри человеческих сообществ, так и между ними.

Еще более тревожными представляются моральные и эволюционные риски. Если ИИ сам будет влиять на усиление человеческих когнитивных способностей, это может породить двойную зависимость – как биологическую, так и психологическую – от искусственного разума. Как ее преодолевать, если возникнет необходимость бросить вызов машинам или отделиться от них, пока неизвестно: ясно лишь то, что в силу глубокой физиологической интеграции и интеллектуального взаимодействия задача была бы крайне сложной. Это подтверждают и аналогии с крайне устойчивой зависимостью, вызываемой другими технологиями.

Но наибольшую тревогу вызывает возможность «коллективной слепоты» – ситуации, когда общество не сможет адекватно оценить последствия глубокой интеграции с ИИ. Как предупреждал Лев Толстой, «без контроля над направлением теряется смысл пункта назначения»[158]. Куда бы технологии нас ни повели, мы волей-неволей отправимся именно туда. Или, как уже было замечено, «нация, которая не формирует события согласно своим целям, в итоге будет поглощена чужими»[159]. Более того, спасем ли мы человечество, изменив людей до неузнаваемости? Устранив несовершенства и компенсировав недостатки, мы рискуем утратить то, что делает нас людьми. Биологическая «модернизация» может привести к обратному результату и обернуться еще большим ограничением для нас самих.

Учитывая эти риски, биологическая адаптация человека к ИИ не должна рассматриваться как приоритетная стратегия. Вместо этого следует сосредоточиться на альтернативных путях существования. Если мы не готовы или не способны стать более похожими на машины, мы должны – пока еще можем – сделать их более похожими на нас. Это требует глубокого понимания как природы ИИ, так и сущности человечества. Только такой подход позволит сохранить человеческую в эпоху стремительного технологического прогресса.

Сосуществование человека и ИИ

Царь Мидас – увековеченный мифами правитель одного из малазийских царств – возжелал, как гласит легенда, чтобы все, к чему он ни прикоснется, превращалось в золото. Дионис, греческий бог вина и удовольствий, исполнил это желание, предвидя, впрочем, его губительные последствия. Вскоре царь осознал свою ошибку: ставшая несъедобной пища и вина из чистого золота заставили Мидаса жаждать лишь избавления от оказавшегося смертельно опасным заклятия (помогло ему омовение рук в реке Пактол)[160].

В сирийской сказке про Аладдина, переосмысленной Disney, бедный юноша и могущественный персидский визирь соперничают за власть над всесильным джинном, заточенным в волшебной лампе[161]. Оба пытаются направить силы джинна на исполнение своих желаний. В финале визирь, желая сравняться могуществом с джинном, не осознает, что обрекает себя на ту же участь: теперь он сам будет заключен в волшебную лампу, вынужденный служить новым хозяевам, пока его не освободят.

Оба древних сюжета – и про Мидаса, и про джинна – раскрывают извечную дилемму: как использовать силу, которую мы не до конца понимаем и не можем полностью контролировать? В современном мире эта проблема проявляется в сложностях согласования ИИ с человеческими ценностями и в несоответствии наших ожиданий реальности. ИИ продолжает преподносить сюрпризы, причем его способность удивлять – как в цифровом, так и в материальном мире –