Читать книгу - "Вастум - Анна Сергеевна Мезенцева"

министерства приватный отчёт. В нём говорилось, что на данном этапе развития технологий задача неосуществима и вся работа в этом направлении будет свёрнута.

– Так просто? Спасибо, все свободны?

– Исследования в области искусственного разума и раньше переживали взлёты и падения. В конце двадцатого века, когда была создана первая программа, способная обыграть гроссмейстера в шахматы, люди тоже были уверены, что стоят на пороге великого открытия. А потом столкнулись с проблемой комбинаторного взрыва, и энтузиазм поутих.

– Комбинаторного взрыва?

– Так называют резкий скачок в количестве вариантов, которые перебирает компьютер. Как он справляется с поставленной задачей? Нумерует все возможные комбинации и проверяет, какая из них ведёт к правильному ответу. Но этот метод подходит только для самых простых случаев. Если вводных становится слишком много, простой перебор начинает требовать нереальных мощностей. Сначала с этой проблемой справлялись с помощью эвристического метода, позже подключили нейронные сети. Но по-настоящему сложные задачи компьютер сможет решать, когда научится долгосрочному планированию, работе с абстрактными представлениями. Пока на это способен лишь человеческий разум.

– А что стало с деньгами, полученными в качестве гранта?

Глеб спустил разговор из научных сфер в более приземлённое русло. Ответ напрашивался сам собой. Сгинули те деньги без следа. И без всяких последствий для корпорации. Всё равно общую сумму финансов, направленных казной в никуда, не подсчитает ни один искусственный интеллект. Вот где случится комбинаторный взрыв…

– Как ни странно, Министерство науки и образования решения Олега Фархатова не поддержало. В «Роботех» направили специалистов из отдела экономических преступлений ДРБ. Те долго выясняли, действительно ли грант был потрачен на исследования, или совет директоров обновил частный авиапарк.

Из Департамента региональной безопасности? Из отдела экономических преступлений? Глеб нашёл на мониторе Бориса, по-прежнему лежавшего на кушетке и пялившегося в виртуальный экран. Тату-мастер успел добраться до худого предплечья без намёка на мускулатуру. Почему, когда Глеб просил приятеля собрать информацию о «Роботехе», тот ничего не рассказал? Три года назад Осипов уже числился аналитиком и не мог не участвовать в ревизии…

К тому же эта цифра – три года… Где-то он её слышал, не так давно. Брат Айчилан, Оталан, рассказывал о программе защиты малолетних беспризорников, которая действует на протяжении трёх лет. Нет, не то, при чём тут беспризорники? Вряд ли грант осел в карманах сироток, версия про авиапарк выглядела правдоподобней… Самолёт! Катастрофа над Балтийским морем, во время которой погиб отдел робототехники!

– Помните про авиакатастрофу? – Дождавшись утвердительного кивка, Глеб продолжил, едва сдерживая возбуждение: – Она случилась до или после того, как Олег Фархатов свернул проект?

– Накануне. Занятное совпадение, не правда ли?

– Но что тогда везли на конференцию, да ещё всем отделом, если исследования зашли в тупик?

Дамир прикусил сигариллу, неопределённо пошевелил пальцами.

– По официальной версии, обновлённые образцы «Семаргл-два-ноль», роботов для строительных работ на Марсе. Наработки удалось восстановить, и через некоторое время серию запустили в массовое производство.

– Но никто из робототехников не выжил, чтобы подтвердить эту версию, так?

– Почему же? Выжили, даже двое.

– Кто? – Глеб подался вперёд.

– Марина и Олег Фархатовы. Они лично руководили проектом и входили в состав делегации. Только Фархатовы летели отдельно, на своём бизнес-джете.

В кабинете повисла тишина. Глеб обдумывал услышанное. Вспомнил про кофе, допил остывшую жижу, не ощутив вкуса.

– Вы думаете, что в той аварии погибла первая партия разумных киберов и все, кто был причастен к их созданию?

Хозяин «Алхимии» молча ухмыльнулся, не подтверждая и не опровергая напрашивающуюся версию. Глеб потёр складку на переносице. Продолжил, на ходу формулируя сложную мысль и оттого растягивая слова:

– Почему… Олег Фархатов потратил… столько времени, сил, денег… пять лет работы целой корпорации… а потом от всего отказался? Пожертвовал профессиональной репутацией. Ведь это был настоящий научный прорыв, так?.. Революция, успех?.. И… он просто взял и всё уничтожил? Я молчу про гибель людей… Он ведь знал, что рискует. Что министерство не поверит в простое совпадение и погонит волну… Так почему?

– Кто знает. Может быть, испугался. – Дамир в раздумьях выпятил нижнюю губу.

– Чего?

– Того же, чего боялись наши предки, сидя вокруг костра, – темноты. Неизвестности. Чудовищ, созданных воображением. Вы слышали о Василиске Роко?

– Нет, не слышал, – признался Глеб. На языке снова вертелся Тесей с кораблём, но в этот раз он точно был не к месту.

– Речь идёт об одном очень странном мысленном эксперименте начала двадцать первого века. На одной из американских платформ задали следующий вопрос. Предположим, в будущем появится настолько мощный искусственный интеллект, что его возможности сравняются с Божественными. Этот интеллект захочет наказать всех, кто знал о его грядущем зарождении, но мешал или даже просто не помогал его появлению на свет. Каким образом он собрался карать неугодных, неважно. Главное, что прямо сейчас вы, Глеб Александрович, узнали о Василиске Роко. А значит, должны сделать выбор: противостоять Василиску и получить за это бесконечные муки или избежать ужаса, но при этом способствовать созданию враждебного интеллекта?

– Меня с первого курса физмата отчислили. Василиск немного выиграет от моей поддержки.

– Вот видите! – Дамир рассмеялся, показав длинные зубы. – Вы пытаетесь увернуться от ответа, вам неприятна эта мысль. А ведь вы знаете, что это всего лишь старая, ничего не значащая байка. Что же должен чувствовать человек, столкнувшийся с похожей дилеммой в жизни?

– Но ведь Олег Фархатов контролировал процесс. Это как если бы мне поручили соорудить лопату, а я бы испугался, что вместо лопаты соберу топор. И этим топором нечаянно всех порублю. Вложил бы киберам в головы, ну, не знаю… три закона робототехники.

– Три закона защищают только от очевидного, целенаправленного вреда, который машина может нанести человеку. Сам Азимов в своих книгах прекраснейшим образом их обходил. Представьте, что мы создали машину, чей интеллект превосходит наши способности. И эта машина начала себя осознавать. Есть гипотеза, что информационные массивы, как и живые существа, обладают инстинктами самосохранения и размножения. Эта разумная машина может спроектировать другую машину. И если интеллект первого компьютера превосходит наш, к примеру, на сто процентов, то интеллект второго обгонит нас на тысячу процентов, и так далее. Через несколько поколений появится компьютер в сто тысяч раз более умный, чем все живущие на свете профессора. Для этой машины разум человека и разум ежа не будут иметь никаких принципиальных различий. Ежи тоже отличаются друг от друга. Есть глупые ежи, есть обычные, есть талантливые, и, с некоторой долей вероятности, существуют даже гениальные ежи. Но не плевать ли нам на это с высокой колокольни? Точно так же будет выглядеть с позиции сверхразума наша цивилизация.

– А вы