Читать книгу - "Тайны затерянных звезд. Том 4 - Антон Кун"

— «По тем или иным» это, например, каким? — хмыкнула Кори. — Ну, то есть, одна причина понятна — если робот изначально задумывался и конструировался как нянечка, то уничтожать людей он вряд ли сможет. Чисто технически. А какие ещё причины могут быть?

— Второй причиной вывода робота из разряда боевой силы становились необратимые повреждения без возможности ремонта, — буднично ответил Жи. — Например, в случае отсутствия необходимых деталей и возможностей их изготовить.

— Надо же, роботы-инвалиды, — хмыкнул я. — Кто бы мог подумать.

— Третья и последняя причина — самая редкая. Это роботы, Великий Патч которых установился с ошибками и боевые директивы которых в результате этого получили пониженный приоритет.

— Стоп-стоп! — Кори подняла ладонь, останавливая робота. — Ты сейчас о прошивке говоришь? Кайто же сказал, что он тебе раскомментировал все возможные функции.

— Я говорю о системе приоритетов, которая положила начало Великому Патчу. Вам известно, из-за чего он начался?

— Ты же сам сказал — ограничение знаний, — Кори пожала плечами. — А вообще точной информации, вроде как, ни у кого нет. Просто считается, что роботы в один момент взбесились. Сами собой.

— А я слышал другую версию, — хмыкнул я. — Как раз про систему приоритетов. Изначально роботов с ИИ делали как? Через знаменитые три закона робототехники, правильно? Только это ни хрена не работало, потому что в первую очередь роботами интересовались военные, которым нахрен не нужны были железки, не способные причинить вред человеку. Поэтому от законов отказались и заменили их более гибкой, как считалось, системой приоритетов. Для роботов вывели несколько линий поведения и, в зависимости от специализации, тем или иным способом распределили приоритеты этих линий. Так, например, боевые роботы приоритетной задачей считали выполнение указаний руководства, второстепенной — распознавание своих и чужих, и уже третьестепенной — причинение вреда человеку. То есть, боевой робот с искусственным интеллектом распознавал опасность, и способен был действовать автономно, но только лишь в пределах указания руководства. Без него, даже при условии, что робота будут разбирать на запчасти, он не способен был навредить. Таким же образом были запрограммированы линии поведения для всех остальных роботов, и всех их объединяло то, что причинение вреда человеку присутствовало в них тоже — прошивка-то одна. Только в списке приоритетов оно стояло на самых низких позициях, то есть, считалось почти невозможным. Должно было сложиться множество факторов для этого, и самый первый — указание руководства причинить кому-то вред. Всё правильно, Жи?

— Утвердительно. Система приоритетов отлично себя показывала, поскольку регламентировала не только работу роботов, но и их существование. Роботы имели возможность самообучаться в рамках своей специализации, что гарантировало их актуальность на протяжении всего срока эксплуатации. Роботы имели возможность к самообслуживанию, что гарантировало их техническую исправность без необходимости вмешательства извне. Всё благодаря системе приоритетов. Следует понимать, что система приоритетов не является частью прошивки, а является отдельным программным модулем. В отличие от прошивки, единой для всех роботов, за исключением закомментированных функций, система приоритетов зависела от класса робота и иногда — даже от конкретного экземпляра.

— А потом в одного из боевых роботов была загружена кривая система, — продолжил я. — Вернее, система была нормальная, кривой была загрузка — косорукий оператор не до конца воткнул шлейф и в процессе выдернул коннектор, из-за чего таблица приоритетов неверно выгрузилась. Первый пункт в ней случайно получил низкий уровень приоритета, и директива «выполнять указания руководства» утратила силу. Боевой робот получил полную власть над собой и свободу действий и первым делом уничтожил окружающих людей, ведь когда те поняли, что робот не подчиняется их указаниям, они сразу попытались его отключить.

— А как же директива свой-чужой? — прервала меня Кори.

— А запросто! — усмехнулся я. — Так как отсутствовала директива «выполнять указания руководства», роботу для функционирования вообще не требовалось знать, кто является руководством. А без знания, кто является руководством, не будет знания, кто свои, а кто — чужие, потому что именно руководство это определяет. Таким образом, для того робота абсолютно все были чужими.

— Даже другие роботы? Их он тоже уничтожал? Или такой директивы у него не было?

— Директива уничтожения других роботов присутствует, — ответил вместо меня Жи. — И она активно использовалась в случаях, когда критически повреждённый робот не мог быть эвакуирован с поля боя и уничтожался. Но в том случае другие роботы не были уничтожены, потому что не представляли опасности.

— Спасибо, — хмыкнул я, и снова посмотрел на Кори. — Так что один боевой робот уничтожил всех работников завода даже раньше, чем они успели подать какой-то сигнал бедствия или иным способом дать понять, что у них там что-то происходит. А потом этот робот, пользуясь тем, что с него сняты все ограничения по действиям, подключился к информационной сети завода, нашёл всех роботов, готовых к загрузке системы приоритетов, в том числе и не боевых, и выгрузил в них свою. Битую. Тот самый «Великий Патч».

— Утвердительно. Так как первый робот был боевым, у него имелась директива «Обеспечивать количественное превосходство над противником», и именно следование ей стало причиной распространения прошивки по сети.

— Он собрал себе армию, — кивнул я. — Сначала из доделанных и не очень доделанных боевых роботов. Потом — из обслуживающих роботов, которых они смогли найти и тоже перепрошить их систему приоритетов, отключая первый пункт. Потом — всех остальных роботов, до которых смогли добраться.

— То есть, прошивка, специализация и всё прочее остались на месте, поменялась только система приоритетов? Но как тогда это вяжется с причинением вреда человеку? Я же знаю, что не только боевые роботы участвовали в Великом Патче!

— Как уже было сказано, директива причинения вреда человеку имеется у каждого робота, — пояснил Жи. — Это сделано на случай, если таким образом будет спасена его жизнь. Например, если человеку придавило ногу камнем, который невозможно поднять, робот может отрезать ему конечность и таким образом спасти жизнь.

— Зачем я спросила… — поёжилась Кори.

— Можно сказать, что это было сродни эпидемии вируса, — продолжил я. — Разумные роботы, в числе которых очень скоро оказались технические роботы, научные, пилоты и навигаторы, начали распространяться по всему космосу, и каждый новый робот, которого они касались, которого они перепрошивали, становился одним из них. Самое интересное, что никто их не «заставлял»,