Читать книгу - "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего - Елена Сергеевна Ларина"

7. Обеспечивайте ответственные разработки, тестирование и использование автономных систем с поддержкой ИИ.

Если система на базе искусственного интеллекта не работает так, как задумано, предсказуемо и не руководствуется четкими принципами, операторы не будут ее использовать, военные службы не примут ее, и американский народ не поддержит ее. Спешка в интеграции ИИ будет контрпродуктивной, если из-за этого сотрудники утратят уверенность в ее преимуществах. Все военные системы требуют тщательного тестирования, гарантий и понимания того, как они могут работать в реальном мире, в отличие от испытательного стенда. Автономные системы оружия с поддержкой ИИ могли бы быть более точными и, как следствие, сократить жертвы среди гражданского населения. Но они также поднимают важные этические вопросы о роли человеческого суждения в применении смертоносной силы. Если они неправильно спроектированы или используются, они могут увеличить риск военной эскалации.

Потребуется совершенно новый подход к тестированию, оценке, валидации и верификации (TEVV). Министерство обороны должно адаптировать и разработать политики и возможности TEVV с учетом изменений, необходимых для ИИ, по мере роста количества, масштабов и сложности систем с поддержкой ИИ. Они должны включать создание структуры и культуры TEVV, которые будут непрерывно тестироваться; сделать инструменты и возможности TEVV более доступными для Министерств обороны; обновлять или создавать виртуальные и конструктивные тестовые диапазоны для систем с ИИ; реструктурировать процессы, лежащие в основе требований к системному проектированию, разработке и тестированию.

Доктрина Шмидта заслуживает того, чтобы быть внимательно изученной российскими структурами, ответственными за обеспечение национальной безопасности.

2.5. Трансгуманизм и искусственный интеллект

Всевозрастающее число фактов позволяет неангажированным исследователям говорить о нисходящей деструкционной динамике не только в политэкономическом, но и в социально-культурном и даже в бытовом существовании людей. На наших глазах происходят процессы отрицательной конвергенции. В подавляющем большинстве стран одновременно, накладываясь друг на друга, всё яснее проявляют себя наиболее негативные черты реального социализма и деструктивные компоненты позднего капитализма. Ни США, ни Китай, ни ЕС, ни Россия не избежали этого процесса.

Технико-технологический прогресс, будучи динамикой «второй природы» мира вещей и технологий, формируется и изменяется в значительной степени под воздействием социально-экономических отношений и культурно-поведенческих тенденций.

Помимо прочего, это означает, что один и тот же процесс, будучи реализованным в восходящей или в нисходящей фазах цивилизационной динамики, имеет существенно различное содержание и различную наполненность. Если содержание отражает, что называется, суть дела и определяет алгоритмический, технологический порядок того или иного процесса, то наполненность связана с пониманием сути процесса со стороны общества и, прежде всего, групп, принимающих решения.

Столь витиеватое введение необходимо для обоснования не вполне тривиальной, но имеющей множество фактических доказательств мысли. Если сравнить тот или иной процесс, явление или феномен с конфетой или батоном колбасы, то в глаза бросается следующее. В восходящей фазе всех интересует суть дела – состав колбасы или вкус конфеты. В нисходящей же, деструктивной фазе всё внимание переключается на внешние проявления. Здесь действует принцип «Упаковка или обёртка – всё, а вкус и содержание – вторичны».

В нынешнее время ключевые факторы и процессы социодинамики получают поверхностную оценку. Причём это происходит не только на уровне публикаций в «жёлтых» массмедиа или в выступлениях политиков, но и в среде профессионалов тех или иных областей знания.

Сегодня только ленивый не говорит об искусственном интеллекте, трансгуманизме, реальности и виртуальности цифрового мира. Как только заходит речь об ИИ, в ход идут абсолютно безграмотные суждения о неизбежности замены человека искусственным разумом, о враждебности ИИ к социуму, о поистине безграничных возможностях программно-аппаратных средств в условиях естественных ограничений способностей и возможностей человека. Эта безграмотная чушь буквально забила все информационные магистрали и сформировала не только у населения, но и у ведущих международных политиков мистическую (до шизофрении) картину мира.

Ещё 40 лет назад не только гигантам мысли, но и просто интересующимся гражданам, а тем более – исследователям и работникам министерств и ведомств, было ясно и понятно, что такое искусственный интеллект, что он может, а чего – нет. Однако на место твёрдой научной фантастики пришло причудливое фэнтези. Эльфы и гоблины победили не только Саурона, но и разрушили мир Кольца из «Туманности Андромеды». Двоечники 80-90-х годов стали принимающими решения субъектами. Соответственно, ИИ они воспринимают исключительно в жанре фэнтези – как что-то могущественное и зловещее, как сакральную опору неправильной власти.

Между тем, ИИ, по сути, мало чем отличается от механического счётного аппарата типа арифмометра. Благодаря высочайшему темпу осуществления вычислений он способен в единицу времени проводить гигантское количество комбинаторных операций. А эти операции, в свою очередь, позволяют распознавать те или иные явления и процессы, оптимизировать их по критерию затраты/результаты и, наконец, создавать нечто новое из комбинаций, т. е. добавления и удаления каких-то базовых элементов. Вот эти три операции, а именно классификация, оптимизация и морфизация, и составляют полный набор операций, выполняемых ИИ в самых различных сферах знания, производства и досуга.

В этом нет никакого умаления мощи или значения искусственного интеллекта. Он столь же полезен, как и реактивный двигатель. Он позволяет решить целый ряд специализированных задач и сделать в этой области возможным то, что ещё вчера считалось немыслимым. Однако утверждать превосходство ИИ над человеком – приблизительно то же самое, что и полагать самолёт превосходящим пилота.

Бесспорно, скорость самолёта делает бессмысленным его сравнение с пилотом по конкретному параметру, а именно по скорости передвижения. Но пилот – это не машина для передвижения. Точно такая же ситуация с ИИ. Он способен в сотни, а возможно – и в миллиарды раз быстрее осуществлять те или иные вычисления по программам и алгоритмам, заданным людьми.

Таким образом для того, чтобы не поддаваться на сладкие или, наоборот, алармистские песни сирен электронных масс-медиа, надо соблюдать информационную диету, сохранять здравомыслие и пользоваться содержательным подходом к рассмотрению явлений и процессов.

Поскольку искусственный разум – это гигантское вычислительное устройство, то он работает исключительно с дискретными процессами и предполагает в подавляющем большинстве случаев наличие человеко-машинного взаимодействия или интерфейса. И вот здесь мы прямиком выходим на следующего ключевого героя псевдонаучного фэнтези десятых годов нынешнего столетия, а именно – на трансгуманизм.

Трансгуманизм существует сравнительно недавно, меньше двух веков. Строго говоря, его появление в нынешнем виде сопряжено с глобальным признанием теории одного известного путаника – Чарльза Дарвина. Как сегодня выясняется, он в значительной степени использовал для доказательства своей теории не экспериментальные факты, а натуралистские суждения.

Ни один серьёзный человек не будет спорить, что любые живые системы являются в высокой степени неравновесными, а потому обладают нелинейной динамикой. Направленность этой динамики подавляющее