Читать книгу - "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего - Елена Сергеевна Ларина"

обнаружить и избежать непредвиденных последствий; способность предпринимать шаги, такие как отключение или деактивация систем, если такие системы демонстрируют непреднамеренное поведение.

Снижение предвзятости: будут предприняты упреждающие меры, чтобы свести к минимуму любую непреднамеренную предвзятость при разработке и использовании приложений ИИ и наборов данных.

Согласившись принять эти взаимоусиливающие принципы, задача превращается в воплощение их в принципиальные действия. Таким образом, роль НАТО в реализации этих принципов будет включать в себя усилия, которые аналогичным образом затрагивают различные аспекты жизненного цикла технологии. Встраивание принципов ответственного использования в интерфейс разработки ИИ важно, потому что, чем позже они будут рассмотрены, тем сложнее будет обеспечить их соблюдение. Обеспечение подхода на основе полного жизненного цикла также зависит от участия многих заинтересованных сторон, поскольку ответственность распределяется между разработчиками политики, дизайнерами, разработчиками и тестировщиками, а также конечными пользователями, участвующими в разработке и использовании ИИ. Для НАТО это актуально, потому что различные организации играют активную роль в интеграции ИИ.

Общая приверженность этим принципам также имеет практические преимущества, обеспечивая согласованную общую основу как для НАТО, так и для союзников при проектировании и разработке приложений ИИ, а также для поддержки оперативной совместимости. Таким образом, НАТО может способствовать необходимой взаимосвязи между безопасностью, защищенностью, ответственным использованием и оперативной совместимостью. Это видно по принципам.

Применение принципов на практике

Эти устойчивые принципы также лежат в основе обсуждения и принятия более подробных передовых практик и стандартов. Союзники и НАТО могут использовать консультативные механизмы НАТО, а также специализированный персонал и средства НАТО в активной работе для достижения этой цели. Собственные усилия НАТО по стандартизации и сертификации также могут быть подкреплены согласованием с соответствующими международными органами по стандартизации, в том числе в отношении гражданских стандартов ИИ.

В дополнение к передовым методам и стандартам, эти принципы также могут быть реализованы с помощью других механизмов, включая методологии анализа, оценки рисков и воздействий. Кроме того, совместная деятельность НАТО обеспечивает основу для тестирования, оценки и проверки (TEVV) возможностей ИИ в различных контекстах. В частности, опыт НАТО не только в операциях, но и в испытаниях, учениях и экспериментах предоставляет несколько возможностей, с помощью которых союзники и НАТО могут проверить принципы на предмет предполагаемых вариантов использования. Это дополнительно подкрепляется научными и техническими сообществами НАТО, которые работали над такими вопросами, как доверие, взаимодействие человек-машина и машина-машина и многими другими.

В дополнение к существующим мероприятиям реализация Стратегии ИИ также выиграет от сотрудничества с создающейся организацией «Ускоритель оборонных инноваций НАТО для Северной Атлантики» (DIANA). Центры тестирования союзников, связанные с DIANA, могут использоваться для достижения целей, изложенных в определениях принципов. В будущем использование этих центров тестирования может помочь убедиться, что внедрённые и интегрированные ИИ проверены на надежность и отказоустойчивость. Например, чтобы убедиться, что ИИ понятен, надежен центры тестирования могут синтезировать, как системы ИИ работают в различных смоделированных средах и на разных данных тестирования, или обеспечивать независимую валидацию и верификацию для оценки соответствия стандартам, ориентированным на ответственное проектирование.

Посредством принятия принципов ответственного использования ИИ НАТО и союзники направляют публичное послание своему населению и другим государствам, подтверждая непреходящие ценности и обязательства Североатлантического союза в соответствии с международным правом.

Ускорение принципиального и функционально совместимого принятия

Принимая этические аспекты, которые подчеркиваются в этих принципах, НАТО имеет возможность выполнить взятые на себя обязательства. Они включают в себя взаимодействие со стартапами, инновационными малыми и средними предприятиями и академическими исследователями, которые либо не рассматривали возможность работы над решениями задач защиты и безопасности, либо полагают, что пути внедрения слишком медленные или ограничивающие для их бизнес-моделей. В отличие от разработки традиционных военных платформ, интеграция ИИ требует постоянного обновления.

Поскольку враждебные государственные и негосударственные субъекты увеличивают свои инвестиции в новые и прорывные технологии, включая ИИ, более гибкий подход к внедрению становится все более актуальным. В этом контексте, уделяя особое внимание TEVV и совместной деятельности, Стратегия ИИ устанавливает основу для технологических инструментов, позволяющих перехитрить конкурентов и противников. Делая больший упор на гибкость и адаптацию, НАТО может сделать оборону и безопасность более привлекательным сектором для гражданских новаторов, с которыми они могут сотрудничать.

При этом усилия по укреплению трансатлантической инновационной экосистемы также могут служить оплотом против нежелательных иностранных инвестиций и передачи технологий.

Опыт НАТО не только в операциях, но и в испытаниях, учениях и экспериментах предоставляет определенные возможности, с помощью которых союзники и НАТО могут проверить принципы на предмет предполагаемых вариантов их использования. Это дополнительно подкрепляется научными и техническими сообществами НАТО, которые в том числе прорабатывали такие вопросы, как доверие, взаимодействие человек-машина и машина-машина, а также интеграция человек-система.

Двигаться вперед

Безусловно, ускоренное внедрение ИИ зависит не только от технологий, но и в равной степени от талантливых и квалифицированных людей, которые продвигают передовые технологические достижения и интеграцию. НАТО также уделяет внимание другим ресурсам ИИ, в частности, путем разработки Рамочной политики использования данных НАТО. Благодаря действиям по обращению с данными как со стратегическим активом, разработке аналитических инструментов, а также хранению данных и управлению ими в соответствующей инфраструктуре, Политика использования данных устанавливает условия для успешного внедрения Стратегии ИИ.

Помимо взаимосвязи между данными и ИИ, жизненно важное значение будет иметь обеспечение согласованности усилий НАТО в области ИИ и других новых и прорывных технологий, таких как биотехнология, квантовые вычисления и т. п. Поскольку союзники и НАТО стремятся достичь цели Стратегии ИИ, связи между ответственным использованием, ускоренным внедрением, оперативной совместимостью и защитой от угроз имеют решающее значение. Действительно, эти связи будут также использоваться в последующей работе НАТО над другими новыми и прорывными технологиями. В более широком смысле это влечет за собой большую согласованность между направлениями работы над технологиями, понимание того, что будущие технологические преимущества НАТО, а также угрозы, с которыми столкнется Североатлантический союз, зависят от их сближения.

Таким образом, Стратегия НАТО в области ИИ закладывает основу для амбиций НАТО и союзников в отношении других новых и подрывных технологий. Для каждого из них будущее стратегическое преимущество, которое дает инновационная деятельность НАТО, будет проистекать из связей между этическим лидерством, итеративным принятием и интеграцией, которая в том числе предполагает гибкость, оперативную совместимость и доверие.

Квантовые технологии в обороне и безопасности

Мишель еан Амеронген, 3 июня 2021 г.

Учитывая потенциальное значение новых квантовых технологий для обороны и безопасности, НАТО определила квантовые технологии как одну из своих ключевых новых и прорывных технологий. В этой статье делается попытка раскрыть некоторые из интересных будущих приложений квантовых